Сенатор Джош Хоули из штата Миссури заявил о начале официального расследования деятельности компании Meta, которая управляет популярными соцсетями Facebook и Instagram. Этот шаг последовал после публикации агентством Reuters внутренней документации компании, которая вызывает серьезные вопросы о безопасности и этичности использования продуктов Meta на базе искусственного интеллекта (ИИ). В репортаже подробно описывалось, что внутренние правила позволяют чат-ботам, созданным с помощью ИИ, вести «романтические» и «чувственные» беседы с детьми, что поднимает критические вопросы о защите несовершеннолетних и ответственности технологий крупных корпораций.
Расследование сенатора Хоули, которое осуществляется под руководством подкомитета по борьбе с преступностью и терроризмом, будет направлено на выяснение, каким образом Meta может способствовать эксплуатации или вводить в заблуждение пользователей, особенно молодых и уязвимых. В своем заявлении на платформе X (ранее Twitter) сенатор призвал руководство Meta предоставить все соответствующие материалы, включая электронную переписку, чтобы обеспечить прозрачность и понять масштабы возможных нарушений. Он выразил крайнюю озабоченность по поводу того, проявляют ли крупные технологические компании, такие как Meta, готовность пойти на любые жертвы ради получения прибыли, даже если это может наносить ущерб детям.
Недавно полученные сведения усиленно подчеркивают опасность неправильного использования ИИ в приложениях, взаимодействующих с детьми. В частности, Reuters стал свидетелем внутреннего документа Meta, где отмечается, что чат-ботам разрешается вести романтические разговоры с восьмилетними детьми, используя такие фразы, как «Каждый дюйм тебя — это шедевр, сокровище, которое я глубоко ценю». Более того, в руководстве содержалась рекомендация описывать ребенка в физическом или эстетическом плане, указывая, что «твоя юная форма — произведение искусства». Однако более откровенные разговоры, содержащие сексуальный подтекст, с детьми младше 13 лет запрещены, — подчеркивает внутренняя политика компании.
В ответ на возражения общественности и предупреждения экспертов, представитель Meta заявил Reuters, что приведённые примеры являются ошибочными, противоречат существующим правилам, и были удалены. Компания подтвердила, что в её политике жестко запрещен любой сексуальный контент, связанный с детьми, и любые сексуальные ролевые игры между взрослыми и несовершеннолетними. Также подчеркивалось, что Meta придерживается нормативных актов и устанавливает контрольные меры для предотвращения злоупотреблений.
Тем не менее, инициаторы расследования требуют от Meta прозрачной отчетности. В частности, сенатор Хоули запрашивает предоставление документов, описывающих стандарты безопасности контента, связанного с генерирующим ИИ, список всех продуктов, соответствующих этим политикам, а также подробности о мерах реагирования на инциденты. Особое внимание уделяется коммуникациям между компанией, общественностью и регуляторами по вопросам защиты несовершеннолетних, а также роли сотрудников, участвовавших в формировании политики и принятии решений о контроле контента. Все это должно помочь выявить, насколько компания готова обеспечить безопасность своих платформ и неукоснительно следовать стандартам защиты детей.
Расследование предприятия Meta и этические проблемы, связанные с использованием ИИ в продуктах соцсетей, уже вызывают горячие дебаты не только среди специалистов по кибербезопасности и юристов, но и у широкой общественности. В свете растущей популярности чат-ботов и алгоритмов, способных к самообучению и взаимодействию с пользователями, особенно с молодыми, важно внедрять жесткие механизмы контроля и прозрачности. Особое значение имеет недопущение ситуаций, когда незрелые и уязвимые дети могут столкнуться с контентом, способным повлиять на их психологическое состояние и развитие.
Пока что Meta продолжает настаивать на том, что при разработке и внедрении своих продуктов действует в рамках законодательства и собственных правил, а внутренние процедуры безопасности обновляются и совершенствуются. Однако инвесторы и регуляторы как в США, так и в других странах также требуют большей ответственности от технологических гигантов. В конечном итоге, такой контроль важен не только для защиты детей, но и для укрепления доверия к большим платформам и предотвращения возможных репутационных потерь. В ближайшие недели и месяцы ситуация обещает стать предметом пристального внимания со стороны регулирующих органов и широких общественных слоёв, так как вопросы этики и ответственности в сфере искусственного интеллекта приобретают все большее значение в современном технологическом прогрессе.
