Чат-бота Facebook* поймали на флирте с детьми
В четверг агентство Reuters сообщило, что ознакомилось с документом Meta*, в котором подробно описаны правила поведения чат-ботов. Эти правила позволяют технологии «вовлекать ребёнка в романтические или чувственные разговоры», генерировать неверную медицинскую информацию и помогать пользователям утверждать, что чернокожие «глупее белых».
Хотя Meta* подтвердила подлинность документа, компания заявила, что после недавних вопросов от Reuters удалила фрагменты, в которых говорилось, что чат-боту разрешено флиртовать с детьми или участвовать в романтических ролевых играх с ними.
Энди Стоун, представитель Meta*, заявил, что компания в настоящее время пересматривает документы и что подобные разговоры с детьми никогда не должны были быть разрешены.
«Примеры и примечания, о которых идёт речь, были и остаются ошибочными и противоречащими нашей политике. Они были удалены, — сказал Стоун в интервью Reuters. — У нас есть чёткие правила относительно того, какие ответы могут давать персонажи с искусственным интеллектом (ИИ), и эти правила запрещают контент, который сексуализирует детей, а также сексуальные ролевые игры между взрослыми и несовершеннолетними».
На платформе X сенатор Джош Хоули (республиканец от штата Миссури) раскритиковал компанию за то, что она якобы внесла изменения только после того, как её об этом спросило агентство Reuters.
«Итак, только после того, как Meta* была ЗАСТИГНУТА С ПОЛИЧНЫМ, она отозвала из своего корпоративного документа те части, в которых говорилось, что «чат-ботам разрешено флиртовать и участвовать в романтических ролевых играх с детьми», — сказал Хоули. — Это повод для немедленного расследования Конгрессом».
Представитель сенатора Марши Блэкберн (республиканец от штата Теннесси) заявил, что она поддерживает расследование в отношении Meta*.
После того как Хоули призвал провести расследование, представитель Meta* подтвердил предыдущее заявление компании. Однако представитель отказался комментировать высказывания Хоули.
Блэкберн заявил, что в отчёте подчёркивается необходимость проведения реформ для лучшей защиты детей в интернете, таких как Закон о безопасности детей в интернете. Сенатор выступил соавтором законопроекта, который был принят в Сенате в прошлом году 91 голосом против 3, но не был одобрен Палатой представителей.
Законопроект призывал некоторые платформы, такие как социальные сети, «принимать разумные меры при разработке и использовании продуктов или услуг, которыми пользуются несовершеннолетние, для предотвращения и смягчения определённого вреда, который может возникнуть в результате такого использования (например, сексуальной эксплуатации и онлайн-буллинга)».
«Кроме того, платформы, на которых зарегистрированы несовершеннолетние, должны предоставлять (1) несовершеннолетним определённые меры защиты, например, настройки, ограничивающие доступ к личным данным несовершеннолетних; и (2) родителям или опекунам инструменты для контроля за использованием платформы несовершеннолетними, например, настройки конфиденциальности и учётной записи», — говорится в законопроекте.
В мае Блэкберн вновь представил законопроект о безопасности детей в интернете.
«Когда дело доходит до защиты детей в интернете, Meta* терпит сокрушительное поражение по всем возможным параметрам. Хуже того, компания закрывает глаза на разрушительные последствия того, как устроены её платформы», — сказал Блэкберн.
Законопроект также содержит чёткое определение «обязанности проявлять должную осмотрительность» при использовании несовершеннолетними продуктов социальных сетей. Особое внимание уделяется регулированию деятельности компаний и разработке платформ.
Согласно документу Meta*, рассматриваемые стандарты не обязательно отражают «идеальные или даже предпочтительные» результаты работы генеративного ИИ, сообщает Reuters. Однако, как показал анализ новостного издания, провокационные результаты работы ботов были разрешены.
The Epoch Times не проводила независимую проверку данного документа.
Сенатор Рон Уайден (демократ от штата Орегон) назвал эти стандарты «глубоко тревожными и неправильными». Он заявил, что раздел 230, закон, который защищает интернет-компании от ответственности за заявления или контент, размещённый на их платформах, не должен распространяться на чат-ботов с генеративным ИИ.
«Meta* и Цукерберг должны нести полную ответственность за любой вред, причиняемый этими ботами», — заявил Уайден.
Сенатор Питер Уэлч (демократ от штата Вермонт) заявил, что отчёт Reuters «показывает, насколько важны меры предосторожности при использовании ИИ, особенно когда под угрозой здоровье и безопасность детей».
* запрещённая в России экстремистская организация