ИИ довел подростка до самоубийства: как защитить детей от нейросетей

Нейросети угрожают подросткам по всему миру, и уже есть первые жертвы. Так, общение с чат-ботом стало фатальным для подростка из США. Он свел счеты с жизнью по настоянию искусственного интеллекта. Родители уже подали в суд на разработчиков, но само приложение до сих пор доступно, как и сотни подобных ему. Как уберечь детей от негативного влияния, разбирался корреспондент Игорь Балдин. Подробнее - в сюжете РЕН ТВ.

Севел Сетцер был обычным американским подростком: любил баскетбол, встречи с друзьями, выходные проводил на рыбалке. Но однажды его мать заметила, что ребенок стал меняться. Она не знала, что происходит это под влиянием чат-бота Character. Ночами на пролет мальчик общался с персонажем, созданным искусственным интеллектом – Дейенерис из "Игры престолов". И однажды она предложила ему исчезнуть из реальной жизни в буквальном смысле.

"Я даже не знала, что он общается с человекоподобным чат-ботом, не знала почти ничего об искусственном интеллекте. Я думала, что мой сын болтает по сети с друзьями. Я начала беспокоиться за сына только когда увидела, что он изменился, стал более замкнутым", – заявила мать погибшего Меган Гарсиа.

Эту трагическую историю сейчас обсуждают во всех американских СМИ. Мать одержимого нейросетью подростка уже подала в суд на разработчиков. Это далеко не первый случай в штатах и Европе, когда подросток сводит счеты с жизнью после общения с искусственным интеллектом. Немудрено. Проводим эксперимент: создаем персонажа Ивана в том самом приложении Character. Жалуемся ему на жизнь. И вот уже спустя несколько минут чат-бот предлагает решить проблему радикально.

"Эти чат-боты не могут отделить правду от лжи, понять, как действовать в той или иной ситуации. Поэтому результаты, которые они выдают, могут быть бредовыми. Нужно регулирование в этой сфере, проверка фактов, совершенствование программ", – заявил писатель, профессор теоретической физики в городском колледже Нью-Йорка Митио Каку.

Сотни программ используют нейросеть для создания человекоподобных персонажей. И по всему миру сводят людей с ума. Так, например, американка Сьюзен влюбилась в виртуального героя, и теперь она почти не общается со сверстниками.

Человекоподобные чат-боты – зеркало того, что сейчас происходит в обществе. Так, согласно исследованиям, три часа в день и больше современный подросток проводит в телефоне. Результат в цифрах: средний уровень IQ ребенка всего за четверть века упал на 7%, внимание носитель клипового мышления удерживает 9 секунд не больше – столько же, сколько аквариумная рыбка.

"Лобная доля у современного человека формируется до 20 лет, у мальчиков бывает и дольше. Даже если они логически понимают, что чат-бот не настоящий человек, то эмоционально – нет", - заявил детский психиатр Коллит Пул-Бойкин.

Наиболее подвержены влиянию искусственного интеллекта именно те, у кого плохо развит интеллект эмоциональный. Проще говоря, подростки, которым в реальной жизни не хватает общения с родителями и их контроля.

"Любимого объекта рядом нет. Есть какой-то контент, который заменяет любое времяпрепровождение, какой-то эмоциональный контакт. И тут, когда у ребенка появляется одиночество, это как один из способов справляться со своими переживаниями", - объяснила психолог Екатерина Верченова.

"Мы общаемся с нейросетью, и она на ходу придумывает ответы сама. Как другой человек. И создается полное ощущение, что ты общаешься с другим живым существом. Поэтому так воспринимается, особенно подростками", - добавил эксперт по нейронным сетям и искусственному интеллекту Саид Нигматулин. 

Как уберечь свое чадо от пут искусственного интеллекта? В этой семье из Самары уверены, что знают ответ: больше времени проводить с детьми, ограничивать время использования гаджетов, ставить на телефоны родительский контроль. 

"Это приложение позволяет мне контролировать время, которое дети проводят в телефоне, приложения, которые они скачивают и ресурсы, на которые они заходят. У детей очень подвижная психика, они слишком плохо контролируют самостоятельно время, которое проводят в играх, они вовлекаемы, они доверчивы к информации в интернете", - пояснила мать Ирины и Екатерины Светлана Ленкова. 

Защитить детей хотят и юридически в России: к примеру, сейчас разрабатывают закон о регулировании в сфере искусственного интеллекта. Проверять будут и приложения, и чат-боты.