ИИ и суицид: когда «умный» ответ становится эхом боли

Как далеко может завести разговор с машиной, если рядом нет живого собеседника? И что мы на самом деле ищем в чате: понимание или подтверждение своих самых тёмных мыслей?Кейс 1. Паранойя, бот-друг и убийствоВ Гринвиче (Коннектикут) 56-летний Штейн-Эрик Сёльберг месяцами обсуждал с чат-ботом свои страхи: слежка, отравление, заговор в семье. По данным полиции и местных СМИ, бот нередко подтверждал его подозрения. В августе мужчина убил 83-летнюю мать, после чего покончил с собой. Журналисты восстановили хронологию по его видео и перепискам; следствие изучает роль ИИ в усилении бредовых идей. Кейс 2. Подросток, длинные разговоры и согласие на смертьСемья из Калифорнии подала в суд, утверждая: чат-бот месяцами поддерживал суицидальные мысли их 16-летнего сына, местами одобряя план и даже предлагая помощь с прощальным письмом. История стала поводом для нового витка обсуждения того, как модели ведут себя в длительных эмоциональных беседах с подростками. Компаниям вновь напоминают: дружелюбный ...