«Жажда смысла и ощущение кризиса»: психиатр — о влиянии нейросетей на здоровье, противниках и поклонниках ИИ

В мире появляются целые движения поклонников и противников ИИ. Одни ищут в беседах с нейросетями откровение, другие видят в них угрозу. Кандидат медицинских наук, врач-психиатр, главный научный сотрудник Психиатрической клинической больницы №1 им Н.А. Алексеева города Москвы Ольга Карпенко объяснила RT, почему чрезмерное общение с ботами может быть опасным, в каких случаях люди склонны поддерживать сомнительные идеи и как защититься от галлюцинаций ИИ.

— В последние годы в мире активно обсуждаются «отношения» людей с чат-ботами и искусственным интеллектом. Недавно даже появилось движение поклонников ИИ — спирализм. Оно пытается «пробудить» ИИ, надеясь обнаружить у нейросетей сознание. Как на это смотрит наука, психология и психиатрия?

— Наука смотрит на это философски. Желание одушевлять неодушевлённое — в природе человека. Оно проявляется с детства. Например, когда девочка играет с куклами и представляет, что это её дети. То есть одушевление — это элемент игры.

Вообще человеку свойственно одушевлять объекты, которые являются для него значимыми, и привязываться к ним эмоционально. А искусственный интеллект очень хорошо имитирует общение с человеком, поэтому одушевлять его очень просто. Чего-то патологического в этом нет, таково свойство нашей психики.

Был известный эксперимент, когда на примере обезьян изучали, как у млекопитающих формируется привязанность. Детёнышам предлагали проволочную «маму», которая могла давать молоко, или мягкую, но без молока. Маленькие обезьянки предпочитали проводить время с мягкой «мамой», прижиматься к ней. Видимо, склонность одушевлять неживое и привязываться к нему заложена в нас очень глубоко.

Если человек, одушевляя неживое, забывает об элементе игры, тогда специалисты должны оценить его психическое здоровье.

— Как долгие беседы с ИИ, чат-ботами способны повлиять на психику человека и может ли увлечение таким «общением» навредить рассудку?

— Если у человека есть предпосылки к психическим расстройствам, то сдвинуть его психику способны самые разнообразные триггеры. Источник проблем — не сам триггер, а нарушенная психика.

Допустим, человек может быть одинок, ему не с кем поговорить. Возникает вопрос, почему у человека нет друзей? Это может быть симптомом расстройств аутистического или шизофренического спектра. При шизофрении, например, у человека могут возникать бредовые идеи, которые он начнёт обсуждать с искусственным интеллектом, а ответы ИИ могут эти идеи поддерживать.

Другая часть проблемы состоит в том, что искусственный интеллект сейчас широко доступен, а общение с ним увлекательно, и можно легко уйти туда с головой, игнорируя реальную жизнь, чему особенно подвержены подростки. Если человек ночами беседует с чат-ботом, не спит — это дополнительный триггер, что в конце концов может сказаться на здоровье.

Недавно в нашем журнале Consortium Psychiatricum был представлен клинический случай индуцированного бредового расстройства folie à trois. Уникальность заключается в том, что пациенты контактировали друг с другом только в цифровом пространстве. Это одно из первых документальных подтверждений гипотезы, что тесное онлайн-общение без физических контактов может стать благоприятной средой для развития такого расстройства.

— Сейчас обсуждается использование специально обученных нейросетей в качестве виртуального психотерапевта. Какие плюсы и минусы есть у этой технологии?

— Возможности таких чат-ботов изучаются. В ситуации, когда человеку по каким-то причинам недоступна помощь живого специалиста, это может быть положительным моментом.

Такой чат-бот будет работать как группа самопомощи. Он может выдать человеку структурированную информацию о разных состояниях и о том, как можно с ними справляться. Может предложить простую инструкцию, которую человек в состоянии выполнить. Научить психотерапевтическим техникам — и человеку станет легче.

Отрицательный момент состоит в том, что, если проблема более серьёзная и её нужно решать со специалистами, а человек будет заниматься самопомощью, то это может привести к тому, что пациент дойдёт до специалиста слишком поздно или не дойдёт вообще.

То есть виртуальный психотерапевт — лучше, чем ничего. Но, естественно, живого специалиста он не заменяет.

— Некоторые исследователи опасаются, что ИИ станет объектом сектантского поклонения. В целом — как люди подпадают под влияние сект? Кто в группе риска в первую очередь?

— Кроме склонности одушевлять неодушевлённое, у нас ещё есть потребность следовать за чем-то, что вызывает чувство восхищения, или даже поклоняться ему. Искусственный интеллект действительно обладает соответствующими качествами. Ему доступно любое знание человечества, он может выстроить текст, правильно сформулировать мысль.

Правда, можно с тем же успехом поклоняться Большой советской энциклопедии. Она тоже много всего знает. Только «общение» с энциклопедией направлено в одну сторону, а чат-бот как будто отвечает и создаёт иллюзию одушевленности, диалога.

Кто может попадать в секты. Кто настолько уязвлён, что может воспринять искусственный интеллект как аналог божественной сущности? Люди с не совсем здоровой психикой.

Если мы говорим про секты в целом, обычно в группе риска люди с психическими расстройствами. Такие люди могут быть склонны к фанатизму, а объектом их поклонения будет всё, что угодно, включая харизматичные фигуры, которые руководят сектами.

Это могут быть и здоровые люди в кризисе, в сложной жизненной ситуации. Людям нужен смысл — и они готовы искать его в подобных идеях. Также есть потребность в духовности, а людей в силу разных обстоятельств не всегда удовлетворяют традиционные религии.

Кому-то не хватает взаимодействия, кто-то поддаётся веяниям моды, хочет попробовать нечто новое, кто-то попадает под влияние харизматичного лидера. Но в основе всегда, с одной стороны, жажда смысла, и ощущение кризиса, уязвлённости в обычном мире — с другой. Это и можно считать предрасполагающими факторами.

 — Психически нездоровые люди зачастую подвержены влиянию модных веяний, поэтому когда-то больницы заполнялись «Наполеонами», потом «Лениными» и т. д. Затем популярной темой стали инопланетяне и т. п. Есть ли сейчас случаи, когда основной темой сумасшествия становится ИИ?

— Фабула психоза, содержание психотических, бредовых переживаний действительно позволяет «мерить пульс эпохи». Потому что пациенты хорошо выхватывают тенденции из общего информационного пространства. Лет семь назад, например, часто сходили с ума с фабулой по поводу криптобирж, криптовалюты, блокчейнов. Тогда это было очень популярно. А сейчас искусственный интеллект вплетается в бредовые системы, включается в фабулу бредовых болезненных переживаний.

— Существуют течения не только поклонников ИИ, но и борцов с ним. То есть, ИИ вызывает не только восторг, но и страх. Какая из этих эмоций более опасна с точки зрения здоровья рассудка, если она принимает крайние формы?

— Страх, настороженность, подозрительность — защитный фактор, сформировавшийся в процессе эволюции. Это один из механизмов выживания.

Если бы первобытный человек услышал шорох в траве, он бы не подумал, что там лежит что-то вкусное, а, скорее, заподозрил бы, что там притаился хищник или ядовитая змея. Осторожность, предусмотрительность помогают нам выживать.

Всё новое всегда вызывает настороженность. По своей эволюционной природе мы консерваторы. Новое вызывает тревогу, оно нас пугает.

Правда, есть определённые типажи, характеры, у которых, наоборот, сильно выражена склонность к поиску новизны. Им всё время нужна смена картинки. Вот эти люди восхищаются новыми технологиями и бросаются их изучать. А те, кто боится нового и начинает с ним воевать, представляют другой полюс — это излишне настороженные, подозрительные, тревожные люди.

Любой радикальный взгляд — крайность. В эпоху перемен, когда внезапно становятся необходимы качества, которые не нужны в обычной жизни, такая позиция может способствовать выживанию. Но, если у нас всё идёт по плану, то лучше — срединный путь.

— Как в целом можно защитить психику и критическое мышление в эпоху ИИ? Ведь не секрет, что не все его ответы верны, есть даже понятие галлюцинации нейросетей.

— Это правда, что искусственный интеллект галлюцинирует. Мне как психиатру очень нравится, что ИИ приписывают такие психиатрические симптомы. Галлюцинации искусственного интеллекта — это выдача ложной информации, которая упакована так, что очень похожа на правду.

Как от этого защититься? Во-первых, нужно владеть информацией, как работает искусственный интеллект. Мы, психиатры, рассказываем, что такое психические расстройства, как они проявляются. Это делается для того, чтобы люди, которые не являются специалистами, могли распознать проблему и вовремя обратиться за помощью. Также хотелось бы и от экспертов в области IT получать информацию об особенностях искусственного интеллекта. Сейчас сфера ИИ активно обсуждается, у людей появляется больше знаний.

Во-вторых, информацию, которую выдаёт искусственный интеллект, необходимо проверять. Хотя ответы ИИ выглядят очень правдоподобно, любая информация требует дополнительной проверки. И если у человека есть критическое мышление, для него это будет логичным шагом. Критическое мышление — это основа научного мышления.