Исследователи выяснили, как чатботы влияют на критическое мышление

«Технологии, если использовать их неправильно, могут ухудшать и ухудшают когнитивные функции, которые следовало бы сберечь», – утверждают авторы исследования, ученые из Microsoft и Университета Карнеги – Меллона.

Когда люди полагаются в работе на генеративные модели, они направляют внимание и усилия в большей мере на то, чтобы удостовериться, что ответ, данный чатботом, подходит для использования. В меньшей степени они склонны в таком случае заниматься задачами критического мышления, например, созданием, оценкой и анализом информации.

Если люди вмешиваются в этот процесс только когда ответы ИИ оказываются недостаточно полными, работники лишаются «привычных возможностей практиковаться в суждениях и укреплять свою когнитивную мускулатуру, которая становится атрофированной и не готовой к встрече с неожиданностями».

Другими словами, когда мы слишком полагаемся на ИИ, наша способность к самостоятельному решению проблем падает, https://techcrunch.com/2025/02/10/is-ai-making-us-dumb/ TechCrunch.

Ученые опросили 319 специалистов в области обработки и анализа информации, которые как минимум раз в неделю используют генеративный ИИ для решения рабочих задач. Их рассказы об опыте применения чатботов ученые разбили на три основных категории: сочинение (например, составления стандартного письма коллегам); работа с информацией (изучение темы или составление резюме длинной статьи); и советы и рекомендации. Затем их спросили, в большей или меньшей степени они применяли свои навыки критического мышления, когда использовали ИИ. Свою уверенность в ответах респонденты оценивали в баллах.

Около 36% опрошенных сообщили, что использовали навыки критического мышления для нейтрализации потенциальных негативных результатов использования ИИ. Во многих случаях им приходилось редактировать результаты и перепроверять информацию, что сводило на нет весь смысл обращения к чатботу для таких задач.

Фактически, исследователи выяснили, что пользователи, испытывающие уверенность в ИИ, в меньшей степени подвергали ответы ИИ критическому осмыслению, чем те, кто испытывает уверенность в собственных навыках критического мышления.

Хотя авторы воздерживаются от утверждения, что генеративный ИИ делает нас глупее, исследование демонстрирует, что если чрезмерно полагаться на эти инструменты, они могут ослабить нашу способность независимого решения проблем.

Для того чтобы работники могли нейтрализовать недостатки генеративного ИИ, они должны понимать, откуда такие недостатки берутся. Но не все они знакомы с ограничениями ИИ. Потенциальный вред от некорректных ответов чатботов может мотивировать применять навыки критического мышления, но только в том случае, если пользователь информирован об опасности.

Исследование, проведенное учеными Apple, https://hightech.plus/2024/10/14/issledovanie-apple-pokazalo..., что большие языковые модели, такие как ChatGPT, на самом деле не думают и не рассуждают так, как это делает человек. Несмотря на способности решать простые математические задачи, как выяснили исследователи, БЯМ легко сбить с толку, добавив в задачу лишнюю или несущественную информацию.