Миллионы потеряют данные: россиян предупредили об опасности фейковых нейросетей

Более 10 млн россиян могут раскрыть личные данные из-за использования поддельных иностранных нейросетей, например ChatGPT и Midjourney, предупредили эксперты. «Известия» выяснили, чем опасны такие ресурсы, как отличить их от оригинальных и как защитить себя при работе с нейросетями.

Риски пользователей

Миллионы россиян рискуют раскрыть личные данные из-за использования поддельных иностранных нейросетей, например ChatGPT и Midjourney. Об этом рассказал директор по LLM-продуктам MTS AI Сергей Пономаренко.

По его словам, пользователи, которые используют ChatGPT, Dall-E, Midjourney и другие большие языковые модели через сторонние сервисы, могут получить вместо «оригинала» другую открытую модель и раскрыть важные данные. «Компания считает, что таких людей в России более 10 млн», — отметил Пономаренко.

Эксперт пояснил, что сейчас российским пользователям трудно получить доступ к международным сервисам из-за сложностей с оплатой. Этим и пользуются мошенники, которые создают фейковые сайты и чат-боты, где обещают людям доступ к системе. Но на самом деле они предлагают минимальную версию продукта, которая уступает по качеству и небезопасна для использования.

Пономаренко напомнил, что при работе с нейросетями нельзя предоставлять им персональные данные и любую ценную информацию, в том числе корпоративную (использовать только сервисы, одобренные руководством и установленные в контуре организации). Кроме того, всю полученную через них информацию нужно перепроверять.

Поддельные нейросети

Как объясняет «Известиям» консультант по информационной безопасности R-Vision Ной Торосян, поддельные нейросети — это неавторизованные версии официальных моделей, которые могут быть некачественными или даже опасными. Их функциональность, уровень безопасности и точности значительно отличаются от подлинника.

Такие нейросети могут принимать разные формы, включая чат-ботов, веб-сайты или отдельные приложения, которые выглядят легитимно, но фактически предоставляют пользователю неоригинальный контент. Поэтому пользоваться ими нужно с осторожностью.

— Главное отличие поддельных нейросетей от настоящих заключается в их низкой эффективности и высоком уровне риска для конфиденциальности. Оригинальные модели обучались на обширных и качественных наборах данных и отличаются высоким уровнем точности. В то время как поддельные версии могут быть созданы на основе свободно доступных, менее мощных алгоритмов, что ограничивает их возможности, — рассказывает Торосян.

Хакеры обычно создают нейросети для своих целей — например, кражи данных пользователей или выстраивания таргетированных атак, добавляет руководитель лаборатории развития и продвижения компетенций кибербезопасности компании «Газинформсервис» Ксения Ахрамеева. Обычно они маскируют свои продукты под известные нейросети, недоступные россиянам. Пытаясь воспользоваться ими, люди и попадают на сомнительные ресурсы.

Как отличить поддельную нейросеть

Сегодня в мире существует множество нейросетей, но самыми популярными эксперты «Известий» называют четыре. Именно их и стремятся подделать мошенники:

ChatGPT: языковая модель, предназначенная для генерации текстов и общения, широко используется в написании статей, постов, программировании и многом другом.Dall-E: генератор изображений на основе текстовых описаний, активно используется в дизайне и искусстве.Midjourney: еще один мощный инструмент для создания визуального контента, также широко применяется художниками и дизайнерами для создания уникальных иллюстраций.Suno: нейросеть, созданная для работы с аудио и текстом. Генерирует музыкальные композиции на основе запроса пользователя.

Отличить поддельные нейросети от оригинальных можно по нескольким ключевым признакам. Первым Ной Торосян называет URL-адрес: сайты известных сервисов всегда имеют уникальные и легко узнаваемые доменные имена. Фальшивые могут использовать схожие названия, добавляя дополнительные символы или меняя порядок букв.

— Второй момент — репутация сервиса. Изучите отзывы пользователей — большинство известных нейросетей имеют положительные упоминания на форумах и в социальных сетях, — говорит эксперт.

К третьему признаку подделки он относит качество контента: оригинальные модели предлагают высокую степень точности, тогда как остальные могут выдавать абсурдные или нерелевантные ответы. И, наконец, важно обращать внимание на требования к пользователю. Если сайт или приложение требуют слишком много личной информации, ненужной для функционирования сервиса, — стоит быть осторожнее.

Способы защиты

Основная угроза, связанная с использованием поддельных нейросетей, — это потеря персональных данных, рассказывает Ной Торосян. По его словам, мошенники могут использовать собранные данные для следующих операций:

Кража личности. Получение доступа к персональным данным позволяет злоумышленникам совершать преступления от имени жертвы.Финансовые махинации. Персональные данные могут использоваться для взлома банковских счетов или проведения несанкционированных транзакций.Фишинг. Пользователь может получать письма или сообщения с просьбой подтвердить свои данные, что приводит к передаче конфиденциальной информации прямо в руки мошенников.

— Кроме того, поддельные нейросети могут распространять вредоносное ПО, которое способно повредить устройство пользователя или перехватывать его активность в интернете, — рассказывает собеседник «Известий».

Для защиты от мошенников он рекомендует не раскрывать конфиденциальную информацию, то есть любую, которую можно использовать против человека или компании. Перед применением новых нейросетей нужно убедиться в их надежности и репутации.

— Также будьте осторожны с платными услугами. Если вам предлагают заплатить за доступ к «улучшенной» версии нейросети, убедитесь, что это действительно официальная услуга, предоставляемая разработчиком, — отмечает Ной Торосян.

В свою очередь, Ксения Ахрамеева советует россиянам пользоваться только нейросетями, разрешенными на территории России, либо продуктами от проверенных разработчиков и крупных компаний.

— Для работы с нейросетью лучше использовать отдельную учетную запись в браузере, чтобы исключить доступ нейросети к истории ваших запросов. Тщательно изучить политику конфиденциальности и поставить максимальный запрет на доступ к вашим данным. Запросы осуществлять точечно, то есть конкретная задача — конкретный ответ, не надо давать нейросети лишнюю информацию, — говорит она.

И, наконец, в работе с нейросетями нужно всегда перепроверять полученную информацию. Не стоит забывать, что она не актуализирует знания ежедневно и может содержать неактуальные сведения, заключает CEO NDT by red_mad_robot Валерий Ковальский.