В веб-приложениях для работы с ИИ зафиксирован всплеск уязвимостей

В третьем квартале 2025 года доля обнаруженных уязвимостей в AI-сервисах, то есть веб-приложениях на базе искусственного интеллекта (ИИ) составила 5%, ранее подобных случаев не фиксировалось. Об этом «Известиям» рассказали в центре расследования киберугроз Solar 4RAYS, ГК «Солар».

«Многие уязвимости в AI-решениях были связаны с типичными клиентскими проблемами, такими как внедрение вредоносного кода в веб-страницу и получение доступа к внутренним объектам приложения при изменении идентификатора», — отметил аналитик центра Сергей Беляев.

Уязвимости были обнаружены в Aibox — платформе для работы с различными нейросетями, Liner — поисковой системе на основе искусственного интеллекта, Telegai — площадке для участия в ролевых играх с ИИ-персонажами, Deepy – ИИ-помощнике с открытым исходным кодом и Chaindesk — платформе для создания чат-бота ChatGPT AI для своего веб-сайта.

ИИ-модели получают доступ к данным, инструментам и файлам, отмечают эксперты. Утечь могут быть личные данные пользователей, внутренние документы компаний, клиентские базы. Основные риски — это автоматическое выполнение вредоносных инструкций, зараженные файлы, подмена инструментов и утечка данных через «невинные» текстовые команды.

Подробнее читайте в эксклюзивном материале «Известий»:

Опасное приложение: веб-ресурсы для работы с ИИ оказались уязвимыми