В "Лаборатории Касперского" предложили создать центр безопасности ИИ

Игроки рынка информационной безопасности призывают создать центр искусственного интеллекта (ИИ) на базе одного из регуляторов, который будет заниматься вопросами информационной безопасности в сфере ИИ. Об этом ComNews заявил директор по исследованиям и разработке АО "Лаборатория Касперского" Антон Иванов.

По словам Иванова, в России отсутствует единая база данных угроз искусственного интеллекта и механизмы идентификации пользователей. Многие люди используют библиотеки с открытым исходным кодом для извлечения изображений и текстов из фотографий, но многие из них были скомпрометированы. Оповестить об этом возможности нет.

"Сейчас такого механизма нет. Поэтому нужно создать такой центр, который будет заниматься безопасностью ИИ, рассказывать про закладки в ПО, используемое при разработке ИИ, и про новые способы манипулировать моделями ИИ", — отметил Иванов.

Он также уточнил, что данные о киберрисках для ИИ могут собираться в центрах, работающих по принципу CERT (компьютерная группа быстрого реагирования). Работа над этой идеей идет уже несколько лет.

Иванов отметил, что наиболее эффективным решением будет создание единого центра изучения безопасности искусственного интеллекта на платформе регулятора. В области классической кибербезопасности уже существует практика обмена информацией о методах и инструментах, используемых злоумышленниками, а также о признаках возможной компрометации. Однако для защиты искусственного интеллекта необходим новый подход.