Microsoft наконец озаботилась проблемами с утечками данных в своем ИИ Copilot

Microsoft представила новые инструменты и рекомендации для решения проблем безопасности своего ИИ-помощника Copilot после сообщений об утечке конфиденциальной информации компании. Проблема, которая позволила сотрудникам непреднамеренно получить доступ к таким данным, как электронная почта гендиректора и кадровые документы, заставила некоторых корпоративных клиентов отложить развертывание Copilot, пишут СМИ.

Функциональность Copilot основана на индексировании внутренних данных компании, подобно Web Crawler поисковых систем. Это позволяет использовать такие функции, как создание презентаций и поиск данных о продуктах, но в то же время открывает уязвимые места. В некоторых случаях сотрудники получали непреднамеренный доступ к конфиденциальным файлам из-за недостаточно настроенного контроля доступа.

Компания подчеркнула, что проблемы управления данными возникли еще до появления ИИ, но отметила, что внедрение Copilot сделало «проактивное управление конфиденциальной информацией более актуальным».