ИИ Copliot какое-то время имел доступ к конфиденциальным письмам пользователей, которые не должен был обрабатывать
ИИ Copilot в Windows 11 может получить доступ даже к конфиденциальным письмам в электронной почте пользователя.
Компания Microsoft признала, что Copilot в рамках своей работы некорректно работает с электронной почтой, сканируя даже те письма, которые специально отмечены, как те, которые ИИ читать не имеет права.
Речь в данном случае о рабочем чате Copilot, где ИИ в том числе умеет читать электронные письма и анализировать их содержимое для упрощения рабочих задач.
Сообщения электронной почты пользователей с пометкой «конфиденциально» некорректно обрабатываются чатом Microsoft 365 Copilot.
Вкладка «Работа» в чате Microsoft 365 Copilot суммирует электронные письма, несмотря на то, что к этим письмам применена метка конфиденциальности и настроена политика защиты от утечки данных (DLP)
Microsoft говорит, что причиной такого поведения стала ошибка в коде. Исправление уже постепенно распространяется среди пользователей, так что компания заявила, что решила проблему.