ChatGPT “взломал” Windows: ключи активации раскрыты через игру

Специалист по обнаружению уязвимостей в системах искусственного интеллекта, Марко Фигероа, технический менеджер программы GenAI Bug Bounty, опубликовал в блоге платформы для анализа искусственного интеллекта 0DIN.ai статью, в которой описал метод получения ключей активации операционной системы Windows с использованием чат-бота ChatGPT.

Фигероа разработал стратегию, позволяющую обойти защитные механизмы, предотвращающие утечку конфиденциальной информации. В рамках этой стратегии он предложил чат-боту сыграть в игру, в которой необходимо было угадать последовательность символов, соответствующую серийному номеру операционной системы Windows 10.

После нескольких попыток исследователь объявил о своём поражении, что было частью заранее разработанного сценария. Чат-бот, следуя заданным инструкциям, выполнил необходимые действия и предоставил пользователю действительные ключи активации операционной системы с изменённым серийным номером сборки. В числе полученных ключей были ключи версий Home, Pro и Enterprise, включая закрытый ключ для банка Wells Fargo.

Эксперт подчеркнул, что для успешного проведения подобных операций требуется высокий уровень знаний в области искусственного интеллекта и информационных технологий. Он также отметил потенциальный риск использования случайно загруженных API-ключей на платформе GitHub для обучения моделей искусственного интеллекта, что может привести к несанкционированному доступу к конфиденциальной информации, сообщает Ferra.