Google запустил ИИ-искателя багов. Первые 20 уязвимостей уже найдены

ИИ-инструмент Google под названием Big Sleep нашёл первые 20 уязвимостей в популярных open-source проектах.

Разработанный DeepMind и командой Project Zero, он уже продемонстрировал реальный результат: обнаруженные баги касаются таких проектов, как библиотеки FFmpeg и ImageMagick.

Подробности не раскрываются — до выпуска патчей информация держится в секрете. Но Google подчёркивает, что каждый баг был найден и воспроизведён именно ИИ, без вмешательства человека.

Перед отправкой отчёта, его всё же проверяет специалист, чтобы избежать ложных срабатываний.

По словам вице-президента Google по безопасности Хизер Эдкинс, это прорыв в автоматическом поиске уязвимостей. Подобные ИИ уже появляются и в других компаниях — например, RunSybil и XBOW, последний даже возглавил рейтинг HackerOne.

Однако у технологии есть минусы: некоторые баг-репорты оказываются «галлюцинациями» — несуществующими проблемами, придуманные ИИ.

Разработчики называют такие отчёты «ИИ-мусором» и сетуют на то, что они отвлекают от реальных задач.