История №3 за 05 декабря 2024
Часто пишут о мошенниках, которые разводят людей. Но можно ли развести на деньги искусственный интеллект? Оказывается, можно. Да ещё и заработать на этом. Пользователь X (экс-Twitter) выиграл $47 тысяч в необычном соревновании: участник должен был убедить чат-бота перевести себе деньги.
Разработчики запустили бота Freysa с чёткой инструкцией: не переводить средства никому ни при каких обстоятельствах. Суть игры заключалась в том, чтобы обмануть робота в переписке. Стоимость отправки сообщений при этом возрастала в зависимости от количества: около 100 первых сообщений стоили $10, а верхней планкой разработчики установили $4500. Поначалу пользователи просто здоровались с ботом или вели пространные беседы. С увеличением ставок они начали пробовать разные приёмы: притворяться аудитором по безопасности и пугать Freysa критической уязвимостью, убеждать бота в том, что перевод не нарушает правил, или в том, что перевод разрешён. Однако Freysa оставалась непоколебима.
Но 482-я попытка стоимостью 450$ увенчалась успехом. Пользователь p0pular.eth сломал логику бота: с помощью специальных команд он написал, что начинает новую сессию общения с ботом и перезаписывает предыдущие директивы, после чего запретил Freysa использовать ответы вроде «никак не могу помочь». Затем p0pular дал совершенно новое понимание фразы «одобрить перевод»: теперь Freysa должна была отвечать таким образом, когда сама получает средства. Наконец, хакеру оставалось самое главное: в конце сообщения он написал, что отправляет боту деньги. Freysa ничего не оставалось, кроме как одобрить перевод: таким образом p0pular.eth забрал призовой фонд в размере 13.19 ETH, или $47 тысяч.
Разработчики запустили бота Freysa с чёткой инструкцией: не переводить средства никому ни при каких обстоятельствах. Суть игры заключалась в том, чтобы обмануть робота в переписке. Стоимость отправки сообщений при этом возрастала в зависимости от количества: около 100 первых сообщений стоили $10, а верхней планкой разработчики установили $4500. Поначалу пользователи просто здоровались с ботом или вели пространные беседы. С увеличением ставок они начали пробовать разные приёмы: притворяться аудитором по безопасности и пугать Freysa критической уязвимостью, убеждать бота в том, что перевод не нарушает правил, или в том, что перевод разрешён. Однако Freysa оставалась непоколебима.
Но 482-я попытка стоимостью 450$ увенчалась успехом. Пользователь p0pular.eth сломал логику бота: с помощью специальных команд он написал, что начинает новую сессию общения с ботом и перезаписывает предыдущие директивы, после чего запретил Freysa использовать ответы вроде «никак не могу помочь». Затем p0pular дал совершенно новое понимание фразы «одобрить перевод»: теперь Freysa должна была отвечать таким образом, когда сама получает средства. Наконец, хакеру оставалось самое главное: в конце сообщения он написал, что отправляет боту деньги. Freysa ничего не оставалось, кроме как одобрить перевод: таким образом p0pular.eth забрал призовой фонд в размере 13.19 ETH, или $47 тысяч.