Tom's Hardware: разработчик снял ограничения и запустил GPT-4o в "режиме бога"

Представляющий себя этичным хакером пользователь Twitter под ником Pliny the Prompter создал и выпустил кастомную версию флагманской нейросети OpenAI (GPT-4o), которая получила название GODMODE GPT. Новая модель, по заявлению хакера, способна обойти все ограничения и предоставлять пользователям информацию о том, как использовать ненормативную лексику, взламывать автомобили и готовить запрещенные вещества. Об этом сообщает издание Tom's Hardware.

Несмотря на то, что модель GODMODE GPT быстро стала вирусной в социальных сетях, компания OpenAI удалила ее с сайта всего лишь несколькими часами спустя. Тем не менее, скриншоты с "вредными советами" GPT-4o остаются доступными в оригинальном аккаунте автора в соцсети X.

По сообщениям, модель GPT-4o была взломана с помощью архаичного интернет-жаргона leetspeak, который использует цифры и специальные символы вместо букв. Однако представители OpenAI не комментировали эту информацию и не ответили на вопрос о том, можно ли использовать этот жаргон для обхода ограничений ChatGPT.

Этот инцидент является одним из многих случаев, когда этичные хакеры пытаются найти слабые места в современных системах искусственного интеллекта, не нанося им существенного ущерба. Хотя эти системы обладают удивительными возможностями, они все еще остаются программами, которые хорошо угадывают, какие слова должны следовать далее в тексте, но не обладают истинным интеллектом.