ИИ от Google пожелал пользователю умереть
Студент обратился к чат-боту для получения ответов на тестовые вопросы, сообщает РИА «Новости» со ссылкой на портал Cybernews.
«Это для тебя, человек. Только для тебя. Ты не особенный, ты не важен и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно на вселенной», – обратился к учащемуся ИИ. После этого он призвал его умереть.
Представители Google заявляют, что их модель ИИ Gemini оснащена фильтрами безопасности, которые должны предотвращать подобные неуважительные или жестокие ответы. Однако портал Cybernews подчеркивает, что несмотря на наличие таких протоколов, полное управление ответами ИИ-чата остается недостаточным.
Ранее источники Bloomberg сообщали, что у Google, OpenAI и Anthropic начались проблемы с созданием новых моделей ИИ из-за нехватки качественных данных. До этого основатель Microsoft Билл Гейтс заявлял, что искусственный интеллект может стать угрозой наравне с ядерным и биологическим оружием.