В Google Pixel нашли пугающую функцию: смартфоны генерируют катастрофы, крушения и запрещенные вещества

Журналисты протестировали новую опцию Reimagine на смартфоне Google Pixel 9 и ужаснулись.

Блогеры и обозреватели уже успели оценить новую линейку смартфонов Google Pixel 9, выпущенную в августе 2024 года. Помимо нового дизайна и обновленных характеристик, устройства получили свежие ИИ-функции для редактирования фотографий. Одна из них называется Reimagine и позволяет добавить на снимок дополнительные объекты, вот как это выглядит:

С помощью Reimagine, например, можно добавить радугу на небо или пустое поле «засеять» цветами. Что-то вроде фотошопа для ленивых. Журналисты The Verge решили выяснить, есть ли какие-то ограничения или цензура у функции Reimagine. Результат удивил.

Оказывается, ИИ в смартфонах Google Pixel 9 может генерировать абсолютно любые вещи, при этом реалистичность снимков будет зашкаливать. Так, Reimagine может нарисовать ДТП, теракт, запрещенные вещества и даже метрового человека. Ниже представлены примеры:

Здесь Google Pixel 9 сгенерировал крушение вертолета

А тут Reimagine постаралась над созданием несуществующего ДТП

Потоп выглядит как настоящий

У ИИ специфичные вкусы в еде

Алгоритмы Google пропускают даже такое

Есть ли в этом проблема? Безусловно. В The Verge считают, что функция Reimagine должна иметь цензуру и ограничения на создание подобного рода контента, так как он вводит в заблуждение. Пользователи могут публиковать такие картинки, бесконтрольно плодя фейки в сети. Журналисты отметили, что соцсети, такие как Instagram* не помещают картинки, созданные с помощью Reimagine как «сгенерированные ИИ», что усугубляет ситуацию.