Google, Apple и Discord непреднамеренно упростили доступ к дипфейк-сайтам

Как оказалось, крупные технологические компании, включая Google, Apple и Discord, непреднамеренно облегчали доступ к «вредным» сайтам-«раздевальщикам» через свои системы регистрации. Такие сайты используют ИИ для создания интимных изображений человека, часто используя инфраструктуру входа, предоставляемую этими технологическими гигантами, чтобы «завоевать доверие», пишут СМИ.

Анализ, проведенный WIRED, выявил 16 самых известных сайтов для дипфейков, использующих возможности входа через Google, Apple, Discord, Twitter, Patreon и Line. Это позволяет пользователям быстро создавать аккаунты, чтобы генерировать эротические изображения. Несмотря на политику технологических компаний, запрещающую продвижение вредоносного контента, их API для входа в систему использовались не по назначению, отмечают издание.

После публикации отчета Discord и Apple удалили доступ к своим API для сайтов-нарушителей, а Google и другие компании дополнительно пообещали более строго следить за соблюдением своих условий. Visa и Mastercard также призвали следить за транзакциями, связанными с этими сайтами.