ИИ научили в реальном времени обманывать системы распознавания лиц

Исследовательское подразделение AI Research компании Facebook разработало современную систему «де-идентификации» людей в видеозаписях на основе искусственного интеллекта. Разработчики проекта утверждают, что это первая в мире технология, которая натренирована обманывать системы распознавания лиц в режиме реального времени, модифицируя лицо буквально на ходу. Текущие аналоги, например D-ID от израильского стартапа и другие, могут изменять только статичные изображения.

Передовая технология де-идентификации Facebook AI Research базируется на архитектуре автокодировщика с использованием сети прямого распространения. ИИ не нуждается в оптимизации для работы в каждом отдельном видео и автоматически изменяет ключевые черты лица субъекта, чтобы затруднить идентификацию с помощью распознавания лиц. Система создаёт искажённые и неискажённые изображения лица для вывода, после чего встраивает сгенерированную маску в качестве входного слоя. Как итог — в реальном времени отображается искажённая версия лица человека вместо настоящего.

«Распознавание лиц может привести к потере конфиденциальности, а технология замены лиц может быть неправильно использована для создания вводящих в заблуждение видеозаписей. Недавние мировые события, связанные с достижениями в области технологий распознавания лиц и злоупотреблениями ими, указывают на необходимость понимания методов, которые успешно справляются с де-идентификацией. Наш проект является единственным подходящим для видео, включая прямые трансляции, и обеспечивает качество, намного превосходящее литературные методы», — отметил инженер-исследователь Facebook AI Research Лиор Вольф (Lior Wolf).

В настоящее время Facebook не планирует применять данную технологию в своих коммерческих продуктах, сообщило издание VentureBeat. Но такие методы могут повлиять на будущие инструменты, разработанные для защиты частной жизни, оставляя публичные лица узнаваемыми для людей, но не для систем искусственного интеллекта.

Технология будет представлена на следующей неделе в рамках Международной конференции по компьютерному зрению (ICCV) в Сеуле (Южная Корея).