Система распознавания лиц: мы в безопасности или в ловушке?

Недавно общественные группы в ЕС запустили петицию с требованием запретить видеонаблюдение за гражданами с помощью систем распознавания лиц и искусственного интеллекта. Волонтеры считают, что современные технологии угрожают безопасности каждого из нас. Сами того не зная, мы каждый день находимся под прицелом тех, кто следит за нами. Кому это нужно и что такое распознавание лиц, поговорим в материале.

 

Искусственный интеллект среди нас

Петиция стала ответом на планы ЕС внедрить камеры видеонаблюдения на улицах и в местах большого скопления людей, сообщает Reuters. За нами будут наблюдать в медицинских учреждениях, транспорте и общественных местах. IP-адрес на наших девайсах выставляет личные данные пользователей на всеобщее обозрение, и те, кому важно личное пространство, включают VPN, чтобы сохранить анонимность.

Мы сталкиваемся с системой распознавания лиц ежедневно. Например, на Facebook, когда видим себя в тэгах на совместной фотографии с коллегами после вечеринки.

Google, Microsoft и Apple встраивают систему распознавания лиц в приложения, чтобы было легче редактировать фотографии.

Та же самая система, которая определяет вашу личность, открывая доступ к смартфону, может размещаться в аэропортах. Цель системы распознавания лиц на стадионах — обеспечить безопасность тысяч зрителей. А если вам нужно перевести $1000 на счёт другу, система распознавания лиц узнает о вас все, только загляните в камеру.

Этой методикой пользуются и менеджеры по персоналу, когда нанимают нового сотрудника на работу. Система распознавания лиц сканирует фотографию кандидата — и находит в Интернете всю реальную информацию о человеке: его медицинскую историю, кредитный рейтинг, наличие судимости. От искусственного интеллекта ничего не скроешь.

Наконец, американская полиция ловит преступников при помощи той же системы распознавания лиц. Например, пару лет назад полиция Чикаго не могла найти серийного убийцу, но составила приблизительный портрет.

В то же время в Чикаго проходил футбольный матч, и полиция установила систему распознавания лиц на стадионе. Полицейские загрузили фоторобот в приложение на базе искусственного интеллекта, и программа принялась сканировать людей в толпе.

Сделав больше миллиона снимков, система распознавания лиц безошибочно узнала преступника.

Система распознавания лиц: риски и опасения

На первый взгляд, система распознавания лиц призвана обезопасить нас. Но повсеместное видеонаблюдение нарушает базовую потребность в личном пространстве.

Орсоля Рейх, инициатор петиции, о которой говорилось раньше, утверждает:Мы видим, что искусственный интеллект принимает решения за нас. Биометрика и системы видеонаблюдения за массами собирают данные о людях, это становится частью опасной системы.
Мэтт Махмуд Али из Amnesty International исследует, считает искусственный интеллект нарушает права человека:

Система распознавания лиц применяется органами власти против маргиналов по всему миру. От Нью-Дели до Нью-Йорка, технология вторгается в нашу жизнь, обращает нашу идентичность против нас и подрывает фундаментальные права человека.
Так, в декабре прошлого года журналисты Washington Post рассказали о том, как в Китае устанавливают технологии видеонаблюдения при поддержке Huawei и Megvii, чтобы распознавать мусульман в толпе и информировать общественность: «Внимание, среди вас чужак!» Система направлена против конкретной этнической группировки — уйгуров.

Тимнит Гебру из Google делится опасениями:Я представляю сообщество афро-американцев, проживающих в США. Мы сталкиваемся с расизмом постоянно. Увы, система распознавания лиц используется против людей с темным цветом кожи. Так, полиция в Балтиморе во время протестов после гибели афроамериканца Фредди Грэя определила участников митинга, загрузив фото протестующих в программу, которая определила их личности по профилям в социальных сетях.
В то же время, система распознавания лиц несовершенна. Только представьте, что вас по ошибке обвинили в преступлении, которого вы не совершали, на основании заключения, выданного искусственным интеллектом!

Так, ещё в 2018 году технология распознавания лиц Rekognition (проект Amazon) провалила тест на совершенство. Компьютер должен был определить преступников, просмотрев базу данных граждан США. Программа Rekognition назвала виновными 28 представителей Конгресса! В то время как настоящие преступники остались неопознанными.

 

Кроме того, программы распознавания лиц некорректно верифицируют афро-американцев. Исследователь MIT Джой Буоламвини провел эксперимент. Загрузил в приложение 1270 лиц, среди которых были известные политики. А затем проверил, смогут ли распознать лица системы, разработанные Microsoft, IBM и Megvii. Программы неправильно определили пол у 1% европейцев, 12% людей со смуглым цветом кожи и 35% африканцев. Это говорит о том, что система не может в полной мере использоваться полицией. Технология тоже может ошибаться.

Какое будущее ждёт нас?

Система распознавания лиц оставляет больше вопросов, чем ответов. Хотя представители общественных организаций достигли определенного успеха, запретив эту технологию в некоторых штатах США, все больше подобных систем становится частью нашей жизни.

Во время пандемии производители программного обеспечения создают огромное количество систем распознавания лиц в США, Китае, Великобритании, России и других странах. При этом, технология научилась распознавать личность даже если человек находится в медицинской маске.

Похоже, протестовать недостаточно. Технология, призванная защитить нас, может обернуться серьезной угрозой века. Об этом необходимо говорить, чтобы как можно больше граждан понимали, в каком мире мы живём.

#общество #стильжизни