Глава ООН по правам человека призывает к мораторию на использование ИИ

ЖЕНЕВА – Глава ООН по правам человека призывает к мораторию на использование технологий искусственного интеллекта, которые создают серьезную угрозу для прав человека, включая системы сканирования лиц, которые отслеживают людей в общественных местах.

Мишель Бачелет, Верховный комиссар ООН по правам человека, также заявила в среду, что страны должны прямо запретить приложения ИИ, которые не соответствуют международному праву прав человека.

Заявки, которые не разрешены, включают правительственные системы социальных рейтингов, которые судят людей по их поведению, и некоторые приложения, основанные на ИИ, которые классифицируют людей по таким группам, как этническая принадлежность или пол.

Технологии, основанные на ИИ, могут быть силой добра, но они также могут иметь вредные, даже катастрофические последствия, если они используются с достаточным учетом того, как они влияют на права человека людей, сказал Бачелет в своем заявлении.

Ее комментарии пришли вместе с новым докладом ООН, в котором анализируется, как страны и предприятия торопятся применять системы ИИ, которые влияют на жизнь людей и их средства к существованию, не создавая при этом надлежащих гарантий для предотвращения дискриминации и других вредов.

Дело не в том, что ИИ, Пегги Хикс, директор отдела по правам человека, рассказала журналистам, когда представила доклад в Женеве. Речь идет о признании того, что если ИИ будет использоваться в этих критических сферах деятельности - очень критически важных - прав человека, то он должен быть сделан правильным образом. И все же мы просто не создали структуру, которая бы гарантировала это. Бачелет не призывал к прямому запрету технологий распознавания лиц, но сказал, что правительства должны прекратить сканирование особенностей людей в реальном времени, пока они не смогут показать, что технология точная, не будет дискриминировать и отвечает определенным стандартам конфиденциальности и защиты данных.

Хотя в докладе страны не упоминались по названию, Китай входит в число стран, которые разработали технологию распознавания лиц, особенно для наблюдения в западном регионе Синьцзян, где проживают многие его меньшинства Уйгеры. Ключевые авторы доклада заявили, что назначение конкретных стран не входит в их мандат, и это может даже привести к обратным результатам.

В китайском контексте, как и в других контекстах, Хикс обеспокоен прозрачностью и дискриминационными заявлениями в отношении конкретных сообществ.

Она привела несколько судебных дел в США и Австралии, в которых искусственный интеллект применялся неправильно. В докладе также говорится о осторожности в отношении инструментов, которые пытаются определить эмоциональное и психическое состояние людей, анализируя их выражение лица или движения тела, говоря о том, что такие технологии восприимчивы к предвзятости, неправильному толкованию и не имеют научной основы.

В докладе утверждается, что использование государственными властями систем распознавания эмоций, например, для проверки частных лиц на задержания или аресты или оценки правдивости заявлений во время допросов, может подорвать права человека, такие как право на неприкосновенность частной жизни, свободу и справедливое судебное разбирательство.

Рекомендации доклада напоминают мысли многих политических лидеров западных демократий, которые надеются использовать экономический и социальный потенциал ИИ, одновременно решая растущую озабоченность по поводу надежности инструментов, которые могут отслеживать и профилировать индивидуумов и давать рекомендации о том, кто получит доступ к рабочим местам, кредитам и возможностям получения образования.

Регулирующие органы ЕС уже предприняли шаги, чтобы запретить наиболее рискованные приложения ИИ. Предлагаемые постановления, намеченные официальными лицами Европейского Союза в 2016 году, ограничат некоторые виды использования искусственного интеллекта, такие как сканирование лиц в реальном времени, и запретят использование других устройств, которые могут угрожать безопасности или правам людей.

В целом, администрация президента Джо Байдена выразила аналогичную озабоченность, хотя она пока еще не наметила детальный подход к их сдерживанию. Недавно сформированная группа под названием Торгово-Технологический Совет, совместно возглавляемая европейскими и американскими чиновниками, стремится к сотрудничеству в разработке общих правил для ИИ и другой технологической политики.

Усилия по ограничению наиболее рискованного использования ИИ были поддержаны Microsoft и другими технологическими гигантами США, надеясь направить правила, влияющие на технологию. Компания Microsoft работала с отделом по правам ООН и предоставляла ему финансирование, чтобы помочь улучшить использование технологии, но финансирование отчёта осуществлялось через регулярный бюджет Хикса.

Западные страны находились в авангарде, выражая озабоченность по поводу дискриминационного использования ИИ.

Если вы думаете о том, как ИИ может быть использован дискриминационным способом или для дальнейшего усиления дискриминационных тенденций, это довольно пугает, - сказала министр торговли США Джина Раймондо на виртуальной июньской конференции. Мы должны убедиться, что не позволим этому случиться. Она разговаривала с Маргрета Вестадером, исполнительным вице-президентом Европейской комиссии по цифровой эпохе, который предположил, что некоторые виды использования искусственного интеллекта ( ИИ ) должны быть полностью недоступны в демократических государствах, таких как наша. Она упомянула социальные баллы, которые могут закрыть чьи-либо привилегии в обществе, и широкое, полное использование биометрической идентификации в общественном пространстве.