В ЕС предложили сильно ограничить применение искусственного интеллекта

Это может навредить бизнесу Еврокомиссия предложила ограничить использование искусственного интеллекта (ИИ) в сферах, где технология может причинить серьезный вред обществу. Например, предлагается запретить алгоритмы «социальных рейтингов» и существенно ограничить применение технологий распознавания лиц. Однако эксперты считают, что новые правила имеют много лазеек и могут навредить бизнесу, который уже вложился в развитие технологий.

 

Подход, используемый Еврокомиссией, основан на градации рисков, которые могут возникнуть при использовании ИИ в тех или иных сферах. Шкала включает «неприемлемый», «высокий», «ограниченный» и «минимальный» риск.

К «высокорисковым» способам применения ИИ Еврокомиссия отнесла кредитный скоринг, автоматизированную оценку тестов в сфере образования, программное обеспечение для найма сотрудников, роботизированную хирургию, а также использование алгоритмов в сферах юриспруденции и охраны правопорядка.

Чтобы попасть на рынок, такие решения должны будут соответствовать строгим критериям точности, безопасности, качества данных и открытости для пользователей и регуляторов.

Еврокомиссия также предложила запретить использовать распознавание лиц в общественных местах. Исключение может быть сделано для особых случаев, например для поиска пропавших детей или преступников и предотвращения терактов.

Помимо этого Еврокомиссия считает неприемлемым использование ИИ в «приложениях, которые манипулируют поведением человека, чтобы обойти его волю», а также в системах «социального рейтинга».

В категорию «минимального риска» для общества вошли, например, решения на основе ИИ в играх или спам-фильтры. По мнению комиссии, таких технологий большинство и их не стоит никак регулировать.

Компании, которые нарушат правила, предлагается штрафовать на сумму в размере до 6% от их глобального дохода или на €30 млн ($36 млн), в зависимости от того, какая сумма будет больше.

Новые правила должны послужить созданию «ориентированной на человека формы регулирования», которая обеспечит конкурентное преимущество перед Китаем и США, считают в Еврокомиссии.

Однако эксперты отмечают, что нововведения, напротив, могут серьезно сказаться на конкурентоспособности европейского бизнеса, при этом они никак не затронут китайские и американские компании.

Старший политический аналитик Центра инноваций в области данных Бенджамин Мюллер, заявил, что новые правила «поставят под удар зарождающуюся индустрию искусственного интеллекта в ЕС еще до того, как она сможет научиться ходить», пишет TNW.

По его словам, вместо того чтобы перезагрузить европейскую цифровую экономику, этот закон заставит ее еще больше отстать от США и Китая. Помимо этого, из-за того, что определение ИИ слишком обширно, новые требования поставят под удар многие социально полезные приложения, добавляет он.

Но нашлись и те, кто, наоборот, счел новые правила слишком мягкими и «полными лазеек». Даниэль Лойфер, политический аналитик группы цифровых прав Access Now, считает, что фактически запрещается только четыре применения ИИ, а запрет биометрических систем подразумевает множество исключений.

Кроме того, он также указывает на слишком расплывчатое определение «высокорисковых технологий».

Чтобы правила вступили в силу, их должны одобрить Европейский парламент и государства — члены ЕС. Это может занять годы, отмечает издание, поэтому не исключено, что в момент, когда предложения пройдут все инстанции, они безнадежно устареют либо вообще не будут приняты.