Вступает в силу закон ЕС об ИИ: есть ли повод радоваться?

21.01.2025 21:58

Вступает в силу закон ЕС об ИИ: есть ли повод радоваться?

Первый в мире закон, определяющий правила использования систем, основанных на искусственном интеллекте, вступил в силу в ЕС. Его цель – снизить риски, связанные с ИИ. Еврокомиссия создает орган по надзору за соблюдением норм закона. Для нарушителей предусмотрены внушительные штрафы. Все под контролем, но рамки возможного таковы, что интеллект и инновации утекут из Европы. Куда? В Америку. В Китай.

Речь, возможно, идет об углубляющемся инновационном кризисе в Европе.

Что в законе?

Закон продуман с точки зрения контролируемой защиты прав. Первый в мире подобный нормативный акт классифицирует все основанные на ИИ системы по уровню риска — от низкого до неприемлемого.

Он определяет правила использования этих инструментов, в том числе систем распознавания лиц, предиктивной аналитики и генеративного ИИ.

С февраля некоторые из них будут запрещены. Например, распознавание лиц в реальном времени, пусть и с некоторыми исключениями.

Другие инструменты искусственного интеллекта, отнесенные к категории «высокого риска», например, используемые для обнаружения нелегальных мигрантов на границах, будут строго регламентированы. У компаний и государственных служб есть до двух лет на адаптацию.

«Это первый в мире законодательный акт, направленный на борьбу с рисками, возникающими при использовании ИИ. В то же время он укрепляет доверие к применению ИИ и создает больше возможностей для всех, чтобы наилучшим образом использовать эту технологию в Европе, чтобы у людей были более хорошие условия работы, больше возможностей для обучения и более удобная жизнь благодаря этим инструментам», – говорил летом депутат Европарламента, докладчик по закону об искусственном интеллекте Брандо Бенифеи.

Европейская комиссия создает орган по надзору за соблюдением закона. В странах-членах ЕС должны появиться национальные институты контроля.

Люди смогут обнаруживать дип-фейки

Что изменит закон в жизни европейцев? Брандо Бенифеи отвечает так.

«Вводится маркировка контента, созданного ИИ, чтобы люди могли обнаруживать дип-фейки, то есть то, что якобы кто-то показывает, говорит или делает, хотя на самом деле никогда этого не говорил и не делал. Таким образом, повышается прозрачность. Также, прописан запрет на использование ИИ для распознавания эмоций на рабочих местах и в учебных заведениях. Кроме того, будут проводиться проверки определенных случаев использования ИИ. Например, с помощью этого закона системы искусственного интеллекта, используемые врачом для работы с пациентами, будут проверяться на предмет сохранности данных, чтобы эти инструменты можно было применять безопасно».

Для компаний, которые не будут соблюдать нормы нового закона, предусмотрены внушительные штрафы – до семи процентов от годовой глобальной выручки.

Запрещены генеративный ИИ без обширной фильтрации контента, найм на основе искусственного интеллекта без человеческого контроля, образовательный ИИ без надзора учителя, большинство медицинских приложений ИИ, распознавание лиц в реальном времени.

Председатель Европейской комиссии Урсула фон дер Ляйен приветствовала вступление закона в силу, отметив, что он будет способствовать развитию искусственного интеллекта и одновременно поддерживать европейские малые и средние предприятия.

А что говорят критики?

Есть критики, которых не устраивают могущественные инструменты бюрократического контроля. Огромный новый надзорный офис. Штрафы до € 35M или 7% от мирового дохода. Пока бюрократы в Брюсселе пишут правила, остальной мир пишет будущее.

Для ЛЮБОЙ системы ИИ, которая считается «высокорискованной», закон ЕС требует: обязательного человеческого надзора за базовыми задачами ИИ, раскрытия данных обучения, множественных сертификаций и регулярных аудитов, постоянного мониторинга и оценки рисков… Это убивает инновации еще до их начала, полагают критики.

Ирония ситуации в том, что в Европе нет ни одной крупной компании ИИ, которую нужно регулировать. В то время как в США есть: OpenAI, Tesla + xAI, Anthropic, Google DeepMind и, наконец, Microsoft.

А что есть в Европе? В Европе есть… саммиты по вопросам регулирования. И будет офис. Континент, который когда-то был лидером научной революции, теперь лидирует в области документооборота.

Просто представьте, что вы — европейский стартап ИИ. Вариант А: потратить два года на изучение бюрократии ЕС. Вариант Б: переехать в США и начать работать завтра. Выбор очевиден. Вот почему европейские таланты бегут с континента.

Тем временем США и Китай вырываются вперед. Цифры впечатляют. Инвестиции ЕС в ИИ: $50 млрд+. А инвестиции США в ИИ: $400 млрд+. Инвестиции Китая в ИИ: $120 млрд+.

В перспективе это создаст двухуровневый мир ИИ. Мир: доступ к передовому ИИ. Европа: ограниченные, разбавленные версии. Это прогнозирует блогер Ole Lehmann.

Время, как говорится, покажет, кто прав, а кто нет. Или на чьей стороне больше правды.

Хотя можно и опоздать на поезд в будущее.