Глава Anthropic: ИИ сравняется по способностям с целой страной гениев к 2027 году

Амодей раскритиковал парижский саммит по ИИ (AI Action Summit), заявив, что это была «упущенная возможность». Он считает, что мировое сообщество слишком медленно реагирует на необходимость регулирования искусственного интеллекта, особенно сейчас, когда демократические и авторитарные страны соревнуются за лидерство в этой области. «Демократические общества должны лидировать в развитии ИИ, чтобы авторитарные страны не использовали его для глобального военного господства», — заявил Амодей. Его также беспокоят уязвимости в поставках чипов, производстве полупроводников и кибербезопасности.

Парижский саммит по ИИ показал, что страны расходятся во мнениях о том, как регулировать эту сферу. Вице-президент США Джей Ди Вэнс отклонил европейские предложения, назвав их слишком жесткими. Он раскритиковал Закон о цифровых услугах (Digital Services Act) ЕС, а также европейские правила онлайн-приватности, заявив, что они влекут за собой бесконечные затраты на юридическое соответствие для небольших компаний. США и Великобритания отказались подписывать итоговое заявление, что говорит о проблемах с достижением соглашения.

Амодей сосредоточился на трех ключевых проблемах: сохранении лидерства демократических стран в развитии ИИ, рисках безопасности и экономических последствиях. Он особо отметил важность предотвращения использования ИИ негосударственными группами и контроля над автономными рисками, связанными с развитыми системами ИИ.

Если прогноз главы Anthrophic сбудется, и ИИ достигнет уровня человеческого гения к 2027-2030 годам, нынешних механизмов регулирования будет недостаточно.

А значит, перед технологическими компаниями и политиками стоит задача создать эффективные механизмы контроля, пока развитие ИИ не вышло из-под контроля. Главный вопрос в том, смогут ли они достаточно быстро принимать необходимые меры в ответ на стремительное развитие этой технологии.

Кроме того, технологическая индустрия и власти столкнутся с фундаментальной проблемой: как сбалансировать огромный потенциал ИИ с не менее серьезными рисками. Амодей предупреждает, что времени на решение этих задач все меньше.

Anthropic выступает за прозрачность в разработке ИИ. На этой неделе компания представила «Экономический индекс», чтобы отслеживать влияние искусственного интеллекта на рынок труда. Данный шаг контрастирует с более закрытыми подходами, которых придерживаются ее конкуренты. Инициатива связана с растущими опасениями по поводу того, что ИИ может привести к сокращению рабочих мест в мире.