В США совершенствуют искусственный интеллект военного назначения

В США новые версии искусственного интеллекта рождаются как грибы после дождя. Так, недавно свою модель ИИ продемонстрировала американская компания VERSES Research Lab, проведя презентацию демоверсии платформы ИИ под названием Genius. 

Несмотря на то, что офисы компании расположены в 60 городах мира, ее основатель и генеральный директор Габриэль Рене – гражданин США и живет в Лос-Анджелесе. 

Во время демонстрации в прямом эфире виртуальные роботы Карлито (названный в честь доктора Карла Фристона, главного научного сотрудника VERSES) и Дронито продемонстрировали возможности Genius. 

Габриэль Рене утверждает, что роботам не требовалось никакой предварительной подготовки для того, чтобы воспринимать различные объекты, делать выводы об их местонахождении, а также выполнять сложные задачи, такие как извлечение запрошенных предметов, в режиме реального времени. 

19 декабря издание The New York Times опубликовало открытое письмо Габриэля Рене совету директоров компании Open AI, создавшей, как известно, линейку чат-ботов GPT. 

Рене напомнил, что компания Open AI клятвенно обещала, что «если проект [ИИ], ориентированный на ценность и безопасность, приблизится к созданию AGI раньше нас, мы обязуемся прекратить конкурировать с ним и начать оказывать помощь этому проекту».

«Мы считаем, что VERSES заслуживает вашей помощи. В свою очередь мы предлагаем нашу помощь, чтобы гарантировать, что общий [ИИ] и сверхинтеллект развивается и используется безопасным и полезным образом для всего человечества», – заявил Рене.

Под общим ИИ (General AI) подразумевают такой ИИ, который способен справляться с любыми задачами не хуже человека. А сверхинтеллект (Super AI) – это гипотетический ИИ, превосходящий человеческий разум.

В настоящее время доступ к демоверсии Genius прекращен, и оценить возможности ИИ от компании VERSES мы не можем, но разобраться, на каких принципах работает эта платформа, вполне возможно.

В пресс-релизах VERSES говорится, что платформа Genius использует программное обеспечение совершенно иного рода, чем чат-боты от Microsoft (GPT-4) и Google (Bard). В основу Genius положены разработки главного научного сотрудника VERSES британского нейробиолога профессора Лондонского университета Карла Фристона (Karl Friston). 

Карл Фристон – самый цитируемый учёный современности. Его индекс Хирша в два раза больше, чем у Эйнштейна. 

«Ему 59 лет, он работает каждую ночь и выходные и с начала нового тысячелетия опубликовал более 1000 научных статей. Только в 2017 году он был руководителем или соавтором 85 публикаций, что составляет примерно одну публикацию каждые четыре дня. В статье, опубликованной в журнале Nature в 2018 году, был проанализирован феномен “сверхплодовитых” учёных, которых авторы определили как тех, у кого более 72 публикаций в год», – пишет журнал Wired. 

Любопытно, что с 2010 года Карл Фристон стал соавтором пятисот научных статей, но лишь в 70 его фамилия стоит на первом месте как руководителя группы ученых. Научныйх публикаций, написанных без соавторов, у Фристона нет. 

Западные СМИ рекламируют его книгу (написанную опять же в соавторстве с еще двумя учеными) Active Inference: The Free Energy Principle in Mind, Brain, and Behavior («Активный вывод: принцип свободной энергии в разуме, мозге и поведении»), в которой рассказывается об основных принципах, положенных в основу ИИ Genius. 

Таких принципов два: Active Inference (активный вывод/умозаключение) и Active Inference (принцип свободной энергии). 

По прочтении сего объемного труда выясняется, что упомянутый выше «активный вывод» не что иное, как известная теорема Байеса, названная так в честь пресвитерианского священника XVIII века Томаса Байеса, – метод подсчёта обоснованности гипотез (заявлений, предложений) на основе имеющихся доказательств (наблюдений, данных, информации). Простейшая версия звучит так: «Изначальная гипотеза + новые свидетельства = новая, улучшенная гипотеза».

Байесовский подход был использован в поиске погибших подлодок «Скорпион», «Трешер» и потерянным над Атлантикой бомбардировщиком В-52 с водородной бомбой. Эта методика до сих пор используется армией США и береговой охраной. Все спортивные букмекеры также используют ее для создания своих компьютерных программ.

Исследователи искусственного интеллекта, включая разработчиков ИИ в Google, применяют программное обеспечение Байеса. Байесовские программы «сортируют имейл и спам, оценивают медицинские риски и государственную безопасность, расшифровывают ДНК».

В 2014 году The NewYork Times писала, что «байесовская статистика проникает везде, от физики до исследований рака, от экологии до психологии». Американский физик Джон Мэзер еще в 2016 году выразил беспокойство тем, что «байесовские машины могут стать настолько умными, что вытеснят людей».

Итак, никакого приоритета в применении «активного вывода», то бишь байесовского подхода, в моделях ИИ у Карла Фристона нет.

Что же касается принципа свободной энергии (под свободной энергией имеется в виду неопределенность), то это опять же иное название антиэнтропийности человеческого разума, который стремится за счет активных действий избавиться от тревожной неизвестности.

Настоящая же заслуга разработчиков Genius состоит в том, что чат-боты Карлито и Дронито используют не статичные данные, как GPT-3, и не единичную подсказку, как GPT-4, а обучаются непрерывно в реальном масштабе времени.

И все же главный прорыв к AGI или даже к «сверхинтеллекту» может лежать в применении программного обеспечения Genius на основе так называемого многоагентного подхода, который, как мы писали, применяется в пентагоновских проектах EMBERS («Тлеющие угли») и Minerva.

Оба эти проекта нацелены на разжигание социальных протестов в странах-мишенях и являются развитием военной программы The Human Terrain System (HTS), к которой были привлечены антропологи, социологи, политологи, лингвисты, разрабатывавшие схемы управления менталитетом населения Ирака и Афганистана во время вторжения туда армии США.

Искусственный интеллект играет в этих проектах роль инструмента сортировки сотен тысяч источников-агентов; происходит так называемое многоагентное моделирование. Но решение в конечном счете принимает человек. Методом последовательных приближений (итераций) коллективный кентавр (люди и алгоритмы) определяет так называемые параметры порядка – небольшое число кризисогенных факторов, способных, если их «подогреть», разжечь «тлеющие угли» протестов, дать толчок «цветной революции» в той или иной стране. Именно эта методика лежала в основе запуска в странах Ближнего Востока «арабской весны».

Программное обеспечение платформы Genius гораздо более совершенно, так как способно обучаться по ходу разговора с пользователем. 

С учетом того, что у Фристона за всю его научную биографию не было ни одной работы без соавторов, можно предположить, что он является талантливым организатором научных исследований, причём с военными целями. Он сам и не скрывает, что его разработки имеют военное назначение.

«Достижения последних десятилетий – на стыке информатики, нейробиологии и других дисциплин – позволили реализовать некоторый интеллект (обучение, рассуждение) в инженерных артефактах. В результате распространение интеллектуальных систем, в том числе вооружений, способных действовать автономно или совместно с военными [операторами], создало острую потребность в достижениях в области машинного интеллекта, которые обеспечат конкурентное преимущество в торговле и обороне», – пишет Фристон (как всегда с соавторами) в статье, опубликованной на сайте National Center for Biotechnology Information, ведущего военного научного центра США.

Публикация открытого письма команды VERSES в адрес майкрософтовской Open AI может означать возможное объединение усилий всех западных IT-корпораций с целью более успешной конкуренции с китайскими разработчиками ИИ.

Талантливый физик Роберт Оппенгеймер в свое время возглавил международную команду атомного «Манхеттенского проекта». Талантливый нейробиолог Карл Фристон, похоже, готовится на роль главы международной команды проекта ИИ, военная направленность которого пока тщательно скрывается.