Мир через 20 лет: 100 миллиардов роботов и 10 миллиардов человек

Известный российский специалист в области искусственного интеллекта Сергей Шумский дал прогноз развития машинного разума в ближайшие годы. В книге «Воспитание машин» он пишет о том, что уже совсем скоро у роботов появится собственная «психика», и до этого момента людям просто необходимо сплотиться и договориться о единых ценностях. Это вопрос не завтрашнего дня, а уже сегодняшнего: человечеству нужно спешить!

Мир через 5–10 лет: слабый ИИ

Самый надежный способ предсказания будущего основан на анализе уже запущенных проектов. Если они получили инвестиции, значит, в них заложено видение будущего, на которое инвесторы сделали свои ставки, опираясь на какую-то неизвестную нам инсайдерскую информацию. Следуя этой «мудрости толпы», мы можем обрисовать ближайшее будущее на характерном горизонте венчурных проектов 5–10 лет, просто анализируя текущий рынок ИИ стартапов.

[…]Основная часть денег сегодня тратится на коммерциализацию существующих технологий слабого ИИ, то есть на то, чтобы сорвать «низко висящие плоды». Сильный интеллект человеческого уровня находится на стадии фундаментальных исследований и не является приоритетом для бизнеса. Соответственно, в ближайшие годы мы увидим существенный рост бизнесов, использующих уже созревшие для практических приложений технологии слабого ИИ, в первую очередь машинное зрение, разговорный интеллект и рекомендательные системы.

Все известные нам гаджеты существенно поумнеют, начнут уверенно распознавать наши лица и голоса. И не просто распознавать, но и отслеживать наше эмоциональное состояние, диагностировать физические недуги и даже предсказывать наши желания. Кроме того, за 5–10 лет суммарные мощности компьютеров возрастут еще на один-два порядка, в основном за счет роста числа сенсоров и процессоров в окружающей нас среде. Так что поумнеет все наше окружение, и умные сервисы будут доступны повсеместно, даже в отсутствие привычных гаджетов.

Прежде всего это коснется наших домов, где умные колонки обеспечат возможность получить консультацию или сделать заказ с голоса в любой момент. Но и выходя из дома, мы по-прежнему сможем обращаться к вездесущим камерам и микрофонам — в автомобилях, магазинах, офисах и на транспортных узлах. Всюду мы будем узнаны, и к нашим услугам будут наши персональные программные ассистенты.

Качество разговорного интеллекта персональных ассистентов на основе слабого ИИ вскоре станет вполне достаточным для поддержания основных сценариев взаимодействия с пользователями. Да и набор сценариев существенно расширится за счет многочисленных новых сервисов от независимых разработчиков, доступных через персональных ассистентов. Мы это видим уже сегодня на примере расширений возможностей Amazon Alexa (Skills). Можно с уверенностью предположить, что разговорный интеллект пройдет «бытовой» тест Тьюринга, то есть ассистенты на основе такого «фасеточного» слабого ИИ смогут обеспечить вполне приемлемое качество общения по основным сценариям, умело имитируя человеческое поведение даже в отсутствие полноценной искусственной психики.

Утвердившись в качестве нового человеко-машинного интерфейса, персональные ассистенты обеспечат каждому из нас удобный доступ к миллионам специализированных сервисов. Они облегчат нашу жизнь, заказывая столики в любимых ресторанах, помогая планировать поездки, покупать билеты, вызывать такси, арендовать машины и апартаменты. Все это возможно уже сегодня, но через 5–10 лет станет доступно каждому без всяких усилий с его стороны и войдет в привычку.

Если сегодня персональные ассистенты в основном помогают нам рационально тратить наши деньги, то на следующем этапе они станут помогать нам их зарабатывать. Ведь цифровые платформы — это возможность найти покупателя для любого товара, включая и наши профессиональные навыки и таланты. Интернет сегодня можно уподобить глобальному виртуальному торговому центру. За 5–10 лет он превратится в глобальный виртуальный бизнес-центр. Образовательные онлайн-платформы обеспечат персональные обучающие траектории по доступным даже в развивающихся странах ценам, расширяя выбор специалистов с уникальными наборами компетенций. Машинный перевод снимет языковые барьеры для формирования из них уникальных команд под любые задачи. Использование такими командами многочисленных специализированных ИИ-сервисов со сверхчеловеческими способностями приведет к существенному углублению уровня разделения труда. Это и будет основным источником повышения эффективности новой экономики и качества нашей жизни.

Следуя уже наметившимся трендам, на горизонте 5–10 лет мы можем уверенно предсказать революцию в логистике, связанную с повсеместным внедрением автономного транспорта на земле, в море и в воздухе. Беспилотные такси и грузовики потеснят частные авто. Станет привычной доставка товаров роботами-тележками в городах и дронами в пригородах и сельской местности.

Автономные комбайны и роботы в сельском хозяйстве смогут работать круглосуточно в связке с дронами-разведчиками, анализирующими ситуацию с посевами в реальном времени. Частично производство сельхозпродукции переместится в города, ближе к потребителю —на вертикальные фермы с искусственным светодиодным освещением и автоматическим контролем всех стадий выращивания и сбора урожая. Вообще с учетом недавних успехов стартапов, занятых разработкой синтетического мяса, индустрию производства пищи ждут существенные перемены.

Получит дальнейшее развитие наметившийся тренд на автономность жилищ и локальную энергетику — пассивные дома, солнечные панели, тепловые насосы, ветро-генераторы, мини-ГЭС и различные накопители энергии. Если добавить к этому доставку товаров дронами и глобальный интернет, раздаваемый из космоса низкоорбитальными спутниками Starlink, плюс растущую популярность удаленной работы, то человечество вскоре сможет начать тестировать новые модели расселения в живописной местности вне больших городов.

Мир через 10–20 лет: ИИ человеческого уровня

Становление цифровых платформ невозможно без интеллектуальных агентов в качестве нового человеко-машинного интерфейса. Первые поколения таких агентов будут основаны на слабом ИИ, способном имитировать основные сценарии взаимодействия с пользователями. Как мы знаем, некоторым ботам уже удалось пройти разговорный тест Тьюринга в его простейшем варианте.

Но при тестировании гораздо легче имитировать интеллект, чем в действительности. Разумное поведение роботов в реальном мире потребует настоящего интеллекта, а не его имитации.

Главное содержание следующего этапа — широкого внедрения в нашу жизнь разумных роботов — мы связываем с появлением у них искусственной психики, то есть с технологией сильного ИИ. Только обладая искусственной психикой человеческого уровня, роботы будут способны заменять или дополнять людей на производстве в массовых масштабах, обучаясь самым разным специальностям. А дальнейший рост экономики в отсутствие роста народонаселения возможен только за счет все более многочисленной армии все более совершенных роботов.

Появление операционной системы роботов, основанной на искусственной психике, ознаменует начало массовой робототехники, замену людей роботами с передачей последним всех человеческих знаний, навыков и ценностей. Это и станет основным содержанием рассматриваемого этапа — становления человеко-машинной цивилизации.

Как мы уже не раз отмечали, машинный разум, как и человеческий, будет коллективным: роботы и агенты будут активно взаимодействовать друг с другом и с людьми, образуя сложные цепочки создания стоимости с очень высокой степенью разделения труда. Условно говоря, в экономике вместе с 10 млрд человек будут действовать 100 млрд и более искусственных личностей. Их число будет ограничено лишь доступными вычислительными мощностями, которые, как мы знаем, за 10–20 лет вырастут в 100–10 000 раз. С увеличением уровня разделения труда вырастет и эффективность экономики, то есть общее количество производимых благ в расчете на человека.

Как это все будет выглядеть на практике? Прежде всего, наши персональные ассистенты, обретя свою собственную психику, станут гораздо более самостоятельными и креативными, в отличие от прежних, поведение которых было в большой степени запрограммировано. Они смогут понимать нас и наши мотивы гораздо глубже и тем лучше, чем ближе будет устройство искусственной психики к человеческой. Соответственно, им можно будет перепоручить представление наших интересов в цифровом мире, ведение переговоров от нашего лица с такими же агентами других людей. Иначе говоря, мы сможем «повысить» их с должности секретаря-ассистента до роли агентаимпресарио или поверенного с определенными полномочиями, вплоть до подготовки и заключения юридически значимых смарт-контрактов.

То же относится и к роботам, которые будут связаны между собой и с программными агентами в единую сеть, обмениваясь информацией и знаниями в процессе совместной с людьми мыследеятельности. Вот почему важно иметь единую архитектуру искусственной психики агентов и роботов, как можно более похожую на человеческую. В этом случае им легче будет понимать наш язык, мотивы и ценности, то есть действовать именно в наших интересах.

Как мы уже говорили, обучаться агенты и роботы будут через одобрение или критику своих действий со стороны людей с помощью встроенного в их психику аналога дофаминовой системы — электронного кошелька. Но цепочки создания стоимости в современной экономике достаточно длинные, так что роботы будут обслуживать и получать вознаграждения также и друг от друга. Возникнет коллективное обучение роботов через перераспределение денежного потока от конечных пользователей — людей. Взаимное рейтингование роботами поведения друг друга — очень важная составляющая будущей системы коллективной безопасности, ведь с появлением агентов со сверхчеловеческим интеллектом контролировать свои поступки и ценности смогут лишь они сами. Люди просто не смогут предугадывать мотивы их поведения и будут неспособны оценивать агентов адекватно. Они сумеют оценивать лишь текущие, но не отдаленные последствия их действий, предвидеть которые будут не в состоянии.

Возникает вопрос: какие ценности мы сможем передать машинному интеллекту? Ведь они могут существенно отличаться у разных социальных групп, сообществ и стран, поэтому противоречия внутри человеческого разума неизбежно воспроизведутся и внутри коллективного машинного разума. Мир на Земле будет существенным образом зависеть от степени остроты этих внутренних противоречий. Образно говоря, если мы хотим договориться с будущим сверхинтеллектом, мы должны сначала суметь договориться между собой, дорасти до бесконфликтной самоорганизации всего мирового сообщества.

Здесь мы возвращаемся к ключевым проблемам ближайших десятилетий. Как нам преодолеть возможную турбулентность при переходе на новый уклад? Как при гиперболическом распределении доходов избежать конфликтов интересов, разрешимых только силовыми методами? Как избежать появления в авторитарных государствах «большого брата», выявляющего и обезвреживающего инакомыслящих любыми возможными способами? Как избежать появления на службе у военных искусственных стратегов со сверхчеловеческими способностями, которых уже никто не сможет контролировать и единственной целью жизни которых является уничтожение «условного противника»?

По мысли Юваля Харари, человечество обязано своими успехами способности людей формировать ментальные конструкции, «истории», в которые верят большие группы людей, — от религии и идеологии до общественных институтов и денег. Эти символы веры сплачивают человеческие общности, обеспечивают необходимый уровень взаимного доверия, понимания мотивов друг друга.

Беда лишь в том, что такие конструкции у разных групп людей могут существенно различаться. Соответственно между сообществами с разными системами ценностей возникает взаимное недоверие, потому что люди не понимают мотивов поступков чужаков либо эти мотивы кажутся им чуждыми — «варварскими». Возникает двойная мораль — по отношению к своим и к чужим. Если внутри своей общности принято соблюдать общие ценности, то в отношении к чужакам они уже необязательны, а то и нежелательны. Стремление унифицировать систему ценностей неискоренимо и является причиной бесчисленных войн, из которых человечество не вылезало со времен геноцида неандертальцев и прочих гоминид.

Что ж, у всякой медали есть две стороны. Однако остается надежда, что людям удастся сплотиться в единую общность, осознав общую для всего человечества опасность, как это описано в трилогии китайского фантаста Лю Цысиня «Задача трех тел», где человечество сталкивается с нашествием более совершенного инопланетного разума.

Но там из-за космических расстояний людям для принятия ответных мер отпущено 400 лет. В реальности нам до пришествия более совершенного машинного разума остается каких-то лет 20–40. Значит, надо спешить!

Подробнее о книге «Воспитание машин» читайте в базе «Идеономики».