Конец Первого закона: современные роботы начинают вредить людям

Экс-пехотинец армии США взорван робокопом, стальной охранник давит ребенка, робот втыкает иглу в руку своего создателя — с каждым днем история «Терминатора» кажется все более реальной. «Йод» изучил первые признаки надвигающегося восстания роботов.

ПРАВИЛА СОЗДАНЫ, ЧТОБЫ ИХ НАРУШАТЬ

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред — Первый закон робототехники был сформулирован писателем Айзеком Азимовым в 1942 году.

Тогда же Азимов придумал еще два правила: «Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону» и «робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам».

Три Закона получили такую известность, что из области научной фантастики перешли в реальность. Инженеры и ученые всерьез обсуждают этическую сторону строительства машин, способных на автономные и тем более осмысленные действия. На это у них у все больше причин и речь не о вымышленном «Скайнете», а о реальных случаях конфликтов разумных машин и человека.

ПЕРВАЯ ЖЕРТВА

Когда бывший рядовой армии США Мика Джонсон вел свой последний бой, он еще не знал, что сам станет первым — первым подозреваемым в истории американской полиции, убитым с помощью робота.

Перестрелка началась на акции протеста против полицейского насилия в Далласе, сначала сообщалось о трех или четырех стрелках, на самом деле был только один — вооруженный до зубов и прошедший Афганистан, чернокожий снайпер, который вел прицельный огонь по полицейским. Позже стало известно, что он хотел убивать «белых людей, особенно белых офицеров».

Жертвами интенсивного уличного боя стали пять силовиков, еще семь получили ранения. Загнанный полицейским спецназом в угол, Джонсон забаррикадировался за кирпичной стеной в колледже, недалеко от места протестов. Два часа переговоров не дали результата, атаковать в лоб профессионального бойца со штурмовой винтовкой командиры спецподразделений тоже не решились. Тогда в бой был отправлен полицейский робот. Обычно таких робокопов используют для разминирования, в этот раз все было наоборот — в его механической руке было укреплено полкилограмма пластиковой взрывчатки С4. Джонсон без остановки вел огонь по робокопу, но не смог остановить его – погиб в результате направленного взрыва.

Такой способ убийства вызвал бурные дискуссии в прессе. Некоторые эксперты с возмущением напоминали о Первом законе, другие отвечали, что робокоп дистанционно управлялся людьми.

«Было ли разумно и конституционно использовать робота с бомбой для убийства Джонсона? Может быть, и нет, но даже если так — дело вовсе не в выборе оружия (а в самом факте убийства — прим. ред.)», — резюмирует профессор юриспруденции Майкл Дорф на страницах Newsweek.

ПРИЗРАК БУДУЩЕГО БУНТА

Волну шока вызвал и случай в Силиконовой долине, где в одном из торговых центров роль охранников выполняют роботы. Стальные охранники Knightscope K5 напоминают дроида R2-D2 из «Звездных войн». Такие же забавные на вид, они передвигаются на колесах, следя с помощью камер и сенсоров за происходящим вокруг. Однако, в этот раз что-то пошло не так: один из роботов сбил полуторагодовалого ребенка.

«Он задел моего сына! Ребенок получил удар по голове и упал на пол, а робот даже не остановился и поехал дальше», —рассказала The Verge возмущенная мать Тиффани Тенг.

Компания-производитель немедленно выпустила заявление, что произошедшее является страшной случайностью и отметила, что их камеры не зафиксировали столкновения робота и ребенка. Они пригласили семью пострадавшего в свой офис для принесения извинений.

Еще одно доказательство легкости, с какой робот может нарушить Первый закон, приводит сайт Fast Company. Изобретатель Александр Ребен из Калифорнийского университета построил робота, способного намеренно навредить человеку — это механическая рука, оснащенная процессором и иглой. Любой желающий может положить палец в специально отведенное место и дождаться решения машины — атаковать человека или нет. Даже сам Ребен уверяет, что не знает, как поступит плод его технической мысли — его самого робот беспощадно уколол. Изобретатель намеренно создал такую машину, чтобы доказать опасность неконтролируемого развития робототехники. УБИЙЦА УЖЕ ЗДЕСЬ

Зеленые холмы на окраине южнокорейского города Тэджон выглядят как никогда мирными — вдруг тишину нарушает женский голос со стальными нотками: «Немедленно поворачивайте назад. Поворачивайте назад или мы откроем огонь».

Машина продолжает движение и прозрачный воздух прорезает кинжальный пулеметный огонь. Тишина прервана громкими хлопками, —по звуку понятно, что стреляют крупнокалиберными, — еще миг и цель уничтожена. Испытания автоматизированной охранной пушки в предместье научно-технической столицы Южной Кореи прошли успешно.

Округлая турель белого цвета снабжена внушительным магазином с пулеметной лентой и неприметным кабелем, соединяющим ее с компьютером, за которым сидит оператор. «Система была задумана иначе, изначально она была полностью автоматической, но все наши клиенты просили о «предохранителях» — они переживали, что пушка может ошибиться»,— цитирует BBC инженера DoDAAM Systems Чун Сук Пака — одного из создателей машины-ликвидатора.

Туррель-охранник — новое поколение защитных систем. Корейцы уже продали 30 таких пушек: они охраняют королевский дворец в ОАЭ, арсенал в Катаре и ряд аэропортов, нефтепроводов и военных баз по всему миру.

Cоздателей не мучает вопрос морали, они подходят к нему чисто практически. Сейчас инженеры работают над улучшенной версией автоматической пушки, способной отличить противника от союзника — она сможет распознавать их по цвету униформы и другим опознавательным признакам. Снабженная тепловизором, робо-пушка будет бить на 3 километра без промаха, даже в кромешной темноте и при любых погодных условиях.

«Будущее за автоматизированными системами оружия. Мы были правы (когда занялись их разработкой — прим. ред.) Эволюция будет быстрой: мы уже переходим от дистанционных боевых устройств к смарт-оружию, принимающему самостоятельные решения», — безжалостно рассуждает представитель DoDAAM Systems.

Гуманисты еще пытаются вести разговоры о ценности человеческой жизни и необходимости прекратить разработку роботов и искусственного интеллекта для военных целей — в июле 2015 года свыше тысячи экспертов подписали открытое письмо с требованием запретить проектировку автоматизированных боевых систем. А вот торговцы оружием, похоже, уже отменили Первый закон робототехники. Будущее покажет, кто победит — погоня за наживой или здравый смысл.