«Искусственный интеллект пока ещё слаб»

О чём мечтать в XXI веке? Почему искусственный интеллект пока ещё слаб? Будут ли отменены авторские права из-за деятельности нейросетей? Как международная напряжённость влияет на развитие науки и работу учёных? Об этом спецпредставитель Десятилетия науки и технологий в России Алексей Паевский рассказал Фёдору Лукьянову в интервью для программы «Международное обозрение».

Фёдор Лукьянов: С чем связан шум вокруг искусственного интеллекта? Что это: мода, бизнес, реальное признание изменений?

Алексей Паевский: Всё вместе. Не так давно я общался с одним замечательным учёным, который работает в этой области. Я спросил его о том, чем является «сильный» искусственный интеллект, который может всё, – реальной вещью или журналистской страшилкой. Мне ответили, что, с одной стороны, это всегда была журналистская страшилка, а, с другой стороны, нельзя отрицать факт того, что современный искусственный интеллект шагнул вперёд достаточно серьёзно, но недостаточно серьёзно для того, чтобы быть «сильным», как мы это представляем. Искусственный интеллект пока ещё «слаб» – в том смысле, что он может решать лишь какие-то конкретные задачи.

Фёдор Лукьянов: Получается, если на производстве робот напал на инженера – а такие эпизоды всё чаще обсуждают сегодня – причиной является не злой робот, а технический сбой.

Алексей Паевский: Среди причин может быть технический сбой, неправильно запрограммированный робот, его неверное обучение. На самом деле мощь и современного искусственного интеллекта, и современных нейросетей зависит от того, как их тренировали и какая выборка использовалась при их обучении. Как ИИ натренировали, так он и будет работать. Соответственно, какие-то программы удачные, какие-то работают плохо, особенно это применимо к области медицины.

Сегодня очень активно в мире и в России, преимущественно в Москве, применяют ИИ в диагностике. Появляется много сервисов, компаний, программ, которые помогают поставить диагноз, делают томографии, ещё какие-то процедуры. Часть из этих сервисов действительно работает, часть не работает и не диагностирует. Толка от таких программ немного, можно их внедрять, но лучше от этого людям не будет.

Фёдор Лукьянов: Вспоминается культовый сериал «Доктор Хаус», где главный герой следовал девизу «главное – не вылечить, а поставить диагноз».

Любопытный эпизод – недавно The New York Times подали иск в отношении компании OpenAI, обвиняя её в том, что в OpenAI незаконно используют материалы газеты для обучения ИИ, нарушая тем самым авторские права. Выходит, что ИИ – это чисто манипуляционная вещь: что ты используешь для тренировки программы, то ты и получаешь.

Алексей Паевский: Более того, появляется ещё одна интересная юридическая коллизия, связанная с деятельностью нейросетей, которые генерируют изображения. По сути нейросеть, которая выдаёт какой-то визуальный результат, не рисует свои картинки сама, а выбирает самые подходящие из тех, на которых была обучена. При этом ИИ говорит, что это его творчество, а на деле получается, что творчество вовсе не его, и вопрос авторских прав здесь точно так же всплывает.

Фёдор Лукьянов: Поэтому многие люди говорят, что из-за ИИ авторские права надо отменять. Развитие ИИ поднимает также этические вопросы и вызывает такие морально-нравственные коллизии, которые невозможно решить современному человеку. Но если ИИ пока «слаб» и продвинулся не так далеко, возможно, этическая сторона вопроса всё ещё не совсем актуальна.

Алексей Паевский: Мне кажется, что этические коллизии, связанные с ИИ, связаны прежде всего с нами самими. Этика ИИ – это та же этика человека. Например, возникает дилемма о том, кто виноват в аварии, если автомобиль двигался на автопилоте – тот, кто был в машине, тот, кто включил автопилот, тот, кто написал код для автопилота, тот, кто продал машину? Вот такие вопросы уже задаются.

Фёдор Лукьянов: Или тот, кто нарушил правила, переходя дорогу.

Алексей Паевский: И это тоже вариант.

Фёдор Лукьянов: Я довольно далёк от этой сферы, но 1970–1980-е гг. – время, в которое я вырос – ознаменовались расцветом научной фантастики. Сегодня, оглядываясь назад, складывается впечатление, что всё то, что описывала фантастика в прошлом веке, сбылось и реализовалось (или понятно, когда будет реализовано). О чём мечтать теперь?

Алексей Паевский: Далеко не все мечты сбылись. Во-первых, по-прежнему люди не живут столько, сколько хотят. С болезнями всё более-менее понятно. Какие-то из них мы уже победили, знаем, как их лечить, даже рак, с какими-то мы всё ещё не знаем, что делать, например, с болезнью Альцгеймера, но всё-таки победа над болезнями – это решаемый вопрос. Для продвижения здесь нужны деньги, новые технологии. Со старением пока всё совсем неоднозначно. Какие-то подвижки есть, но они небольшие. Во-вторых, мы остаёмся запертыми на своей планете и максимум, что мы можем сделать, – это облететь Солнечную систему. Даже до ближайших к нашей галактике звёзд нужно лететь десятилетиями, поэтому помечтать пока есть о чём.

Фёдор Лукьянов: Тем не менее это то, о чём люди мечтают с давних времён. Каких-то качественно новых устремлений не возникает?

Алексей Паевский: Получается, что так. Мы же люди.

Фёдор Лукьянов: Мир сегодня в крайне нестабильном состоянии, обострены все виды противоречий, ведётся геополитическое, военно-техническое, экономическое соперничество. Идёт ли борьба в научной сфере? И осталось ли ещё место для международного сотрудничества?

Алексей Паевский: Да, конечно, место осталось. Международная ситуация задевает науку в меньшей степени, чем другие сферы. Главные трудности возникают с тем, чтобы купить какой-то прибор, который производится на Западе, поэтому идёт ориентация на Китай или развитие собственных производств в России.

Я очень доволен тем, что в последние несколько лет началось движение снизу, например, был создан единый каталог российского и белорусского научного оборудования, которого не было в принципе. Получился классный проект «Наша лаба». В отношении публикаций вводятся санкции, но они, как правило, имеют точечный характер. Если твой университет находится в санкционных списках, то твою статью некоторые – подчёркиваю, далеко не все, а некоторые – журналы или научные общества могут не принять. Если ты, например, работаешь в МФТИ, Американское химическое общество может отказаться от статьи, а Американский физический журнал эту же самую статью примет. Личные контакты между учёными сохраняются, даже с западными экспертами по-прежнему много коллабораций. Понятно, что некоторые из них не сильно афишируются, но обмен идеями продолжается. Санкции сказались на доступности приборов. Все мы знаем не очень хорошую историю с аппаратом «Спектр-Рентген-Гамма», когда немцы в одностороннем порядке решили выключить свой прибор. Было приостановлено сотрудничество в рамках миссии по исследованию Марса – европейцы сделали марсоход и планировали отправить его на Марс на нашей платформе. Теперь марсоходу предстоит искать новую платформу. Свёртывание космических программ в большей степени ударило по той стороне, хотя и нам тоже не очень приятно. Но вот буквально несколько дней назад вышла хорошая статья российских биологов о старении мозга, где среди авторов британский учёный родом из Киева.

Фёдор Лукьянов: То есть культура отмены в научной сфере наблюдается в наименьшей степени. Это очень хорошо.