Передовые технические разработки как важная этическая проблема

Бурное развитие технологий за последние десятилетия изменило мир: жить стало проще, удобнее, комфортнее, у людей появились возможности, о которых раньше можно было только мечтать. Однако чрезвычайно важно, чтобы технический прорыв не обернулся упадком основных человеческих ценностей. Серьезность этих проблем осознают во всем мире — частности, в своей речи на Генассамблее ООН на них указал президент РФ Владимир Путин.

Вызовы времени

Президент России Владимир Путин 22 сентября выступил с видеообращением на пленарном заседании юбилейной, 75‑й сессии Генеральной Ассамблеи ООН. Глава государства говорил об актуальных проблемах, стоящих в настоящий момент перед мировым сообществом, и в числе потенциальных угроз для человечества он упомянул передовые технические разработки, которые могут стать причиной многих бед при неконтролируемом применении.

"Пандемия заострила и целый ряд этических, технологических, гуманитарных тем. Так, передовые цифровые технологии позволили быстро перестроить систему образования, торговли, сферы услуг, наладить дистанционное обучение, онлайн‑курсы для людей разных возрастов. Искусственный интеллект помогал врачам более точно и быстро ставить диагнозы, подбирать оптимальные схемы лечения. Но, как и любые другие инновации, цифровые технологии имеют тенденцию к неуправляемому распространению и так же, как и обычное оружие, могут попасть в руки к разного рода радикалам и экстремистам не только в зонах региональных конфликтов, но и во вполне благополучных странах, порождая огромные риски", — заявил Владимир Путин.

Президент выразил убежденность в том, что вопросы кибербезопасности и применения передовых цифровых технологий заслуживают самого серьезного разговора на площадке ООН. По его словам, важно услышать и воспринять опасения людей – насколько в новую эпоху будут защищены их права: права на частную жизнь, собственность, безопасность.

"Мы должны учиться использовать новые технологии во благо человечества, найти правильный баланс между стимулами к развитию искусственного интеллекта и оправданными ограничительными мерами, совместными усилиями прийти к согласию в сфере регулирования, которое исключило бы потенциальные угрозы, причем с точки зрения не только военной, технологической безопасности, но и традиций, права, морали человеческого общения", — подчеркнул Путин.

Мнение президента относительно осторожного и обдуманного отношения к новым технологиям разделяют и эксперты. Профессор, вице-президент "Сколтеха" в области искусственного интеллекта (ИИ) и математического моделирования Максим Федоров считает "архиважным" учитывать этические вопросы при разработке разных систем, связанных с передовыми технологиями.

"Сейчас эти вопросы приобрели глобальный масштаб, поэтому такой подход совершенно необходим. Часть технологий может поставить под угрозу как само существование человека, так и культурные ценности, и фундаментальные основы человеческой цивилизации. Поэтому ЮНЕСКО и другие международные организации сейчас активно работают в этом направлении. Этика отличается от многих других областей человеческой деятельности тем, что она постоянно развивается: например, мораль современного общества не сравнить с моральными установками Средневековья.

Более того, в разных странах существует разное представление о морали. Но есть какие-то общечеловеческие ценности, и наша задача — разработать некий механизм, который можно было бы применять для верификации систем ИИ", — рассказывает эксперт.

По его словам, в ЮНЕСКО есть идея разработать некую платформу, которая в автоматическом или полуавтоматическом режиме позволяла бы делать какие-то оценки возможных этических рисков, связанных с применением той или иной технологии. Сейчас обсуждается несколько подходов к решению этой задачи, но важно и принимать во внимание деликатность обсуждаемой темы.

"Тема очень тонкая, понятно, что инстинктивно она вызывает отторжение у ряда людей. Почему? Потому что как это, линейкой будут теперь мерить существенные этические, человеческие вопросы. Но, с другой стороны, задача не в том, чтобы измерить, а в том, чтобы оценить риски. Поэтому, скорее всего, если эта система воплотится в жизнь, она будет напоминать светофор – красный, желтый и зеленый. Условно говоря, зеленый свет – мало рисков. Желтый – есть вопросы, давайте пристально посмотрим на их. Красный – есть что-то совсем недопустимое. Я думаю, это будет больше качественная оценка, чем количественная", — рассуждает Максим Федоров.

По его словам, не так важно, как в итоге будет выглядеть подобный механизм — намного важнее определиться с базовыми подходами к проблеме взаимодействия передовых технологий и человека.

Технологии для человека, а не человек для технологий

Профессор полагает, что важно придерживаться нескольких основополагающих принципов. Во-первых, необходима человекоцентричная модель, то есть все технологии должны быть во благо человека и во благо общества. "Более того, надо соблюдать баланс между индивидуальными потребностями и потребностями общества, о чем у нас сейчас забывают. Ведь этика – это программа оптимального существования людей в социуме", — говорит Федоров.

Второй существенный фактор напрямую связан с первым, продолжает эксперт — ни в коем случае нельзя придавать какую-то субъектность технологиям искусственного интеллекта. Не стоит забывать, что речь идет о простом наборе строчек кода и железа, лишенном чувств и эмоций. "Никакой мистики в искусственном интеллекте нет. Только некий набор технологий, который не является ничем иным, как продвинутым калькулятором", — подчеркивает ученый.

Наконец, третий аспект, который кажется Максиму Федорову важным — недопущение цифрового неравенства. По его словам, доступ к технологиям должен быть свободным для всех, чтобы не возникло некоего подобия технорасизма, способного усугубить социальное расслоение общества. При этом не должно быть и никакого принуждения в отношении тех людей, которые по тем или иным причинам не хотят пользоваться достижениями современной техники.

"То, что мы разные – это хорошо. Ситуации меняются, и мы как общество должны быть готовы к различным изменениям. У нас есть разные члены общества, в том числе и те, кто с осторожностью относится к цифровым технологиям. Пусть эти люди будут своеобразным резервом, ведь кто знает, что произойдет в будущем с нами, пользователями передовых разработок", — говорит Максим Федоров.

Глава РОЦИТ Сергей Гребенников также считает особенно важным четко осознавать границу между онлайном и офлайном.

"Мы не должны забывать, что нет ничего важнее человеческого общения. Можно привести пример сегодняшнего выступления Германа Грефа на "Сбер конфе". Он сказал: мы в внедряем самые передовые технологии, чтобы у вас было время для жизни. Это очень глубокие и правильные слова — каждый человек должен использовать технологии для того, чтобы ему было лучше. Но не погружаться исключительно в онлайн, и не подменять онлайн в офлайн", — поделился мнением эксперт.

По словам Сергея Гребенникова, на уровне пользователей добиться разумного отношения к технологиям можно путем повышения цифровой грамотности и воспитания осознанного потребления. Что же касается организаций, которые внедряют технологии, в том числе искусственный интеллект, то в данном случае необходимо законодательное регулирование как единственный довод, к которому прислушивается бизнес.

"В данном случае я не верю в саморегулирование. На мой взгляд, должно быть законодательное ограничение применения искусственного интеллекта на гражданах. Потому что этот интерес хорош до поры до времени — пока он не вмешивается в личную жизнь и не приводит к принятию каких-то судьбоносных решений", — говорит Сергей Гребенников.

Эксперт считает, что искусственный интеллект и технологии – это прекрасно, но человеческое общение и гуманизм в целом никто не отменял.

"Наша задача в ближайшее время — определить, насколько глубокого проникновения технологий в свою жизнь мы хотим. Я считаю, что технологии должны, например сканировать самолет перед вылетом, подтверждая его стопроцентную исправность. Делать вещи, от которых зависит жизнь человека. А когда речь касается нашей повседневной жизни, давайте все-таки доверять ее нам с вами. У нас есть сердце, и все-таки хочется, положа руку на сердце, принимать решения самостоятельно", — заключил он.