Нейросеть следит за россиянами: как власти используют ИИ для мониторинга интернета и соцсетей

20 декабря стало известно, что структура Роскомнадзора (РКН) предложила использовать искусственный интеллект (ИИ) для отслеживания противоправной информации в видеоиграх. Ранее ведомство уже заявляло о планах привлечь ИИ к отслеживанию содержимого телерадиовещания и мониторингу аудио- и видеозаписей в интернете. Насколько широко российские регуляторы прибегают к помощи высоких технологий, и чем это может грозить пользователям, разбираемся вместе с RTVI.

20 декабря стало известно, что структура Роскомнадзора (РКН) предложила использовать искусственный интеллект (ИИ) для отслеживания противоправной информации в видеоиграх. Ранее ведомство уже заявляло о планах привлечь ИИ к отслеживанию содержимого телерадиовещания и мониторингу аудио- и видеозаписей в интернете. Насколько широко российские регуляторы прибегают к помощи высоких технологий, и чем это может грозить пользователям, разбираемся вместе с RTVI.

Впервые Роскомнадзор (РКН) заявил о привлечении искусственного интеллекта для поиска запрещенного контента в интернете в конце 2020 года. Тогда эти технологии помогали проводить мониторинг именно текстовой информации. Однако уже в сентябре 2021 года «Коммерсантъ» сообщил, что регулятор планирует расширить применение ИИ и привлечь его к контролю за фото- и видеоматериалами. Система будет носить название «Окулус». На разработку техзадания для нее Главный радиочастотный центр (ГРЧЦ), входящий в структуру РКН, предлагает 15 млн рублей.

Система будет находить в сети пропаганду наркотиков, экстремистские материалы, призывы к самоубийству и массовым беспорядкам и прочую противоправную информацию. Однако, как заявил корреспонденту RTVI эксперт по информационной безопасности компании Cisco Systems Алексей Лукацкий, очевидно, что работа системы потребует регулярного финансирования. При этом пока нет ясности относительно того, переложит ли регулятор часть функций по поддержке ее функционирования на операторов связи.

В дальнейшие планы РКН входит создание цифровых систем, способных превращать аудиозаписи в текст, для автоматизация мониторинга в сфере телерадиовещания. На решение этой технологической задачи ведомство выделило в июле 2021 года 41,7 млн рублей.

Мониторинг общественных настроений

Как отметил в беседе с RTVI экс-советник президента РФ по вопросам развития интернета, а также владелец компании LiveInternet и новостного агрегатора MediaMetrics Герман Клименко, использование систем мониторинга на основе ИИ уже стало «бытовой» историей, при этом к ним прибегают не только в России, но и за рубежом.

«Системы мониторинга – это же не только Роскомнадзор, вообще многие мониторят. Сейчас искусственный интеллект и нейронные сети – это такой стандартный продукт, как любой инструмент – Python, PHP, как инструмент программирования – ничего необычного здесь нет. Само по себе использование искусственного интеллекта в любых сферах мониторинга стало одним из стандартов де-факто», – констатировал эксперт.

В качестве одного из примеров цифрового механизма для мониторинга Клименко привел информационно-аналитическую систему «Призма», позволяющую в реальном времени отслеживать дискуссии в социальных сетях и блогах. Как сообщало еще в 2012 году издание Forbes со ссылкой на источник из администрации президента, система была установлена непосредственно в кабинете Вячеслава Володина, когда тот занимал пост вице-премьера. Алгоритм позволял отслеживать общественные настроения на основе 60 млн источников.

Интерес российский властей к использованию ИИ для мониторинга интернета и соцсетей не ограничивается деятельностью РКН и системой «Призма». Так, проект федерального бюджета на ближайшие три года предусматривает выделение 1,6 млрд рублей на создание системы, способной выявлять учащихся со склонностью к социально опасному и деструктивному поведению на основе анализа их письменных работ.

Как отметил в беседе с RTVI руководитель Центра социолингвистики РАНХиГС, профессор Максим Кронгауз, подобного рода «психологический поиск» может основываться на каких-то ключевых словах или конструкциях, что не дает 100% гарантии. «Это как в классических антиутопиях: человек с малых лет попадает в поле действия правоохранительных органов, потому что он употребил некоторые слова, над которыми он вообще мог не задумываться», – указал Кронгауз.

Роскомнадзор как «полноценная интернет-полиция»

Российские власти хотят взять под контроль все виды медиаресурсов, которые могут оказывать какое-то влияние на граждан, предположил в беседе с RTVI директор Ассоциации профессиональных пользователей соцсетей и мессенджеров (АППСИМ) Владимир Зыков.

По его словам, Роскомнадзор «начинает разрастаться» и превращается в своего рода «всероссийского цензора про всё». Эксперт напомнил, что в 2010 году, когда создавался закон о защите детей от вредоносной информации, с которого начались первые блокировки, у РКН не было полномочий и функций для того, чтобы самостоятельно искать контент. Весь контент присылали пользователи, а уже затем его анализировали сотрудники ведомства.

«Сейчас же Роскомнадзор самостоятельно, по своей инициативе начинает самостоятельно проводить анализ того или иного вида контента. С одной стороны. это хорошо, но с другой. складывается ощущение, что реальная цель – это не поиск какого-то реально запрещенного контента, а показать активность», – отметил Зыков.

При этом зачастую блокировки и штрафы российского регулятора связаны не только с детской порнографией, пропагандой наркотиков и призывами к суициду, но и с информацией о несанкционированных митингах. Материалы, содержащие такого рода информацию, стали поводом для претензий РКН, в результате которых суд осенью 2021 года оштрафовал компанию Google на 44 млн рублей. Кроме того, за отказ удалить противоправный контент были оштрафованы Facebook и Twitter.

Как отметил Зыков, пока непонятно, становится ли Роскомнадзор «полноценной интернет-полицией», но для этого им осталось только получить функции ловить людей, размещающих в сети противоправный контент. В целом же, в таком увеличении веса регулятора есть свои плюсы и минусы, считает директор АППСИМ:

«Для нас как организации очевидно, что у пользователей должно быть место в которое они могут пожаловаться, если у них случаются какие-то проблемы в интернете. К сожалению, если у пользователя в интернете мошенническим образом украли какую-то сумму меньше тысячи рублей, то <…> вероятность возбуждения дела правоохранительными органами из-за такой незначительной суммы крайне низкая. И в этом смысле у нас появляется хотя бы одно место, куда пользователь может пойти, чтобы контент, от которого он пострадал, был заблокирован».

Зыков добавил, что за последние годы у Роскомнадзора появилось множество новых функций и обязанностей, а количество штатных единиц практически не изменилось. Это может быть одним из факторов, вынуждающих ведомство оптимизировать свою работу при помощи использования ИИ.

Автор – Юлия Волобуева