«Одноклассники» запустили нейросеть для борьбы с манипулятивным контентом

Социальная сеть Одноклассники запустила систему работы с качеством контента в соцсети, система на базе искусственного интеллекта будет находить и пессимизировать в выдаче кликбейт и недобросовестные ссылки, массовые призывы ставить «класс» или другие реакции, вводящий в заблуждение контент.

Группы, которые публикуют много такого контента, будут получать временный или постоянный запрет на попадание в ленты пользователей. В дальнейшем система будет расширяться другими инструментами повышения качества контента в соцсети, говорится в пресс-релизе, поступившем в газету ВЗГЛЯД.

«В этом году мы делаем особенный акцент на повышении качества ленты каждого пользователя. ОК – это не просто социальная сеть, но и платформа для потребления контента. Нам важно, чтобы хорошие авторы и медиа могли получить аудиторию в соцсети, а контент плохого качества не показывался», – рассказал руководитель продуктов Лента и Рекомендации социальной сети Одноклассники Вадим Гуров.

Он отметил, что «новый алгоритм избавит пользователей ОК от откровенно кликбейтного, манипулятивного контента, цель которого – надавить на жалость или вызвать другую эмоцию, добиться перехода по недобросовестной ссылке. Благодаря этому лента станет интереснее и разнообразнее».

Алгоритм распознает надписи на изображениях и фотографиях и анализирует текстовый контент. Группы, контент которых обнаружен новой системой, будут получать штрафные баллы. После единичных нарушений группа перестанет попадать в ленты пользователей на несколько дней, а в дальнейшем этот срок может увеличиваться вплоть до полного запрета на попадание в ленту.