Associated Press: Facebook начал блокировать пользователей за любые слова на арабском языке

Социальная сеть Facebook начала блокировать пользователей за обычные посты на арабском языке. Об этой проблеме и ее причинах сообщило агентство Associated Press со ссылкой на информацию от бывших сотрудников компании и ее внутренние документы.

Сбои возникли из-за того, что сейчас Facebook не хватает модераторов, хорошо разбирающихся в арабском, чтобы фиксировать контекст сообщений. Это особенно мешает жителям Индии, Сирии и Палестины, которые не могут нормально пользоваться сервисом.

Проблема состоит не только в блокировке пользователей, пишущих на арабском, а также дари и пушту — у сети нет сведений о ненормативной лексике. Жители Афганистана и других стран, в которых говорят на этих языках, не могут прочесть интерфейс сайта и правила пользования им, если не знают английского.

Остальным странам арабского мира чрезмерно вредят нейросети, которые блокируют огромную часть контента на арабском, который не нарушает никаких правил, о чем написано в одном из документов.

Такие же нюансы касаются бенгальского языка и хинди. Языковые барьеры Facebook уже привели к тому, что в сети распространились исламофобские сообщения от индийцев, связанные с националистической организацией «Раштрия сваямсевак сангх».

Ранее газета The Wall Street Journal уже публиковала исследования на тему недостаточной точности искусственного интеллекта в языковых вопросах, особенно если они касаются контента с проявлением ненависти или жестокости.