Ученые нашли неожиданный способ выявления предвзятости ИИ

К предвзятости и предубеждениям склонны не только живые люди, но и искусственный интеллект.

Юмор становится новым инструментом для изучения предвзятости в системах искусственного интеллекта (ИИ). Недавнее исследование показало, что при запросах на создание «смешных» изображений такие инструменты, как ChatGPT и DALL-E, демонстрируют систематические изменения в визуальных представлениях. Специалисты обнаружили, что в «смешных» изображениях стереотипные характеристики возраста, веса и физических недостатков усиливаются, в то время как представители различных меньшинств появляются реже.

ChatGPT и DALL-E — это популярные инструменты генерации контента, созданные OpenAI. ChatGPT — мощная языковая модель, способная создавать осмысленные тексты, предсказывать ответы и поддерживать контекст диалога. DALL-E генерирует изображения на основе текстовых описаний. Эти технологии активно используются в различных сферах, включая искусство, маркетинг и образование.

Юмор — сложный когнитивный процесс, включающий элементы неожиданности и интенции. Исследования показывают, что ИИ способен не только понимать юмор, но и создавать его, иногда превосходя людей. Например, в одном из недавних экспериментов шутки, сгенерированные ИИ, оценивались как более смешные, чем те, что придумали профессиональные сатирики.