Google удалил медицинские ИИ-обзоры после критики Guardian

Расследование газеты Guardian показало, что обзоры искусственного интеллектаGoogle могут давать вводящую в заблуждение информацию по некоторым медицинскимзапросам. Компания решила удалить эти ИИ-обзоры, пишетTechCrunch.

Guardian первоначальнообнаружила, что, например, на вопрос о нормальном диапазонепоказателей анализа крови на функцию печени ИИ предоставлял ошибочные цифры.

Они не учитывали такие факторы, как возраст, пол или этническую принадлежность,что могло привести к неверной интерпретации результатов пользователями.

Теперь ИИ-обзоры по ключевым запросам, упомянутым в статье, исчезли изрезультатов поиска. Однако некоторые вариации по-прежнему остаются. Например,можно перефразировать просьбу, и нейросеть снова выдаст свои результаты.

Представитель Google отказался комментировать отдельные случаи удаленияинформации, но отметил, что компания работает над улучшением выдачи. По словамсобеседника TechCrunch, внутренняя группа врачей проанализировала спорныезапросы и во многих случаях не нашла в ответах ИИ неточностей, сославшись на ихсоответствие информации с качественных медицинских сайтов.

Эксперты, включая директора по коммуникациям Британского фонда по борьбе сзаболеваниями печени Ванессу Хебдич, считают удаление таких ответов позитивнымшагом, но подчеркивают, что это не решает более масштабную проблему.

Потенциальные риски использования ИИ-обзоров в сфере здравоохранения остаютсядовольно пугающими.