Исследование показало, что, когда дело доходит до неотложной помощи, ChatGPT назначает слишком много лекарств.

Искусственный интеллект в неотложной помощи

В ходе нового исследования, проведенного Калифорнийским университетом в Сан-Франциско (UC San Francisco), было обнаружено, что использование модели искусственного интеллекта (ИИ) ChatGPT в отделении неотложной помощи (ОНП) может привести к назначению ненужных медицинских процедур и госпитализации пациентов, которые в этом не нуждались.

Ограничения ИИ в медицинской практике

Исследователи пришли к выводу, что модель ИИ не может заменить клиническое суждение врача и не способна точно определить, какие действия необходимы для лечения пациента.

Анализ данных и сравнение рекомендаций

В рамках исследования команда проанализировала данные о 1000 посещений ОНП и сравнила рекомендации, предоставленные моделью ИИ ChatGPT-3.5 и ChatGPT-4, с решениями, которые приняли врачи-ординаторы.

Результаты исследования

Результаты показали, что модели ИИ склонны рекомендовать больше услуг, чем это необходимо, и их точность ниже, чем у врачей. ChatGPT-4 был на 8% менее точным, чем ординаторы, а ChatGPT-3.5 — на 24% менее точным.

Причины низкой точности ИИ

Исследователи считают, что это связано с тем, что модели ИИ обучаются на данных из интернета, где законные сайты медицинских консультаций предназначены для направления читателей к врачу, а не для предоставления неотложной медицинской помощи.

Необходимость усовершенствования ИИ

Крис Уильямс (Chris Williams), ведущий автор исследования, отметил, что модели ИИ должны быть усовершенствованы, прежде чем они смогут использоваться в неотложной медицинской помощи. Необходимо найти баланс между тем, чтобы модели не пропускали серьёзные заболевания, и тем, чтобы они не вызывали ненужные обследования и расходы.

Заключение

Это означает, что исследователи, разрабатывающие медицинские приложения ИИ, должны тщательно продумать, как эти модели будут использоваться в клинической практике.

Литература:
Chris Williams et al, Nature Communications (2024). www.nature.com/articles/s41467-024-52415-1

Запись Исследование показало, что, когда дело доходит до неотложной помощи, ChatGPT назначает слишком много лекарств. впервые появилась Medical Insider.