На ИИ надейся, а сам не плошай

Как точно интерпретирует данные ЭКГ и УЗИ, отслеживает состояние здоровья пациентов, расширяет возможности телемедицины. И как благодаря анализу громадных массивов информации ускоряет разработку новых лекарств. Словом, сплошной позитив.

Однако сейчас выясняется, что возникают и некоторые серьезные проблемы, с которыми прежде медицина не сталкивалась. Одну из них обнажило исследование интернациональной команды ученых, решивших выяснить, влияет ли применение ИИ на самих врачей. Наблюдения проводились в клиниках Италии, Польши, Норвегии и других стран.

Результаты исследования, скажем так, настораживают. Уже через три месяца работы с искусственным интеллектом квалификация опытных эндоскопистов существенно снижается. Лишенные «помощи виртуального друга», они стали пропускать 20 процентов полипов кишечника, которые выявляли до внедрения ИИ в повседневную клиническую практику. Быстро привыкнув к тому, что ИИ сам находит полипы, специалисты теряют не только концентрацию, но и полученное за годы учебы и работы умение замечать патологию.

Если вдуматься, ничего неожиданного тут нет. Как известно, ненужный орган атрофируется. У далеких предков современного человека был хвост — он требовался для баланса и хватания. Но когда человек начал ходить прямо, потребность в хвосте отпала, и он постепенно, в течение многих-многих поколений исчез, оставив нам на память копчик — несколько сросшихся позвонков в нижней части позвоночника.

То же самое происходит с навыками и умениями. То, что не используется, теряется и забывается. Порой — за несколько месяцев. Использование автопилота привело к тому, что «настоящие» пилоты теряются, если возникает необходимость посадить самолет в ручном режиме. Они просто забыли, как это делается! Признайтесь, даже если вы хорошо учились в школе, вряд ли сейчас уравняете окислительно-восстановительную реакцию или решите уравнение с логарифмами. Ненужные знания неизбежно улетучиваются.

Потому и тревожно. Что будет с докторами, которые работают с ИИ (со временем таких будет все больше)? Они опустятся до уровня студентов третьего курса? Самое надежное программное обеспечение может зависнуть, подвергнуться кибератаке или еще по какой-то причине стать недоступным. Как доверять жизнь и здоровье больных таким специалистам? Не стоит ли сейчас ограничить внедрение ИИ в медицину?

Конечно же, нет. Авиакомпании же не отказываются от автопилотов, которые снижают аварийность полетов. Просто командиры воздушных судов должны тренировать навыки управления на тренажерах. Так и в медицине: глупо не пользоваться тем, что значительно увеличивает точность диагностики. Но профессиональные компетенции придется поддерживать. Тем же эндоскопистам, возможно, предложат какое-то число исследований (скажем, одно в неделю) выполнять самостоятельно. Как говорится, на ИИ надейся, а сам не плошай!