Врача не заменить

Пациенты всё чаще используют ИИ как диагноста и назначают себе лечение по советам ботов. Высокая доля ошибок создает риск отсрочки правильной терапии, нежелательных реакций и подрыва доверия к клиническим рекомендациям.

Исследователи из Lundquist Institute (США) задали пяти генеративным ИИ-чатботам по 10 вопросов в пяти категориях: рак, вакцинация, стволовые клетки, питание, спорт. Два эксперта из каждой области оценили 250 ответов. Результат: только 50,4% ответов не имели проблем. Остальные содержали ошибки, причём 19,6% — критичные, способные привести к вреду для здоровья. Хуже всех справился Grok (58% проблемных ответов), лучше — Gemini (40%).

Для практикующих врачей — это сигнал о новой реальности: пациенты приходят с распечатками советов от ИИ. Особенно тревожны результаты по питанию и спорту (наихудшие показатели), где чат-боты давали противоречащие доказательной медицине рекомендации. ИИ практически никогда не отказывается отвечать и пишет на уровне студента 2–4 курса медвуза. Ни один бот не дал полностью достоверный список литературы — везде были выдуманные ссылки. Исследователи назвали текущие возможности ИИ «неудовлетворительными для тем с высоким риском дезинформации».

Авторы работы, опубликованной в престижном рецензируемом журнале BMJ Open, призывают к трём мерам:

• Просвещение населения об ограничениях ИИ.

• Обучение медработников работе с ИИ-запросами пациентов.

• Регуляторный надзор за медицинскими чат-ботами.