В последние годы чат-боты на основе искусственного интеллекта (ИИ) становятся все более популярными в области здравоохранения, предлагая пользователям мгновенные рекомендации по медицинским вопросам. Однако новое исследование Оксфордского университета подчеркивает важность критического подхода к этому инструменту, демонстрируя, что многие из предоставляемых ими медицинских советов оказываются неточными и непоследовательными. Это несомненно вызывает серьезные опасения, особенно в условиях растущего числа пользователей, обращающихся к ИИ за поддержкой в вопросах психического здоровья и общего благополучия.

Исследование сосредоточилось на том, чтобы оценить, как чат-боты справляются с определением симптомов и предоставлением адекватных рекомендаций. Участникам были предложены сценарии, связанные с угрозами здоровья, в то время как одни группы использовали традиционные методы диагностики, а другие обращались к ИИ. Результаты показали, что пользователи ИИ сталкивались с трудностями в точной интерпретации полученных ответов и часто путались перед разными вариантами возможных диагнозов. Это несоответствие информации и неопределенность могут привести к серьезным последствиям: вместо того, чтобы обращаться за медицинской помощью, пользователи рискуют пренебрегать собственным здоровьем.

Существует расхожее мнение, что ИИ может заменить опыт врача в области диагностики и консультаций, однако это исследование подчеркивает, что надежность таких систем зависит от точной формулировки запросов и глубины предоставленных данных. Более того, доктора и исследователи предупреждают о возможности вытеснения укоренившихся предвзятостей, которые могут существовать в медицинской практике и отражаться в алгоритмах ИИ. В то время как компании, разрабатывающие ИИ, стремятся улучшить ChatGPT и аналогичные инструменты, важно помнить, что окончательная диагностика и лечение должны оставаться в ведении опытных специалистов.