Послушал ChatGPT — попал в психбольницу. Совет по питанию от ИИ чуть не погубил человека

Некоторые слепо доверяют ChatGPT и не осознают риски поступков, совершаемых по совету ИИ.

60-летний мужчина, не имевший в прошлом психиатрического или общемедицинского анамнеза, недавно обратился в отделение неотложной помощи, выразив опасения, что сосед его отравляет.

Первоначально врачи ничего не нашли — его жизненно важные показатели и физикальное обследование, включая неврологическое обследование, были в норме.

Пациент при поступлении рассказывал, что соблюдал множество диетических ограничений (он веган) и дистиллировал дома собственную воду. Врачи отметили, что он испытывал сильную жажду, но параноидально относится к воде, которую ему предлагают.

Со временем его состояние ухудшилось и пришлось принимать меры:

«[…] В течение первых 24 часов после поступления у него усилилась паранойя, а также слуховые и зрительные галлюцинации, которые после попытки побега привели к принудительному психиатрическому лечению».

Как оказалось, до такого состояния его довели советы ИИ. Мужчина прочитал о вреде хлорида натрия (поваренной соли) и однажды решил поинтересоваться у ChatGPT, чем можно её заменить. ИИ предложил бромид натрия, который мужчина употреблял несколько месяцев.

Вот только была опасность, о которой ChatGPT (судя по проведённым врачами тестам) его не предупредил. При продолжительном употреблении бромистых солей можно получить «бромизм» — хроническое отравление бромом, оно проявляется апатией, умственной тупостью, малокровием, исхуданием.

Врачи отмечают, что по мере расширения использования ИИ-инструментов поставщикам медицинских услуг необходимо будет учитывать при обследовании, что их пациенты могут потреблять медицинскую информацию из подобных источников.

***

Автор обложки: etedge-insights. Источник изображения: etedge-insights.com