Muškarac hospitaliziran zbog psihijatrijskih simptoma nakon savjeta umjetne inteligencije
Primjer za to je muškarac koji je slijedio zdravstveni plan chatbota i završio u bolnici zbog rijetkog trovanja.
Sve je počelo kada je odlučio poboljšati svoje zdravlje smanjenjem unosa soli, odnosno natrijeva klorida. Kako bi pronašao zamjenu za sol, učinio je ono što danas čini mnogo ljudi – upitao je ChatGPT.
Chatbot mu je, prema svemu sudeći, preporučio natrijev bromid, koji je muškarac naručio putem interneta i uključio u svoju prehranu.
Iako je istina da natrijev bromid može poslužiti kao zamjena za natrijev klorid, to se obično odnosi na čišćenje jacuzzija, a ne na začinjavanje krumpirića. No, umjetna inteligencija nije spomenula taj ključni kontekst.
Tri mjeseca kasnije, pacijent se javio na hitni prijem s paranoidnim zabludama – vjerovao je da ga susjed pokušava otrovati.
"U prvih 24 sata hospitalizacije pokazivao je sve veću paranoju te slušne i vizualne halucinacije. Nakon pokušaja bijega, završio je na prisilnom psihijatrijskom liječenju zbog ozbiljne onesposobljenosti", naveli su liječnici.
Nakon što je liječen antipsihoticima, muškarac se smirio dovoljno da objasni svoj prehrambeni režim inspiriran umjetnom inteligencijom. Te informacije, s rezultatima testova, omogućile su medicinskom osoblju da dijagnosticira bromizam, toksičnu akumulaciju bromida.
Kod većine zdravih ljudi razina bromida obično je manja od oko 10 mg/L; kod ovog pacijenta izmjerena je razina od 1700 mg/L.
Bromizam je bio relativno često stanje početkom 20. stoljeća i procjenjuje se da je nekoć bio odgovoran za do osam posto psihijatrijskih prijema. No, slučajevi ovog stanja drastično su se smanjili 1970-ih i 1980-ih, nakon što su se lijekovi koji sadrže bromide počeli postupno ukidati.
Nakon dijagnoze, pacijent je liječеn tijekom tri tjedna i otpušten iz bolnice bez većih problema.
Glavna briga ovog slučaja nije toliko povratak zastarjele bolesti – već činjenica da nova tehnologija umjetne inteligencije još uvijek ne može zamijeniti ljudsku stručnost kada je riječ o stvarima koje zaista imaju značaj za zdravlje.
"Važno je imati na umu da ChatGPT i drugi AI sustavi mogu generirati znanstvene netočnosti, nemaju sposobnost kritički raspravljati o rezultatima i u konačnici mogu potaknuti širenje dezinformacija", navode autori.
"Vrlo je malo vjerojatno da bi medicinski stručnjak spomenuo natrijev bromid pacijentu koji traži sigurnu zamjenu za natrijev klorid."
Istraživanje je objavljeno u časopisu Annals of Internal Medicine: Clinical Cases.