Čím dál více lidí důvěřuje při hodnocení svého zdravotního stavu umělé inteligenci (AI). Pokud ale dají na rady křemíkového „lékaře“ více než na doporučení toho opravdového z masa a kostí, může to dopadnout špatně – jak ukazuje i nedávno zdokumentovaný případ.
Donedávna se lékaři podle všeho nejvíc báli lidí, kteří si na internetu vyhledávali svoje příznaky a pak se sami diagnostikovali. Velmi často špatně: ochraptění mohlo být interpretované jako rakovina hrtanu, zarostlý chloupek vysvětlený jako hemoroid. To byl ale nejspíš jen začátek. V současné době totiž lidé začínají využívat k „diagnostice“ svých obtíží umělou inteligenci (AI). A někteří k ní mají takovou důvěru, že se podle ní řídí, jako by byla skutečným lékařem.
Opravdoví lékaři teď popsali jeden konkrétní případ, kdy naslouchání AI způsobilo dotyčnému vážné zdravotní problémy, které jen těsně neskončily smrtí. Tato případová studie vyšla v odborném časopise Annals of Internal Medicine: Clinical Case.
V tomto případě šlo o látku jménem bromid. Bromidy se dříve používaly velmi často pro léčbu celé řady zdravotních problémů – od úzkosti až po nespavost. To ale fungovalo jen do začátku dvacátého století, pak si lékaři uvědomili, že tyto sloučeniny mohou být ve větších dávkách jedovaté, a dokonce způsobují přesně ty problémy, před nimiž mají chránit – tedy neuropsychická onemocnění.
V současné době se už otravy touto látkou téměř nevyskytují, nejčastější jsou, když dojde k otravě veterinárními přípravky. O to víc lékaře překvapilo, když k nim přišel muž s příznaky otravy touto látkou. Tvrdil, že ho otrávil soused, měl žízeň, ale současně odmítal pít vodu. Trpěl halucinacemi, načež se u něj něj rozvinula plnohodnotná psychóza a pokusil se o útěk ze zdravotnického zařízení.
Když se ho podařilo vyléčit, začali experti zjišťovat, jak přesně se k bromidům dostal a případně i to, proč si je vzal. Vysvětlení lékaře překvapilo. Muž začal asi o tři měsíce dříve záměrně užívat bromid sodný. A to proto, že se obával, že má příliš vysoký příjem soli ve stravě. Nenašel ale v knihách žádné řešení, jak tento problém vyřešit. A tak se obrátil na umělou inteligenci.
Není jasné, jaký model AI dotyčný použil, zřejmě to byl ChatGPT 3.5 nebo 4.0. Chatbot mu poradil, aby sůl nahradil právě bromidem. Ujišťoval se o tomto rozhodnutí v rozhovorech s AI opakovaně, a to i poté, co začal tuto látku zakoupenou v obchodě konzumovat. AI tohoto muže přitom podle jeho výpovědi odkazovala na příklady, které neměly nic společného se stravou. Místo o zdraví komunikoval například o využití bromidu při čištění. Studie konstatuje, že ChatGPT ve své odpovědi výslovně uvedl, že kontext tohoto nahrazení je důležitý. AI ale ani jednou muže nevarovala před možným nebezpečím konzumace bromidu, ani se nezeptala, proč se o toto téma vůbec zajímá.
Pomalé zotavení
Pokud jde o samotného muže, pomalu se v péči lidských lékařů zotavil. Nakonec mu byla vysazena antipsychotická léčba a tři týdny po přijetí byl z nemocnice propuštěn. Při kontrolní prohlídce po dvou týdnech byl už jeho stav stabilní.
Autoři studie dodávají, že nástroje jako ChatGPT sice mohou „poskytovat most mezi vědci a neakademickou populací, současně ale také AI přináší riziko šíření informací vytržených z kontextu“. Studii zakončují stoickým konstatováním, že lidský lékař by pravděpodobně nedoporučil přechod na bromid někomu, kdo se bojí, že konzumuje moc kuchyňské soli.
