Světová zdravotnická organizace (WHO) varovala před unáhleným používáním umělé inteligence při péči o zdraví. Zmiňuje především chatboty používající umělou inteligenci, kteří mohou poskytnout uživatelům falešné a neověřené informace.
WHO varuje před rychlým nasazením umělé inteligence ve zdravotnictví
Organizace tvrdí, že používání těchto nových technologií nedoprovází dostatečná opatrnost a kontrola. Vyzvala k dodržování zásad transparentnosti, odborného dohledu a přísného hodnocení výsledků.
„Unáhlené zavedení neotestovaných systémů by mohlo vést k chybám ze strany zdravotníků, poškození pacientů, ztrátě důvěry v umělou inteligenci, a tudíž podkopání (či zpoždění) použití a možných dlouhodobých přínosů těchto technologií ve světě,“ uvedla WHO.
Podle této organizace využívání umělé inteligence ve zdravotnictví nedoprovází „opatrnost, která by normálně byla používána u jakékoliv nové technologie“. WHO vyzvala státy a organizace, aby systémy využívající umělou inteligenci podrobně otestovaly, než je ve zdravotnictví zavedou. Tam by mohly sloužit jako pomůcka při rozhodování lékařů a zdravotníků.
Hlavní problémy
WHO varuje před některými aspekty nasazení chatbotů využívajících umělou inteligenci, takzvané Velké jazykové modely (neboli LLM).
Mezi obavy podle organizace patří, že data používaná k tréninku umělé inteligence mohou být neobjektivní, a proto by mohla přinášet zavádějící nebo nepřesné informace. Dokonce takové, jež by mohly představovat riziko pro zdraví, spravedlnost a inkluzivitu. Lidé také mohou umělým inteligencím příliš věřit. Ukazuje se však, že ve skutečnosti jsou mnohdy jejich data zcela nesprávná nebo mohou obsahovat závažné chyby.
Velké jazykové modely používají pro své učení zdroje, které nejsou jasné. Mohou se navíc učit na údajích, k jejichž použití nemusel být dříve udělen souhlas a nemusejí chránit citlivé údaje (včetně údajů o zdravotním stavu), které uživatel aplikaci poskytne.
Posledním zdrojem obav je pak možnost, že LLM budou zneužité k vytváření a šíření velmi přesvědčivých dezinformací v podobě textového, zvukového nebo video obsahu, který je pro veřejnost obtížné odlišit od spolehlivého zdravotnického obsahu.
WHO tedy, i když se zavázala využívat nové technologie, včetně umělé inteligence a digitálních metod, doporučuje, aby tvůrci pravidel a zákonů zajistili bezpečnost a ochranu pacientů, zatímco technologické firmy pracují na komercializaci LLM.