Hledáte informace o svém zdraví přes AI? Nejste sami. A možná byste měli zpozornět

Právě na tento trend nyní reagují čeští odborníci. Česká lékařská společnost Jana Evangelisty Purkyně společně s Ministerstvem zdravotnictví, Českou asociací umělé inteligence a dalšími experty představila příručku „AI ve zdravotnictví pro pacienta“, která má veřejnosti pomoci se v této nové realitě zorientovat. Dokument je volně dostupný online  a jeho ambicí je především vysvětlit, kde může být umělá inteligence užitečná a kde naopak představuje riziko.

AI jako první zastávka při zdravotních potížích

Jedním z klíčových sdělení příručky je, že pod pojmem „umělá inteligence ve zdravotnictví“ si lidé často představují něco jiného, než jak to ve skutečnosti funguje. „Generativní AI, například chatovací nástroje dostupné na internetu, nepoužívejte ke stanovení diagnózy nebo vyšetření bez konzultace s lékařem,“ uvádí dokument zcela jednoznačně. Zatímco veřejně dostupné chatboty fungují jako „chytré chatovací okno“, které dokáže vysvětlit pojmy, přeložit zprávu nebo shrnout text, ve skutečné medicíně hrají roli zcela jiné, přísně regulované nástroje. Ty jsou certifikované jako zdravotnické prostředky a slouží lékařům jako podpora při rozhodování, nikoli jako jejich náhrada.

Tento rozdíl je zásadní, ale v praxi se často stírá. Lékaři dnes stále častěji narážejí na pacienty, kteří přicházejí do ordinace s hotovou „diagnózou z AI“. Jak upozorňuje praktický lékař MUDr. Pavel Sova, tyto výstupy působí velmi přesvědčivě a u laiků vyvolávají falešný pocit jistoty. Problém nastává ve chvíli, kdy se z nich stává základ pro rozhodování. V extrémních případech může dojít i k odkladu akutní péče, protože AI doporučí vyčkat nebo situaci podcení.

Když AI zní přesvědčivě, ale mýlí se

Podle odborníků ale není problém v samotné technologii, ale v tom, jak ji lidé používají. Příručka proto jasně popisuje, k čemu je AI vhodná. Může pomoci například se srozumitelným vysvětlením složitých lékařských pojmů, se shrnutím dlouhé lékařské zprávy nebo s přípravou otázek před návštěvou lékaře. Jinými slovy – může být velmi užitečným „tlumočníkem“ medicíny do běžného jazyka. Jak ale zdůrazňují autoři, nesmí se stát náhradou lékaře ani nástrojem pro samodiagnostiku.

Velmi důležitým tématem, na které příručka upozorňuje, je také ochrana soukromí. „Denně čteme fantastické články o tom, jak AI překonává lékaře. Realita je ale jiná. Umělá inteligence může být velmi užitečným nástrojem, pokud je správně nasazena, ověřena a používána ve správném kontextu. Chceme pacientům ukázat, kde AI ve zdravotnictví opravdu pomáhá, kdy jí mohou důvěřovat a kde by naopak měli být opatrní. Například při sdílení svých zdravotních údajů s generativními nástroji, jako je ChatGPT,“ doplňuje Matěj Misař, předseda zdravotnické skupiny České asociace umělé inteligence a člen výboru pro umělou inteligenci na Ministerstvu zdravotnictví.

„Do běžného chatu nikdy nevkládejte citlivé údaje. Zadávaný text vždy anonymizujte, nevkládejte jméno a příjmení, rodné číslo, datum narození či adresu,“ stojí v dokumentu.  V době, kdy lidé běžně kopírují celé lékařské zprávy do online nástrojů, jde o varování, které má velmi praktický dopad.

Vedle technických rizik ale odborníci upozorňují i na méně viditelný, psychologický efekt. Docent Martin Anders z České psychiatrické společnosti popisuje fenomén tzv. „symptomové spirály“. Člověk začne zadávat své potíže do AI, dostane seznam možných diagnóz – často včetně těch nejzávažnějších – a následně se jeho úzkost zvyšuje. To vede k dalším dotazům, dalším odpovědím a dalším obavám. Místo uklidnění tak vzniká bludný kruh, který může u citlivějších jedinců vést až k závislosti nebo prohlubování osamělosti.

Přitom právě důvěra je podle pacientských organizací klíčová. Jak zaznívá i v prezentaci Národní asociace pacientských organizací, „AI ve zdravotnictví může být užitečná jen tehdy, když jí pacient rozumí a může jí důvěřovat“.  Důležité je proto nejen to, co technologie umí, ale také to, kdo nad ní drží dohled, jak jsou chráněna data a zda pacient chápe, jaký je její skutečný přínos.

Důvěra jako základ: co potřebují pacienti vědět

Na druhé straně je potřeba říct, že umělá inteligence už dnes reálně pomáhá zlepšovat zdravotní péči. V českých nemocnicích ji podle údajů Ministerstva zdravotnictví využívá více než 60 % zařízení, v radiodiagnostice dokonce téměř 90 %.  AI dokáže například upozornit na drobné nálezy na rentgenových snímcích, analyzovat srdeční rytmus nebo pomáhat při včasném záchytu komplikací. V těchto případech ale vždy funguje jako „druhý pár očí“ a konečné rozhodnutí zůstává na lékaři.

Ministr zdravotnictví Adam Vojtěch k tomu říká: „Je pro nás důležité, aby nové nástroje lékařům práci usnadňovaly a šetřily jim čas, ne aby je nahrazovaly.“ Tento princip se vine celou příručkou i přístupem odborné veřejnosti. Cílem není postavit proti sobě člověka a technologii, ale najít rovnováhu, ve které AI pomáhá, aniž by přebírala odpovědnost.

Závěr příručky to shrnuje velmi jednoduše: umělá inteligence je už dnes součástí zdravotnictví a její význam poroste. Zároveň ale platí, že „u důležitých rozhodnutí vždy chtějte lidské vysvětlení“.

Možná tedy není otázkou, jestli AI používat. Spíš jak ji používat tak, aby nám pomáhala – a ne škodila.

Autorka: Pavlína Zítková

Foto: ChatGPT