Právní informace od umělé inteligence mohou být nesprávné

Radkin Honzák: „Zadal jsem umělé inteligenci heslo ‚Červená sedma‘, což byl známý kabaret z počátku 20. století, a ‚Eduard Bass‘, který v něm vystupoval. Dostal jsem surrealisticko-dadaistickou odpověď: ‚Červená sedma je karetní hra. Kdo získá karty Červená sedma a Eduard Bass, vyhrává. Eduard Bass je známý gambler a podvodník.‘ 

Za pár vteřin.“

Radkin Honzák: Desatero Radkina Honzáka, Nakladatelství Zeď 2024, strana 61.

Někteří lidé příliš spoléhají na informace od umělé inteligence. Něco nevím? Zeptám se umělé inteligence a ta mi to jistě zcela spolehlivě sdělí. Nebudu studovat právní předpisy ani nějaké odborné články, nyní máme přece AI. 

Na většinu právních otázek nám většinou nestačí text zákona nebo jiných právních předpisů. Musíme umět právní předpis aplikovat na daný případ. Nepochybuji o tom, že na obecnou otázku, například kdo je dědicem ze zákona nebo jaká práva má dědic ze závěti, umělá inteligence odpoví zcela správně, přesně podle zákona. 

Ovšem na otázky, na které v zákoně odpověď nenalezneme a kdy je třeba právní předpisy aplikovat, nemusí být odpověď umělé inteligence správná. Z několika případů, kdy jsem se v poslední době setkal s tím, že lékaři nebo manažeři kvality nemocnic spolehli na informaci od umělé inteligence, která byla zcela nesprávná a evidentně chybná, uvedu dva.

Případ první:

Na jistém semináři bez účasti právníka došlo k diskusi lékařů na téma: kdo odpovídá za odborné pochybení, zda ošetřující lékař, nebo konziliář. Někoho napadlo, že se zeptáme umělé inteligence. Odpověď byla jednoznačná: vždy ošetřující lékař. Samotní účastníci semináře měli o správnosti této odpovědi pochybnosti, a to zcela důvodně. Odpověď byla evidentně chybná. Budu to ilustrovat na konkrétní kazuistice:

Na gynekologicko-porodnickém oddělení nemocnice pacientka, která tam byla hospitalizována, náhle pocítila silnou bolest v levé části krajiny hrudní. Ošetřující gynekolog pojal podezření na infarkt myokardu a natočil EKG. Poté volali na interní oddělení nemocnice, zda by záznam EKG mohl vyhodnotit internista.

Sloužící zdravotní sestra sdělovala, že pan doktor někam odešel a nemůže ho najít. Gynekolog se proto vydal sám na interní oddělení a s internistou se setkal před toaletou, odkud právě vycházel. V ruce měl záznam EKG a předložil jej internistovi, který v rychlosti u okna zhlédl záznam EKG a konstatoval, že nejde o infarkt myokardu, ale patrně o bolesti zad, což stručně potvrdil písemně. Za situace, kdy internista zhodnotil situaci tak, že nejde o infarkt ani o žádnou kardiologickou problematiku, z toho v dobré víře gynekolog vycházel a neprovedl žádné opatření. 

Pacientka posléze zemřela na pokračující infarkt myokardu, když údajně podle znaleckého posudku by bylo možno velmi pravděpodobně zabránit jejímu úmrtí včasným zákrokem (rozpuštěním trombu), který v nemocnici bylo možno provést. Pacientka tedy zemřela vinou pochybení internisty. 

Skutečnost, že se gynekolog spolehl na konziliární posouzení internisty, mu nebylo možno vytýkat. Správně rozhodl o konziliu, které neproběhlo sice standardně, ale spolehl se na závěr internisty, proto nečinil žádná další opatření.

Ponechávám stranou, že jistě nebylo správné, že se lékař interního dělení nedostavil k pacientce a komplexně ji nevyšetřil a že pouze posoudil kdesi u okna před toaletou při ne zcela správné viditelnosti záznam EKG, a tím považoval věc za vyřešenou. Případ měl soudní dohru, kdy odpovědnost za úmrtí pacientky měl jednoznačně internista a nikdo neuvažoval o odpovědnosti gynekologa. Tento případ tedy jasně ukazuje, jak nesprávná je odpověď, že „vždy odpovídá ošetřující lékař“.

Mohl bych z praxe potvrdit celou řadu podobných případů, kdy za věc skutečně odpovídal pouze ošetřující lékař, v jiných případech pouze konziliář, v některých případech oba, jindy se nedopustil odborného pochybení nikdo, protože chybná diagnóza sama o sobě nemusí být ještě postup non lege artis ani nedbalost. Jistě jsou případy, kdy odpovídá především ošetřující lékař, který vezme v úvahu radu konziliáře, ale musí uvážit možné kontraindikace a odpovídá za komplexní léčbu svého pacienta, přičemž doporučení konziliáře z hlediska jeho odbornosti může být sice správné, ale z hlediska celkového zdravotního stavu pacienta, možných kontraindikací a všech dalších okolností by aplikace toho, co poradil konziliář, mohla být nesprávným postupem, za který by odpovídal ošetřující lékař. 

Platí tedy jednoznačně zásada, že odpovídá ten, kdo se prokazatelně dopustil odborného pochybení v lékařském hodnocení případu, a nikdy nelze stanovit, že odpovídá pouze ošetřující lékař nebo pouze konziliář nebo vždy oba. Vždy záleží na konkrétním posouzení konkrétního případu a na tom, zda vůbec někdo pochybil, popřípadě kdo pochybil a jaké toto pochybení mělo pro pacienta následky.

Druhý případ: 

Dotaz manažerky kvality nemocnice, zda lze pacientovi účtovat první výpis ze zdravotnické dokumentace. Odpověď umělé inteligence: Pacientovi nelze účtovat první kopii zdravotnické dokumentace, první výpis ze zdravotnické dokumentace mu účtovat lze. 

Odpověď opět evidentně nesprávná, dokonce v daném případě ve zjevném rozporu se zákonem. Podle § 66 odst. 3 zákona o zdravotních službách a podmínkách jejich poskytování č. 372/2011 Sb. v platném znění „poskytovatel nemůže po osobě uvedené v § 65 odst. 1 písm. a) v souvislosti s pořízením prvního výpisu nebo kopie zdravotnické dokumentace na její žádost požadovat úhradu“. Manažerka kvality tedy obdržela odpověď od umělé inteligence, která v tomto případě byla v rozporu se zákonem.

Pokud hovoříme o tzv. výpisu ze zdravotnické dokumentace pořízeném vysloveně na žádost pacienta pro jeho osobní potřebu, tedy nikoliv pro jiného lékaře, který má pacienta v péči a potřebuje informaci o jeho zdravotním stavu, pak není třeba označovat to, co si pacient přeje, právě jako „výpis ze zdravotnické dokumentace“. Lze je označit jako lékařskou zprávu o zdravotním stavu pacienta a provedených zdravotních výkonech podávanou na žádost pacienta nebo jakkoliv podobně. V takovém případě nejde o výpis ze zdravotnické dokumentace, ale o administrativní výkon, za který lze žádat úhradu. 

Pokud je však takový dokument označen jako „výpis ze zdravotnické dokumentace“ a jde o první případ, kdy lékař takový výpis pro pacienta na jeho žádost pořizuje, musel by být tento výpis pořízen bezplatně. Manažerka kvality se velmi podivila, že umělá inteligence jí poradila nesprávně.

Závěr:

V právních otázkách nelze zatím odpovědi umělé inteligence považovat za spolehlivé. Za informaci od umělé inteligence nikdo neručí. Je-li nesprávná a lékař se na ni v dobré víře spolehne, odpovědnost ponese on a obhajoba, že vycházel z toho, co sdělila umělá inteligence, nepomůže. V právních otázkách tedy nelze na informace od umělé inteligence spoléhat.

Autor: JUDr. Jan Mach, advokát, ředitel Právní kanceláře ČLK

Foto: Shutterstock