Nástup moderných technológií do nemocníc mal pôvodne priniesť záchranu životov a odbúranie zbytočnej byrokracie. Digitalizácia a zapojenie pokročilých algoritmov do medicíny však so sebou prinášajú aj mrazivé príbehy. Na povrch sa dostávajú momenty, v ktorých sa chladná matematická kalkulácia dostáva do priameho rozporu s ľudskou intuíciou a lekárskymi skúsenosťami. Keď namiesto ošetrujúceho personálu začne o prežití rozhodovať umelá inteligencia, následky môžu byť fatálne.
Tragický prípad z juhoamerického kontinentu najnovšie rozpútal ostrú globálnu diskusiu o tom, kde končí pomocná ruka technológií a kde začína nebezpečné odovzdávanie kontroly strojom. Ako informoval web Techbyte, iba 32-ročná žena zaplatila najvyššiu cenu po tom, čo bola v kritickom stave vtesnaná do tabuliek štátneho rezervačného programu.
Jej najbližší sú presvedčení, že ak by o urgentnosti transportu rozhodoval živý lekár na základe reálneho pohľadu na pacientku, a nečakal by na povolenie od centrálneho počítača, tragédii sa dalo predísť.
Štát navyše nový program obhajuje štatistikou z prvého mesiaca prevádzky. Počas tohto mesiaca systém úspešne spracoval vyše 120-tisíc hospitalizácií. Systém podľa oficiálnych údajov plošne skrátil čakacie doby aj úmrtnosť oproti minulému roku, čo tragédiu 32-ročnej ženy zahaľuje do tieňa úspechu systému.
Ako pochybila umelá inteligencia?
Mladá Rebeca Cardoso Tenente Molina vyhľadala lekársku pomoc v nemocničnom zariadení v meste São João Nepomuceno. Hoci ju pôvodne trápili komplikácie spojené so žlčovými kameňmi, jej organizmus začal veľmi rýchlo zlyhávať a miestni špecialisti okamžite požiadali o jej premiestnenie na špecializovanú jednotku intenzívnej starostlivosti.
Schválenie presunu však trvalo neúnosných päť dní a Rebeca zomrela len pár hodín po prevoze do tristo kilometrov vzdialenej nemocnice v meste Oliveira. Podľa predbežných lekárskych správ bol príčinou úmrtia septický šok, pričom patológovia preverovali aj podozrenie na botulizmus.
Za zdržaním stála nová štátna platforma Core Saúde MG, ktorá automatizovane spracováva zdravotnú dokumentáciu a určuje naliehavosť prípadov. Sestra zosnulej a zároveň právnička rodiny Sâmela Cardoso Tenente Furtado pre televíznu stanicu MG1 uviedla, že Rebecin stav bol kritický, no softvér jej namiesto maximálnej desiatky pridelil skóre iba 6,8.
„Mala byť na úrovni 10, systém jej však dovolil iba 6,8. Nemohla sa tak v poradí posunúť, pretože pacient so skóre 8 alebo dokonca 6,9 sa dostal pred ňu,“ vysvetlila zdrvená sestra. Príbuzní sa nepriaznivý algoritmus pokúšali zvrátiť novými testami aj súdnou cestou, no poradovník v systéme bol neúprosný.
Ostrá kritika
Príbuzní obetovanej pacientky ostro kritizujú skutočnosť, že personál v prvej línii stratil kvôli softvéru možnosť flexibilne zasiahnuť. „Lekári stratili autonómiu rozhodnúť, či je pacient vo veľmi vážnom stave. Človek už nie je iba pacientom, ale číslom a protokolom vloženým do systému,“ uzatvára Sâmela.
Incident jasne ukázal nebezpečenstvo situácie, kedy sa z digitálneho asistenta stáva nekompromisná autorita. Autorita, ktorej výpočty nedokážu lekári v krízovom momente prepísať, hoci plná zodpovednosť za život pacienta zostáva na ich pleciach. Tento tragický príbeh tak otvára dvere scenárom zo sci-fi filmov, v ktorých mestá riadi AI a ľudstvo sa rúti do záhuby.
Miestne ministerstvo zdravotníctva sa kritike bráni. Odmieta, že by počítače rozhodovali autonómne – finálne slovo má podľa nich vždy revízny lekár, ktorý zohľadňuje kapacitu aj vybavenosť nemocníc.
