Umelá inteligencia dnes preniká takmer do každého aspektu nášho života – od rezervácie dovoleniek cez písanie e-mailov až po rýchle odpovede na každodenné otázky. Pre mnohých sa už stalo bežnou rutinou riešiť problémy pomocou AI namiesto toho, aby vyhľadali odborníka. Web Indy teraz prináša správu o tom, ako nás môže takéto myslenie doviesť až do nemocnice.
Stalo sa to totiž mužovi, ktorý skončil hospitalizovaný so zriedkavou a závažnou formou otravy po tom, čo sa riadil odporúčaním ChatGPT. Chcel znížiť príjem soli a zlepšiť svoje zdravie, preto sa rozhodol požiadať umelú inteligenciu o radu.
Podľa prípadovej štúdie uverejnenej v Annals of Internal Medicine mu chatbot údajne poradil, aby kuchynskú soľ (chlorid sodný) nahradil bromidom sodným. Muž si túto látku bez ďalšieho overenia alebo konzultácie s lekárom objednal cez internet a začal ju pravidelne používať pri príprave jedál.
Lenže bromid sodný nie je potravinová prísada. Ide o chemikáliu využívanú ako dezinfekčný prostriedok na úpravu vody, sanitizér, prostriedok proti riasam, plesniam a slimákom. Tento zásadný kontext v odpovedi od ChatGPT údajne úplne chýbal.
Umelá inteligencia spustila otravu
Po približne troch mesiacoch užívania začal muž trpieť paranoidnými bludmi – dokonca bol presvedčený, že sa ho sused snaží otráviť. Počas prvých 24 hodín po prijatí do nemocnice sa jeho paranoia zhoršovala a pridali sa sluchové aj zrakové halucinácie. Po pokuse o útek bol umiestnený na nedobrovoľné psychiatrické pozorovanie.
Až po stabilizovaní na liekoch dokázal lekárom podrobne vysvetliť, čo sa stalo, a spomenul aj úlohu ChatGPT. Krvné testy odhalili extrémne vysoké hladiny bromidu – až 1 700 mg/l, pričom bezpečné hodnoty sa pohybujú pod 10 mg/l. Lekári diagnózu uzavreli ako bromizmus, zriedkavý a nebezpečný stav spôsobený nadmerným hromadením bromidu v organizme.
Autori štúdie upozornili, že systémy umelej inteligencie môžu poskytovať vedecky nepresné informácie, nedokážu kriticky zhodnotiť výsledky a môžu prispieť k šíreniu nebezpečných dezinformácií. „Tento prípad jasne ukazuje, že AI nemá nahrádzať odbornú lekársku konzultáciu,“ zdôraznili.
Príbeh je mementom pre každého, kto v otázkach zdravia hľadá rýchle riešenia online. Umelá inteligencia môže byť silným pomocníkom, no rozhodnutia týkajúce sa zdravia by mali vždy vychádzať z odporúčaní kvalifikovaných zdravotníkov – inak sa aj dobre mienená rada môže zmeniť na život ohrozujúcu chybu.
