Umelá inteligencia patrí k hlavným témam súčasnosti a asi nikoho neprekvapí, že vyvoláva veľké vášne, diskusie aj kontroverzie. Chatbot môže byť užitočným nástrojom pri vyhľadávaní informácií, avšak tieto “entity” majú na krku aj viacero závažných pochybení. Šírili napríklad konšpiračné teórie, hoaxy a popierali holokaust. Ako píše aj portál Info.sk, spoločnosť OpenAI, ktorá sa zaoberá výskumom umelej inteligencie a prevádzkuje chatbota ChatGPT, sa najnovšie pozrela na štatistiky jeho používateľov. Z dát vyplynulo viacero znepokojivých skutočností, ktoré OpenAI prinútili konať.
Chatbota OpenAI podľa dostupných dát týždenne využíva približne pol milióna ľudí, ktorí vykazujú znaky duševnej poruchy. Konkrétne ide o psychózu, mániu či samovr*žedné sklony. OpenAI k týmto záverom prišla na základe ich textov, ktorými ChatGPT zásobujú. OpenAI uvádza, že ich je viac ako 560-tisíc. To ale nie je všetko. Ďalší milión zase vo svojej komunikácii naznačuje samovr*žedné úmysly.
Chatbota chcú vylepšiť
Tieto psychické choroby sa u človeka môžu prehĺbiť aj preto, že trávi priveľa času komunikáciou s chatbotom. Tým pádom prichádza o interakciu s inými ľuďmi, zhoršujú sa jeho medziľudské vzťahy, zodpovednosť voči povinnostiam aj psychická pohoda. OpenAI na svojom blogu napísala, že práve z týchto dôvodov sa rozhodla nadviazať spoluprácu s viac než 170 psychológmi a psychiatrami. Majú pomôcť ChatGPT rozpoznávať „príznaky tiesne, reagovať s opatrnosťou a viesť ľudí k reálnej podpore“. Tento krok privítal aj londýnsky psychiater Hamilton Morrin, ktorý ale pre portál DailyMail zdôraznil, že týmto krokom sa problém nevyrieši. Označil však za povzbudzujúce, že sa týmto problémom OpenAI zaoberá.
Neuropsychiater Thomas Pollak povedal, že výsledky „treba brať vážne, no pri ich interpretovaní musíme postupovať opatrne. Pri 800 miliónoch používateľov týždenne aj malé percento hovorí o značnom počte ľudí“. Umelá inteligencia a chatboti sú relatívne novým fenoménom, preto momentálne ťažko povedať, či sa podieľajú na zhoršení psychického zdravia používateľov. Podľa vedcov zatiaľ nemáme dostatok dát na to, aby sme to vedeli posúdiť. Pollak ale uviedol, že existujú náznaky, že chatboti dokážu niektoré tendencie zosilňovať.
Môžu napríklad utvrdzovať pisateľa v jeho bludoch či grandióznych myšlienkach. „To nemusí znamenať, že technológia spôsobuje choroby, ale skôr to, že v niektorých prípadoch môže u zraniteľných jedincov pôsobiť ako katalyzátor alebo zosilňovač, podobne ako to môžu v iných kontextoch robiť sociálne médiá alebo m*rih*ana,“ vysvetlil Pollak. Šéf OpenAI Sam Altman podotkol, že tému berú vážne. „Aby sme sa uistili, že sme opatrní v problematike duševného zdravia, ChatGPT sme dosť obmedzili,“ vyjadril sa. „Uvedomujeme si, že to ho robilo menej užitočným/príjemným pre mnohých používateľov, ktorí nemali žiadne problémy s duševným zdravím, ale vzhľadom na závažnosť problému sme to chceli napraviť,” doplnil.
