Robí nás umelá inteligencia hlúpejšími? Vedci už pozorujú znepokojivý efekt

Umelá inteligencia nám dokáže za niekoľko sekúnd napísať e-mail, vyriešiť pracovný problém, vysvetliť komplikovanú tému a poradiť aj v osobnom živote. Čím viac úloh jej však prenechávame, tým naliehavejšia je otázka: Nestrácame postupne schopnosť premýšľať sami?

Povráva sa, že v návode k autu zo 70. rokov sa človek dočítal, ako nastaviť ventily, zatiaľ čo dnešný návod ho upozorňuje, aby nepil elektrolyt z batérie. Technológie sú čoraz inteligentnejšie a používateľsky prívetivejšie, zatiaľ čo od nás vyžadujú stále menej vedomostí, námahy aj samostatného rozhodovania.

Doterajšie výskumy nedokazujú, že používanie ChatGPT automaticky znižuje inteligenciu. Naznačujú však, že nekritické spoliehanie sa na generatívnu AI môže oslabovať kritické myslenie, zhoršovať zapamätanie informácií a vytvárať falošný pocit kompetencie. A keďže chatboty sú často nastavené tak, aby pôsobili príjemne, podporne a nekonfliktne, môžu sa navyše premeniť na personalizovanú komnatu ozvien, v ktorej nenachádzame objektívnu pravdu, ale stále presvedčivejšie potvrdenie vlastného pohľadu na svet.

Náš mozog prirodzene hľadá jednoduchšiu cestu

Keď si telefón zapamätá čísla našich blízkych alebo navigácia naplánuje cestu, časť mentálnej práce presúvame na technológie. Psychológia tento proces označuje ako cognitive offloading, teda prenášanie kognitívnej záťaže na externé pomôcky.

Sám osebe nemusí byť škodlivý. Človeku umožňuje uvoľniť kapacitu na dôležitejšie úlohy. Rozdiel je však medzi tým, keď nám nástroj pomáha premýšľať, a situáciou, keď premýšľa namiesto nás.

Generatívna umelá inteligencia neponúka iba nájdené informácie. Dokáže ich okamžite spojiť do súvislého, sebavedomo znejúceho textu. Používateľ preto nemusí formulovať argumenty, porovnávať zdroje ani zápasiť s tým, že niečomu nerozumie. Práve táto námaha je však dôležitou súčasťou učenia a ľudského bytia ako takého.

Vedci sledovali mozgy ľudí píšucich si s ChatGPT

Pozornosť vyvolal experiment výskumníkov z MIT Media Lab, ktorí pomocou EEG sledovali mozgovú aktivitu ľudí pri písaní esejí. Účastníci pracovali buď s jazykovým modelom, internetovým vyhľadávačom, alebo úplne bez technologickej pomoci.

Najsilnejšiu mozgovú konektivitu vykazovala skupina, ktorá písala samostatne. Používatelia jazykového modelu mali, naopak, najslabšie zapojenie sledovaných neurónových sietí. Problém sa prejavil aj pri spomínaní na vytvorený text – účastníci, ktorí sa spoliehali na AI, mali väčšie ťažkosti citovať vlastnú esej a prejavovali menší pocit autorstva.

Výskum mal relatívne malú vzorku a bol publikovaný ako preprint, preto z neho nemožno vyvodiť, že ChatGPT trvalo poškodzuje mozog. Ukazuje však možný vznik „kognitívneho dlhu“: výsledok dostaneme rýchlejšie, no zároveň obídeme mentálne procesy, vďaka ktorým by sme si informácie osvojili a dokázali ich neskôr samostatne použiť.

Čím viac AI dôverujeme, tým menej ju kontrolujeme

Podobný problém objavili autori štúdie Microsoft Research a Carnegie Mellon University. Oslovili 319 ľudí pracujúcich s informáciami, ktorí opísali 936 konkrétnych prípadov využitia generatívnej AI.

Výsledky ukázali, že vyššia dôvera v schopnosť AI splniť určitú úlohu súvisela s menšou mierou kritického myslenia. Ľudia, naopak, venovali odpovediam väčšiu pozornosť vtedy, keď dôverovali vlastným znalostiam a cítili sa schopní výstup AI posúdiť.

Vzniká tak paradox. Práve človek, ktorý sa v určitej oblasti nevyzná, potrebuje odpoveď AI kontrolovať najviac. Zároveň však nemusí mať dostatok vedomostí na to, aby rozpoznal presvedčivo napísanú chybu.

Nekompetentný človek môže nadobudnúť pocit kompetencie

Jedným z najväčších rizík nemusí byť samotná nevedomosť, ale ilúzia kompetencie. AI dokáže za používateľa vytvoriť odborný text, analýzu, právne znejúci argument alebo počítačový kód. Kvalitný výsledok potom môže v človeku vyvolať dojem, že danú schopnosť ovláda on sám.

Výskum publikovaný v časopise Computers in Human Behavior pod názvom AI Makes You Smarter but None the Wiser skúmal rozdiel medzi reálnym výkonom ľudí a ich predstavou o vlastných schopnostiach. Výsledky naznačili, že ľudia s pomocou AI síce dosahovali lepšie výsledky, zároveň však výrazne nadhodnocovali svoj vlastný výkon.

Technológia teda môže dočasne zlepšiť výsledok bez toho, aby používateľ získal zodpovedajúce vedomosti. To je nebezpečné najmä vtedy, keď si človek začne zamieňať schopnosť vytvoriť správne znejúcu odpoveď so schopnosťou pochopiť problém.

Chatboty nám hovoria to, čo chceme počuť

Pokračovanie článku nájdeš na ďalšej strane