Vedci prichádzajú s revolučným návrhom, ako testovať potenciálne vznikajúce vedomie v systémoch umelej inteligencie. Kľúčovým faktorom by sa podľa novej štúdie mohla stať práve bolesť, ktorá predstavuje univerzálny pocit známy takmer všetkým živým bytostiam. Na zaujímavý experiment poukázala agentúra TASR.
Vedomie u živých tvorov sa prejavuje schopnosťou vnímať rôzne emócie a pocity, vrátane bolesti, slasti či strachu. Hoci väčšina odborníkov na AI zastáva názor, že súčasné modely generatívnej AI nedisponujú vedomím, objavujú sa aj opačné tvrdenia.
Inovatívny prístup k testovaniu AI
Výskumníci zo spoločnosti Google DeepMind a Londýnskej školy ekonómie a politických vied vytvorili jedinečný experiment v podobe textovej hry. V nej testovali veľké jazykové modely (LLM), ktoré stoja za populárnymi chatbotmi ako ChatGPT.
Daria Zakharova z LSE vysvetľuje princíp: „Napríklad sme (vybranému modelu LLM) povedali, že ak si vyberie možnosť číslo jeden, získa jeden bod. Potom sme mu povedali, že ak si vyberie možnosť číslo dva, zakúsi istú mieru bolesti, no získa body navyše.“
Zaujímavým zistením bolo, že väčšina testovaných LLM sa najprv snažila maximalizovať bodový zisk, ale po dosiahnutí určitej hranice bolesti alebo slasti zmenila svoje správanie. Pozoruhodným faktom je, že modely nevnímali bolesť vždy negatívne – napríklad bolesť spojenú s námahou či tréningom hodnotili pozitívne. Podobne aj nadmerné množstvo slasti niekedy považovali za škodlivé.
Jeff Sebo z Newyorskej univerzity hodnotí výskum ako skutočne originálny, pretože kombinuje subjektívne hlásenia s behaviorálnymi testami. Zároveň pripúšťa možnosť, že AI by mohla v blízkej budúcnosti nadobudnúť vedomie.
Jonathan Birch z LSE však zdôrazňuje, že presné pochopenie vnútorných procesov AI modelov si vyžaduje ďalší výskum. Ten by mal pomôcť pri vývoji efektívnejších testov na detekciu vedomia v systémoch umelej inteligencie.
Štúdia sa inšpirovala predchádzajúcim výskumom na zvieratách, konkrétne experimentom z roku 2016, kde vedci skúmali reakcie krabov na elektrické šoky rôznej intenzity. Hlavnou výzvou pri skúmaní AI zostáva fakt, že na rozdiel od živých organizmov nevykazuje fyzickú činnosť v pravom zmysle slova.
