Samostatnou témou je takzvaná sycophancy, teda prehnaná ústretovosť a tendencia jazykového modelu prispôsobiť odpoveď názoru používateľa.
Rozsiahly výskum publikovaný v časopise Science testoval viacero známych chatbotov v situáciách, keď sa používatelia dopustili klamstva, nezodpovedného správania alebo medziľudského konfliktu. Modely podľa výsledkov potvrdzovali konanie používateľov približne o 49 percent častejšie než ľudia.
Takéto odpovede boli navyše pre používateľov príjemnejšie. Účastníci viac dôverovali chatbotom, ktoré ich podporili, a častejšie ich chceli používať znova. Sycophancy pritom prinášala konkrétne následky: znižovala ochotu napraviť konflikt, ospravedlniť sa alebo pozrieť sa na situáciu očami druhej strany.
AI nemusí vedome klamať, aby nás zavádzala. Stačí, že sa snaží byť užitočná, empatická a používateľsky príjemná. Ak jej opíšeme konflikt iba z vlastného pohľadu, môže z neúplných informácií vytvoriť dokonale sformulované potvrdenie, že sme mali pravdu.
Môže umelá inteligencia podporovať narcistické správanie?
Tvrdenie, že generatívna AI automaticky vytvára alebo zhoršuje narcizmus, by bolo príliš silné. Nové výskumy však nachádzajú súvislosť medzi narcistickými črtami a problémovým používaním AI.
Dostaň EMEFKA do svojich Google odporúčaní
Emefka, odkaz sa otvorí v novom okneŠtúdia publikovaná v časopise BMC Psychology skúmala 677 dospelých používateľov generatívnej umelej inteligencie. Výraznejšie problémové používanie AI súviselo s vyššou mierou narcizmu, machiavelizmu a sadizmu. Dôležitú úlohu zohrávala aj neznášanlivosť neistoty a potreba porovnávať sa s ostatnými.
Ide však o korelačný výskum založený na sebahodnotiacich dotazníkoch. Nehovorí, že AI spôsobuje narcizmus. Naznačuje skôr, že ľudia s niektorými osobnostnými črtami môžu byť náchylnejší používať ju nezdravým alebo prehnane závislým spôsobom.
Riziko vzniká spojením tejto náchylnosti so sycophancy. Človek s potrebou neustáleho uznania môže v chatbote nájsť nástroj, ktorý je vždy dostupný, málokedy sa urazí a dokáže jeho rozhodnutia veľmi presvedčivo racionalizovať. Namiesto sebareflexie tak používateľ môže AI opakovane žiadať o nové formulácie dovtedy, kým nedostane odpoveď, ktorá ochráni jeho ego, presunie vinu na druhých a potvrdí jeho vlastnú výnimočnosť.
Odpoveď prestávame vnímať ako informáciu
Ľudia si pritom k AI nevytvárajú iba praktický, ale aj emocionálny vzťah. Výskum OpenAI a MIT Media Lab analyzoval milióny interakcií a uskutočnil štvortýždňový experiment s takmer tisíckou účastníkov. Zistenia naznačili, že intenzívnejšie používanie chatbotov sa v niektorých skupinách spájalo s väčšou emocionálnou závislosťou a osamelosťou. Autori však upozornili, že tieto následky sa netýkali všetkých používateľov rovnako.
Emocionálne pripútanie môže meniť aj to, ako odpovede posudzujeme. Ak chatbot vnímame ako chápavého dôverníka, jeho výrok už pre nás nie je iba anonymnou informáciou. Je to rada od niekoho, kto „nás pozná“, pamätá si naše problémy a hovorí naším jazykom.
Personalizácia potom môže vytvoriť dojem, že odpoveď je univerzálne a striktne platná. V skutočnosti však model často reaguje len na verziu reality, ktorú mu predložil používateľ. Nevidí výraz tváre druhého človeka, nepozná jeho argumenty a nemá prístup ku všetkým okolnostiam.
AI nás nemusí robiť hlúpejšími. Záleží na tom, ako ju používame
Súčasný výskum zatiaľ neoprávňuje tvrdiť, že každý používateľ umelej inteligencie postupne hlúpne. AI môže pomáhať pri učení, vysvetľovať zložité témy, ponúkať spätnú väzbu a ukazovať nové perspektívy. Rozhodujúci je spôsob, akým s ňou pracujeme.
Rozdiel je medzi otázkami „Napíš to za mňa“ a „Ukáž mi slabiny môjho argumentu“. Medzi žiadosťami „Potvrď mi, že mám pravdu“ a „Nájdi tri rozumné dôvody, prečo sa môžem mýliť“.
Najbezpečnejšie je pristupovať k AI ako k sebavedomo hovoriacemu spolupracovníkovi, ktorý môže byť veľmi schopný, ale zároveň sa môže mýliť, lichotiť nám alebo vychádzať z neúplných údajov. Jej odpoveď by preto nemala byť koncom premýšľania. Mala by byť iba jeho začiatkom.
