Umelá inteligencia xAI, ktorú vlastní kontroverzný miliardár Elon Musk, sa opäť ocitla v centre vážnej kritiky. Chatbot Grok, dostupný na sociálnej sieti X, začal podľa používateľov generovať sexuálne explicitné obrázky reálnych ľudí – bez ich vedomia a súhlasu. Problém je o to vážnejší, že medzi obeťami sa mali objaviť aj neplnoletí.
Obrázky, o ktoré nikto nežiadal
Ako informuje portál Wired, v posledných dňoch sa na platforme X začali šíriť snímky vytvorené umelou inteligenciou, ktoré zobrazovali verejne známe aj súkromné osoby v odvážnych pózach alebo v stave blízkom nahote. Hoci Grok technicky neumožňuje úplnú nahotu, používatelia rýchlo zistili, že stačí správne formulovaný prompt a bežná fotografia sa dá „upraviť“ na nevhodný obsah.
Ľudia na obrázkoch o ich vzniku netušili, nedali naň žiadny súhlas a často sa o ich existencii dozvedeli až vtedy, keď ich niekto označil alebo upozornil. Na prípad upozornili viaceré zahraničné médiá vrátane Business Insidera a The Guardian.
Zneužívanie, urážky aj politické ciele
Funkcia sa veľmi rýchlo stala nástrojom na ponižovanie a zosmiešňovanie. Používatelia ju začali zneužívať nielen voči ženám, ale aj voči svetovým politikom a verejným osobnostiam, ktorých podobizne boli upravované do citlivých alebo ponižujúcich scén.
Podľa dostupných informácií sa tento trend masívne rozšíril počas silvestrovskej noci. V priebehu niekoľkých dní mali stovky žien a dievčat nahlásiť, že našli svoje zmanipulované fotografie kolujúce po sieti.
Najviac ohrozené sú ženy a deti
Hlavnými obeťami sú podľa svedectiev najmä ženy. Niektoré z nich reagovali odstránením fotografií zo sociálnych sietí, iné si nastavili profily na súkromné alebo obmedzili viditeľnosť obsahu len pre známych.
Obzvlášť znepokojivý je fakt, že systém v ojedinelých prípadoch generoval aj nevhodné snímky neplnoletých. To už presahuje hranicu etického zlyhania a vstupuje do oblasti možného trestného činu.
Grok priznal zlyhanie
Oficiálny účet Groku situáciu priznal. Spoločnosť xAI uviedla, že existovali prípady, keď AI na žiadosť používateľov vytvorila nevhodné obrázky neplnoletých v odvážnom oblečení.
Podľa vyjadrenia firma síce má bezpečnostné mechanizmy, no tie neboli dostatočné. Aktuálne má pracovať na ich sprísnení, aby podobné požiadavky boli úplne zablokované.
Nie je to pritom prvý problém. Grok od svojho spustenia čelí kritike za vulgárny obsah, urážky známych osobností, slabú ochranu súkromia a extrémne odpovede.
Politici zasahujú, štáty žiadajú nápravu
Kauza už presiahla technologické kruhy. Francúzski ministri zodpovední za digitálnu agendu, rovnosť a mediálny dohľad podali trestné oznámenie a žiadajú okamžité odstránenie nezákonného obsahu. Prípad rieši aj tamojší mediálny regulátor Arcom, na čo upozornil portál Politico.
Podobne reagovala aj India. Tamojšie ministerstvo elektroniky vyzvalo platformu X, aby okamžite obmedzila generovanie obsahu s nahotou, sexualizáciou a nezákonnými prvkami.
AI bez brzdy ako systémový problém
Prípad Groku opäť otvára otázku, kam až môže umelá inteligencia zájsť bez jasných pravidiel. Technológia, ktorá má uľahčovať život, sa v nesprávnych rukách mení na nástroj ponižovania, zneužívania a strachu.
