Keď si sa ako dieťa prechádzal obchodmi s lacným čínskym tovarom, isto si sa náramne bavil na názvoch všetkých tých fejkových produktov. Tenisky Pomo, herná konzola PlayerStation a mnoho ďalších. „Tí Číňania sú schopní sfejkovať naozaj všetko,“ hovorili sme si. Dnes sa ukazuje, že Číňania dokážu vyrobiť fejky aj z teba.
Na vlastnej koži sa o tom presvedčila 21-ročná Oľga. Mladá žena nahrala niekoľko videí na YouTube a čoskoro nato jej ľudia začali písať, že ju videli hovoriť mandarínskou čínštinou na čínskych stránkach. Oľga po čínsky nevie ani ceknúť. Šokujúcemu prípadu sa venovali BBC aj Meduza.
Veci, ktoré som nikdy nepovedala, v jazyku, ktorý neovládam
Oľga si v roku 2023 založila YouTube kanál s lifestylovou tematikou, na ktorom však nebola veľmi aktívna. O to viac ju zarazilo, keď jej asi o mesiac neskôr začali chodiť správy od ľudí, ktorí tvrdili, že ju videli vo videách na čínskych stránkach. Zarážajúce na tom bolo aj to, že v týchto videách čínska Oľga hovorila po čínsky – v jazyku, ktorý skutočná Oľga neovláda.
Takýchto videí vzniklo niekoľko tisícok. Najviac sa ich objavilo na službe Xiaohongshu (niečo ako Instagram) a Bilibili (čosi podobné ako YouTube). Oľga našla minimálne 35 profilov zneužívajúcich jej tvár na zdieľanie videí vytvorených umelou inteligenciou podľa modelu jej tváre a hlasu.
Fejkové čínske Oľgy nesú mená ako Sofia, Nataša, Stacy či April. Zvlášť bolestivé pre Ukrajinku Oľgu je to, že mnohé jej kópie vystupujú ako Rusky. Rozprávajú o dôležitosti priateľstva medzi Ruskom a Čínou a propagujú ruské výrobky. Jeden z účtov pod názvom Natasha imported food získal až 300-tisíc sledujúcich.
„Videla som svoju tvár a počula som svoj hlas. Všetko to ale bolo veľmi desivé, pretože som videla, ako hovorím niečo, čo som nikdy nepovedala,“ podelila sa Oľga o svoje pocity.
Hrozí nám to všetkým?
Keď o hrozivom zážitku Oľgy písal jej snúbenec na sociálnej sieti, zareagovala aj spoločnosť HeyGen, ktorej nástroje boli použité na produkciu videí. HeyGen sa zachovala tak, ako by sa aj patrilo. Vyjadrila poľutovanie nad vzniknutou situáciou, zablokovala používanie Oľginej tváre a hlasu a aktivovala ďalšie nástroje na ochranu súkromia.
Prípad mladej Ukrajinky je ďalším varovaním ohľadom hrozieb spojených so zneužívaním umelej inteligencie na nekalé účely. Výroba sofistikovaných hoaxov či krádež identity sú jednoduchšie ako kedykoľvek predtým.
Politici však na tieto riziká pomaly, ale isto reagujú. Minulý rok USA zaviedli firmám pracujúcim s AI povinnosť zdieľať dáta s vládou. Európska únia v marci prijala legislatívu klasifikujúcu rôzne služby AI do skupín na základe miery rizika, ktoré môžu predstavovať.
Oľga sa medzitým môže utešovať tým, že kopírovanie je najvyššou formou komplimentu a niekoho na druhom konci sveta naozaj okúzlila. Dá sa proti podobným prípadom krádeže tváre nejako brániť? Zatiaľ sa ako najúčinnejšie javia dve možnosti. Tou prvou je nepridávať zábery svojej tváre na internet. Tou druhou je byť škaredý.
