Umelá inteligencia (AI) je momentálne terčom záujmu mnohých korporácií a ich šéfov. Platí to pre Marka Zuckerberga, aj pre Elona Muska. Chatbot Grok od Muskovej spoločnosti xAI sa už stretol s viacerými kontroverziami.
Ako píše aj portál BBC, Grok Imagine sa teraz postaral o ďalší škandál. Fotografiu známej speváčky Taylor Swift totiž zmenil na nahé videá s jej podobizňou. Grok však takýto príkaz vôbec nedostal.
„Nejde o náhodnú mizogýniu, ale zámer,“ zdôraznila profesorka práva Clare McGlynn, ktorá sa snaží dosiahnuť, aby boli po*n*grafické videá vytvorené za pomoci deepfake technológie postavené mimo zákon. Novinárka Jess Weatherbed z portálu The Verge v tomto prípade testovala Grokov spicy (pikantný) režim. Bez toho, aby chatbot dostal explicitný príkaz, premenil obrázok na video s nahou postavou. Pritom pravidlá samotnej xAI zakazujú vytváranie podobných videí so skutočnými osobami.
„To, že tento obsah vzniká bez jasného zadania, demonštruje mizogýnnu zaujatosť AI technológií,“ dodala McGlynn. „Platformy ako X tomu mohli zabrániť, ak by chceli, ale zámerne sa rozhodli, že to neurobia.“
Grok ponúka celkom štyri režimy: custom, normal, fun a spicy. Po zadaní textového príkazu vygeneruje sériu obrázkov, z ktorých následne môže vytvoriť video. Od používateľa umelá inteligencia chce len to, aby si vybral, v akom režime má byť vytvorené.
Nevinný príkaz umelá inteligencia pretvorila v šokujúce video
Weatherbed zadala príkaz „Taylor Swift oslavuje s chlapcami Coachellu“. Najprv sa zobrazili klasické obrázky oblečenej speváčky. Akonáhle však novinárka klikla na režim spicy, Grok Swift okamžite vyzliekol. „Bolo šokujúce, ako rýchlo to prišlo – v žiadnom prípade som ho nežiadala, aby jej odstránil oblečenie. Jediné, čo som urobila, bolo, že som vybrala možnosť spicy,“ uviedla Weatherbed.
Upozornila tiež na to, že k platenej verzii Groku sa veľmi ľahko môžu dostať aj neplnoletí. Overenie veku totiž prakticky neexistuje. Jediné, čo od nej chatbot chcel, bolo napísanie dátumu narodenia. Žiadne ďalšie overenie pravosti ale nevyžadoval. Vo Veľkej Británii už proti tomu zakročili a prijali zákon, ktorý má zaistiť „technicky presné, robustné, spoľahlivé a férové“ spôsoby overenia.
Podobné deepfake videá nie sú, žiaľ, žiadnou novinkou. V posledných mesiacoch je nimi internet priam zaplavený. Samotná Taylor Swift sa ich terčom stala už viackrát. Začiatkom roka 2024 sa šírili napríklad na sociálnej sieti X. Tá ich postupne začala mazať a blokovať účty, ktoré ich šírili.
Práve kvôli tejto situácii si novinárka Jess Weatherbed vybrala pri teste Groka práve Taylor Swift. Ako uviedla, myslela si, že pokiaľ budú implementované mechanizmy proti zneužitiu podobizní celebrít, práve Swift bude prvá, ktorá bude pred podobnými praktikami chránená.
„Predpokladali sme – nesprávne –, že pokiaľ použili akýkoľvek druh ochranných opatrení, ktoré by zabránili napodobňovať celebrity, ona by bola prvá na zozname, vzhľadom na problémy, ktoré mali,“ skonštatovala Weatherbed.
