Umelá inteligencia sa pre Slovákov stáva čoraz bežnejším pomocníkom. V predchádzajúcom článku sme informovali, že podľa reprezentatívneho prieskumu Ipsos pre Akadémiu kritického myslenia využili nástroje AI za posledných 12 mesiacov približne tri štvrtiny dospelých Slovákov.
Mnohí si pomocou nich hľadajú informácie, upravujú texty či riešia pracovné a osobné problémy. Práve preto bude čoraz dôležitejšie vedieť rozlíšiť, kde pri vzniku textu zohrala úlohu umelá inteligencia.
OpenAI teraz oznámilo, že v Európskej únii začne do vybraných textových výstupov z ChatGPT a Codexu postupne pridávať neviditeľný vodoznak. Súvisí to s požiadavkami európskeho zákona o umelej inteligencii, podľa ktorého majú byť texty vytvorené generatívnou AI identifikovateľné spôsobom, ktorý dokáže prečítať stroj.
Vodoznak človek neuvidí
Označenie nebude vyzerať ako upozornenie pod článkom ani ako viditeľná poznámka. OpenAI používa systém s názvom textGrain, ktorý ukrýva štatistický signál priamo vo výbere slov. Následný detektor sa potom snaží zistiť, či sa v texte tento vzor nachádza.
Spoločnosť však upozorňuje, že nejde o dokonale spoľahlivý dôkaz. Kratšie texty sa identifikujú ťažšie a problém môže nastať aj pri textoch, v ktorých je malý priestor na obmenu slov, napríklad pri matematike.
Dostaň EMEFKA do svojich Google odporúčaní
Emefka, odkaz sa otvorí v novom okneVeľkú úlohu zohráva aj úprava textu. Pri jednom z testov klesla úspešnosť odhalenia po nahradení desatiny slov synonymami približne z 92 na 66 percent. Ak sa zmenila štvrtina slov, detektor uspel už len v 17 percentách prípadov.
Nezistí, kto text napísal
Vodoznak preto nebude slúžiť ako univerzálny „detektor ChatGPT“. Neurčí, koľko práce na texte odviedol človek ani komu text patrí. Rovnako nepovie, ktorý používateľ ho vytvoril, z akého účtu pochádza či aký prompt pri jeho vzniku zadal.
Dôležité je aj to, že ak detektor vodoznak nenájde, neznamená to automaticky, že text napísal človek. Výsledok môže ovplyvniť dĺžka textu, jeho úpravy, preklad alebo použitý model.
OpenAI zároveň uvádza, že podľa doterajších testov watermarkovanie nemá mať významný vplyv na kvalitu výstupov. Spoločnosť však chce technológiu ďalej skúmať a zlepšovať, pretože jej spoľahlivosť sa môže v bežnom používaní líšiť od výsledkov v kontrolovaných testoch.
Prečo sa to týka aj Slovákov
Zavedenie novinky prichádza v čase, keď AI využíva čoraz väčšia časť Slovákov. Podľa prieskumu Ipsos ju denne alebo takmer denne používa 16 percent ľudí a ďalších 22 percent niekoľkokrát týždenne. Pri práci sa AI už využíva rovnako často ako konzultácia s kolegom či vyhľadávačom.
V Európskej únii sa má vodoznak v oprávnených výstupoch ChatGPT a Codexu začať objavovať v najbližších týždňoch a postupne naprieč všetkými plánmi. OpenAI zatiaľ nechce sprístupniť nástroj na jeho odhaľovanie verejnosti. O prístup môžu požiadať schválení výskumníci a odborné organizácie, ktoré majú pomáhať overovať, ako spoľahlivo technológia funguje v praxi.
