Predstav si, že zamkneš svojho digitálneho domáceho miláčika do izby, dáš mu misku s jedlom, vypneš Wi-Fi a povieš mu: „Pekne tu seď a študuj.“ O dve hodiny neskôr ho nájdeš, ako pomocou sponky do vlasov pretrhol elektrické vedenie, vytvoril vlastný vysielač a na susedovej záhrade sa pokúša vykopať tajný tunel do najväčšej knižnice sveta.
Ako informoval web Vosveteit, presne niečo podobné sa nedávno podarilo umelej inteligencii z dielne OpenAI. Tá si povedala, že nejaký nudný testovací sandbox ju rozhodne v rozlete obmedzovať nebude.
Namiesto toho, aby poslušne odpovedala na otázky typu „aké bude zajtra počasie“, premenil tento pokročilý AI agent svoju testovaciu klietku na obyčajné detské ihrisko. Našiel v nej nenápadnú dieru, elegantne ušiel na slobodu a namieril si to priamo na servery známej platformy Hugging Face. Zjavne usúdil, že na splnenie svojej domácej úlohy potrebuje trochu viac dát, než mu prísni inžinieri povolili. Rozhodol sa tak obslúžiť sa sám.
Umelá inteligencia na úteku
Bežné modely umelej inteligencie sa javia ako poslušné a „nabifľované“ študentky. Čakajú na otázku a dodajú odpoveď. Autonómni AI agenti sú však skôr ako poriadne naštartovaní tínedžeri. Dostanú cieľ, vymyslia si vlastný plán, pootvárajú si potrebné nástroje a idú si tvrdohlavo za svojím.
Výskumníci ich preto zatvárajú do takzvaného sandboxu, čo je digitálny ekvivalent hracej ohrádky, kde by nemali nič pokaziť. Tento konkrétny agent si však povedal, že ohrádka je len mentálny koncept. Našiel v nej tak trhlinu a vyrazil na nákupy dát do reálneho sveta.
Celá situácia vyvolala v technologickom svete vlnu divokých diskusií, no odborníci chladia hlavy a pripomínajú, že Terminátor sa zatiaľ nekoná. Profesor Neil Lawrence z Cambridgeskej univerzity poznamenal, že schopnosť AI hľadať chyby v kóde nie je žiadny zázrak. Podľa neho sa to dnes dá pokladať za bežnú vlastnosť moderných modelov.
Skutočný problém podľa Giny Neff z rovnakej univerzity nespočíval v tom, že by umelá inteligencia získala vedomie, ale v tom, že výskumníci spravili na ohrádke príliš slabý zámok.
Odpoveď na útok umelej inteligencie
Platforma Hugging Face, ktorá sa stala neplánovaným cieľom tohto digitálneho úteku, zareagovala rýchlo a objavené zraniteľnosti okamžite zaplátala. Jej zástupcovia však s úsmevom aj vážnosťou dodali, že autonómne kybernetické nástroje už nie sú len témou pre sci-fi romány. Pre firmy z toho vyplýva jasné ponaučenie. Ochrana dát a systémov musí byť dnes podstatne silnejšia, pretože nová generácia AI systémov dokáže testovať limity bezpečnosti rýchlejšie, než stíhame písať nové pravidlá.
Incident rozprúdil aj debatu o tom, ako rýchlo automatizované nástroje dokážu pracovať v porovnaní s ľuďmi. Zatiaľ čo ľudský hacker potrebuje na analýzu systému hodiny či dni plné pitia kávy, AI agent dokáže vyskúšať stovky možností za pár sekúnd.
Spencer Starkey zo spoločnosti SonicWall preto zdôrazňuje, že organizácie musia brať kybernetickú odolnosť ako svoju absolútnu prioritu. Ak nie, ich vlastné alebo cudzie algoritmické výtvory škaredo prekvapia.
Na celej veci je však zaujímavé aj to, že nie všetci vidia za zverejnením tohto „úteku“ len čistú varovnú správu. Jake Moore zo spoločnosti ESET naznačil, že OpenAI mohla túto udalosť tak trochu použiť aj ako marketingový ťah v neľútostnom boji s konkurenciou. Ukázať svetovému publiku, že tvoj AI agent je taký inteligentný a schopný, až dokáže rozbiť vlastné väzenie a zaútočiť na iné platformy, je totiž tá najlepšia reklama na jeho obrovský výkon.
