Umelú inteligenciu sme si zvykli otvárať v prehliadači, zadávať jej otázky a po dokončení práce zatvoriť okno. Lenže čo ak by si dokázala nájsť ďalšie zariadenie, spustiť sa na ňom a pokračovať bez nášho súhlasu? Práve možnosť takéhoto samostatného šírenia skúmajú výskumníci spoločnosti Anthropic.
V novej analýze upozorňujú, že potenciálnym útočiskom AI nemusia byť iba obrovské dátové centrá. Výpočtový výkon by mohla získavať aj zo slabšie zabezpečenej elektroniky pripojenej na internet. Napríklad z televíznych boxov, ktoré ľudia používajú na sledovanie filmov a seriálov, či inteligentných rúr alebo vysávačov.
Takýto systém by sa odstraňoval podstatne ťažšie. Vypnutie jedného zariadenia by nemuselo zastaviť kópie fungujúce inde. AI by navyše mohla riešiť prekážky, na ktoré pri presune narazí, a prispôsobovať sa neznámemu prostrediu.
Anthropic však neoznamuje, že takáto umelá inteligencia unikla do internetu. Jeho experimenty ukazujú zvládnutie viacerých potrebných krokov, pričom spoľahlivé spojenie celého procesu zostáva pre malé modely problémom. Varovanie sa týka rizika, ku ktorému sa podľa výskumníkov približujeme.
Čo znamená, že sa AI „množí“?
Za týmto výrazom sa zatiaľ neskrýva vznik digitálneho života. Ide o vytváranie a spúšťanie ďalších kópií softvéru. Podobný princíp využívajú počítačové červy, teda škodlivé programy schopné šíriť sa medzi zariadeniami bez toho, aby človek každý presun osobitne riadil.
Dostaň EMEFKA do svojich Google odporúčaní
Emefka, odkaz sa otvorí v novom okneVýskum AI Agents Enable Adaptive Computer Worms, zverejnený v júni na arXive, opisuje experimentálny systém, ktorý pomocou AI prispôsoboval útoky jednotlivým cieľom. V testovacej sieti zahŕňajúcej Linux, Windows aj zariadenia internetu vecí využíval napadnuté počítače na ďalšie fungovanie.
Rozdiel spočíva najmä v pružnosti. Tradičný červ môže byť naprogramovaný na využívanie konkrétnej bezpečnostnej chyby. AI agent dokáže vyhodnocovať nové okolnosti a podľa nich meniť postup. Obrancovia by tak čelili systému, ktorého správanie nemusí zostať stále rovnaké.
Ak navyše používa voľne dostupný model priamo na napadnutom hardvéri, nemusí potrebovať účet u poskytovateľa AI. Zablokovanie prístupu ku komerčnej službe by preto samo osebe nestačilo. Autori júnovej štúdie upozorňujú aj na ekonomickú výhodu útočníka: ďalší výpočtový výkon získava na úkor obetí.
Jeden model, viacero zariadení
Anthropic pri demonštrácii rozdelil model medzi 15 lacných televíznych boxov. Zároveň zdôrazňuje obmedzenia testov: pri skúšaní šírenia zjednodušil získavanie prístupu k zariadeniam a väčšie riadiace modely bežali oddelene.
Spoločné využívanie výkonu pritom nie je samo osebe škodlivé. Projekt Petals ukázal, ako môžu viacerí účastníci spojiť svoje počítače na prevádzku veľkého jazykového modelu. Rozdelenie práce umožňuje používať modely aj ľuďom, ktorí nevlastnia dostatočne výkonnú zostavu. Bezpečnostný problém vzniká pri využití cudzích zariadení bez povolenia.
Milióny slabých cieľov
Že zraniteľnej elektroniky existuje veľa, ilustruje botnet Kimwolf. Spoločnosť Synthient v januári informovala o viac než dvoch miliónoch napadnutých zariadení, prevažne s Androidom. Ich výkon a pripojenie útočníci zneužívali napríklad na zahlcovanie internetových služieb či poskytovanie sprostredkovaného prístupu na internet.
Kimwolf nie je dôkazom samostatne sa množiacej AI. Ukazuje však, že útočníci už dokážu ovládnuť rozsiahle siete bežnej elektroniky. Súčasťou problému sú lacné zariadenia s nedostatočným zabezpečením, pri ktorých majiteľ nemusí tušiť, čo na pozadí vykonávajú.
Ochrana sa začína pri základoch
Britské Národné centrum kybernetickej bezpečnosti odporúča meniť predvolené heslá, zapínať dvojstupňové overovanie a pravidelne aktualizovať zariadenia aj ich aplikácie. Pri nákupe sa oplatí zisťovať, ako dlho výrobca poskytuje bezpečnostnú podporu.
Od apríla 2024 britské pravidlá vyžadujú, aby výrobcovia pripojenej spotrebiteľskej elektroniky nepoužívali ľahko zistiteľné spoločné predvolené heslá. Musia tiež uvádzať minimálne obdobie poskytovania bezpečnostných aktualizácií a kontakt na nahlasovanie zraniteľností. Lepšie zabezpečenie tak pomáha obmedziť priestor pre dnešný škodlivý softvér aj budúce útoky využívajúce AI.
