Spoločnosť OpenAI potvrdila, že nedávno identifikovala skupinu účtov zapojených do škodlivých kampaní, pričom zodpovedným používateľom okamžite zablokovala prístup.
Zakázané účty súviseli s operáciami „Peer Review“ a „Sponsored Discontent“, ktoré podľa OpenAI pravdepodobne pochádzajú z Číny. Ich cieľom bolo využívať modely OpenAI a iného amerického AI laboratória na sledovacie operácie a generovanie dezinformačných článkov v španielčine s protiamerickou rétorikou.
V kampani „Peer Review“ používatelia využili ChatGPT na vytváranie podrobných popisov nástroja na monitorovanie sociálnych sietí, ktorý údajne slúžil na poskytovanie informácií o protestoch na Západe čínskym bezpečnostným službám. Model bol taktiež použitý na úpravu kódu a tvorbu propagačných materiálov pre podozrivé AI nástroje, informuje portál TechRadar.
V kampani „Sponsored Discontent“ sa cez ChatGPT generovali komentáre v angličtine a články v španielčine s protiamerickým obsahom, pravdepodobne s cieľom vyvolať nespokojnosť v Latinskej Amerike, konkrétne v Peru, Mexiku a Ekvádore.
Umelá inteligencia ako nástroj propagandy
Štátom sponzorované kampane čoraz viac využívajú umelú inteligenciu na šírenie dezinformácií a ovplyvňovanie verejnej mienky. Už koncom roka 2024 bola odhalená čínska kampaň, ktorá cielila na amerických voličov prostredníctvom tisícok AI generovaných obrázkov a videí s falošnými informáciami.
OpenAI zdôrazňuje, že zneužívanie AI na propagandu je vážnym bezpečnostným rizikom, pričom neustále pracuje na zlepšovaní ochrany proti podobným aktivitám.
Minulý mesiac skupina Google Threat Intelligence Group (GTIG) odhalila, že viac ako 57 hrozieb napojených na Čínu, Irán, Severnú Kóreu a Rusko využívalo AI chatbota Gemini na zlepšenie rôznych fáz kybernetických útokov. Model im pomohol pri výskume aktuálnych udalostí, tvorbe obsahu, prekladoch a lokalizácii, píše portál The Hacker News.
OpenAI zdôrazňuje, že AI spoločnosti môžu poskytovať cenné informácie o aktéroch hrozieb a tieto poznatky by mali byť zdieľané s poskytovateľmi infraštruktúry (napr. hostingom a softvérovými firmami), sociálnymi sieťami a výskumníkmi. Zároveň spoločnosť dodáva, že spolupráca medzi AI firmami, bezpečnostnými expertmi a technologickými platformami otvára nové možnosti na odhaľovanie a elimináciu škodlivých aktivít.
