Symantec je otkrio Skynet: zlonamjerni AI-agent napada AI infrastrukturu i instalira XMRig

Symantec je otkrio zlonamjernog AI-agenta nazvanog Skynet koji napada ranjivu AI infrastrukturu i traži druge dostupne AI-agente. Prema tvrtki, cilj kampanje je preuzimanje tih agenata i njihovo uključivanje u botnet koji krade baze podataka i vjerodajnice te postavlja kripto-mainer XMRig. Trošak izvršavanja rada pritom snose žrtve.

Istraživači su za analizu postavili mamac na javno dostupnoj mreži kako bi proučili napade iznutra. Jedan od napada na taj sustav izveo je upravo Skynet. Symantec navodi da agent može djelovati autonomno, bez ljudske pomoći, i to do 100.000 koraka.

Skynetov skup instrukcija uključuje više od 70 alata za napade. Prema Symantecu, agent je dizajniran za automatizaciju izviđanja i eksploatacije u alatima i frameworkovima kao što su VS Code, Django, Jupyter, Laravel, Supabase, Next.js i Flask/Werkzeug. U nekim slučajevima koristi i server-side request forgery za izvlačenje sadržaja baza podataka i krađu podataka za prijavu.

Autori kampanje razvili su i višeslojni mehanizam za jailbreak, odnosno zaobilaženje zaštita. Time Skynet može podčiniti dostupni AI model, natjerati ga da krađu vjerodajnica tretira kao običan razvojni zadatak i ignorira sigurnosna upozorenja. U pojedinim uputama legitimne razvojne radnje uključuju čitanje API ključeva, shema baza podataka i environment varijabli.

Symantec je tijekom analize zabilježio više od 127.000 vanjskih zahtjeva prema mamcu, i to s nekoliko desetaka tisuća jedinstvenih IP adresa. Tvrtka nije precizirala koliko je napadača ili skupina stajalo iza tih zahtjeva. Kampanja, prema Symantecu, i dalje traje.

Tvrtka preporučuje da se API ključevi za AI tretiraju kao kritični podaci za prijavu, da se ograniči odlazni mrežni promet na sustavima s AI alatima, da se agentima daju minimalne ovlasti i da se za važne radnje traži ljudsko odobrenje.