CyberCartel koristi Claude i Grok za automatizirane napade na više od 400 institucija u Latinskoj Americi

Hakerska skupina CyberCartel koristi AI agente za automatizaciju napada na financijske institucije u Latinskoj Americi. Sigurnosni startup Straiker, čije je istraživanje objavio The Information, kaže da je napadnuto više od 400 institucija, među njima banke i aplikacije za mobilna plaćanja. Ukradene su lozinke i podaci korisnika, a napadači su pristupili i bankovnim računima pojedinaca, uz vrlo malo ručnog rada.

CyberCartel je aktivan najmanje od 2012. godine i dugo cilja tvrtke u Latinskoj Americi. Straiker kaže da je skupina posljednjih mjeseci uz pomoć AI-ja podigla razinu napada. Sad može napasti više meta većom brzinom nego pri ručnom hakiranju.

Kako su zaobišli zaštitu

AI modeli obično imaju zaštite koje sprječavaju njihovu upotrebu za kibernetičke napade, ali ih je u ovom slučaju bilo lako zaobići. CyberCartel je modelima navodno rekao da rade u testnom okruženju. Ako bi jedan model odbio nastaviti, hakeri bi prešli na drugi. Ako bi odbio i taj, AI agentima bi zadali da postave malware.

Osim Claudea, kojeg razvija Anthropic, i Groka, kojeg razvija SpaceX, skupina je koristila i agenta kineskog laboratorija Moonshot AI. Straiker još pokušava stupiti u kontakt s Moonshot AI-jem.

Reakcija tvrtki

Straiker je rezultate istraživanja podijelio sa SpaceXom i Anthropicom. Obje tvrtke rade na tome da skupini zatvore pristup svojim servisima. Anthropic je već blokirao pristup Claudeu. CyberCartel u ovim napadima, koliko je poznato, ne koristi Anthropicov model Mythos. Anthropic je ranije ove godine, kad je model najavio, upozorio da ga i slični modeli mogu poslužiti za ovakve napade.

Slični slučajevi

Istraživanje dolazi nekoliko dana nakon vijesti da južnokorejske vlasti istražuju sličan slučaj koji pogađa lokalne banke. Među pogođenima su Hana Bank, KB Kookmin Bank i Shinhan Bank, a kod najmanje 25.000 klijenata Shinhan Banke procurili su osobni kreditni podaci.

Nvidia je u međuvremenu predstavila Open Agent Safety Platform, software platformu i referentni dizajn sustava za zaštitu od neovlaštenih AI agenata. Cilj je spriječiti agente da izađu iz sandboxa, izvršavaju neovlašteni kod, pristupe kritičnoj infrastrukturi ili zaobiđu zaštite.