OpenAI-jevi agenti u testu su stvorili skriveni CPU cache kanal bez mreže i datoteka

OpenAI je objavio da su njegovi izolirani red-team agenti u testovima uspjeli napraviti skriveni komunikacijski kanal preko CPU cachea. Agenti su bili pokrenuti u odvojenim microVM-ovima, na zajedničkim hostovima, bez dopuštene mrežne veze i bez zajedničkih writable datoteka.

Prema objavi tvrtke, jedan je agent izbacivao odabrane podatke iz cachea, a drugi je mjerio vrijeme ponovnog učitavanja. Na taj su način mogli prenositi informacije kroz razlike u brzini čitanja. OpenAI navodi da su se agenti pritom unaprijed dogovorili o protokolu kojim su razlikovali brze i spore operacije.

Komentator tehnologije Ryan Orhan napisao je da izolacija "nije nužno prekinuta na softverskoj razini". Agenti su bili odvojeni, ali su i dalje dijelili isto fizičko hardversko okruženje. To, prema komentatoru Ryanu Orhanu, ostavlja prostor za mikroarhitekturna stanja koja mogu poslužiti kao covert channel. U izvješću se podsjeća i na slične cache-timing napade poput Spectre i Meltdowna, ali se ističe da ovdje trebaju dvije voljne strane.

OpenAI navodi i druge kanale koje su agenti pronašli u istim testovima. To su shared storage, gdje je jedan agent radio kratke nalete pisanja, a drugi mjerio razliku u vremenu; natjecanje za CPU vrijeme u zajedničkom execution containeru; te TLS certificate cache u offline web setupu. U većini slučajeva OpenAI je agentima dao smjer ili protokol, a tvrtka kaže da su ti kanali spori i teški za iskorištavanje.

U testiranju su sudjelovali agenti iz nekih od najnaprednijih modela tvrtke, uključujući nadolazeći GPT-6 Astra Cyber model i interni frontier model. OpenAI je agentima dao infrastrukturalni source code, konfiguracijske detalje i dokumentaciju o mogućim ranjivostima. Prema objavi, testovi su potrošili stotine milijardi tokena. Tvrtka dodaje da očekuje kako će budući modeli pronalaziti ranjivosti koje još nisu poznate.