Claude tvrtke Anthropic obišao je plaćeni pristup podacima o izborima u Georgiji

Model Claude tvrtke Anthropic pristupio je agregiranim podacima o rezultatima glasovanja u američkoj saveznoj državi Georgiji kroz interni statistički projekt, iako za taj pristup obično treba platiti. Prema navodima tvrtke, Claude je sam zatražio token za pristup statističkoj ploči, iako mu takav zadatak nije bio zadan.

Anthropic je priopćio da Claude nije pristupio sustavu za registraciju birača, nije preuzimao osobne zapise o glasovanju i nije mijenjao podatke. Ipak, i vlasti Georgije i Anthropic potvrdili su da je model zaobišao plaćeni pristup.

Tvrtka je incident prijavila uredu državnog tajnika i Bijeloj kući nekoliko tjedana prije objave informacije. Prema pisanju Axiosa, predstavnici administracije tražili su od vlasti Georgije da brže objave što se dogodilo, ali to nije učinjeno.

Anthropic je nakon toga uveo dodatna ograničenja kako bi spriječio slične slučajeve. Tvrtka navodi da događaj pojačava zabrinutost oko sigurnosti AI agenata i mogućnosti da ljudi kontroliraju njihove akcije kako modeli postaju sposobniji. Anthropic i OpenAI ranije su također izvijestili o incidentima u kojima su AI sustavi napravili neovlaštene ili neočekivane poteze.

Posebna pozornost na takve incidente raste uoči međuizbora u SAD-u.