Kineski sud: AI video može proći provjeru lica na platformama

Kineski sud u Hangzhouu objavio je slučaj u kojem su dva muškarca, Hu Mouyun i Hu Mouliang, navodno koristili AI-generirane videozapise da bi prešli provjeru lica na platformama. Prema izvješću CCTV-a, sustav je prihvatio snimku koja nije prikazivala stvarnu osobu, nego unaprijed izrađen video s pokretima poput treptanja, kimanja i okretanja glave.

Prema sudskim navodima, dvojica osumnjičenih su preko inozemnih chat aplikacija ušli u lanac ilegalnih poslova. Prikupljali su fotografije korisnika, zatim su pomoću stranih web stranica za zamjenu lica i modela temeljenih na dubokom učenju izrađivali dinamične videozapise. Ti su videozapisi služili za zaobilaženje live detekcije na shopping platformama.

Tijekom postupka su na mobitelu instalirali i virtualnu kameru koja je zamijenila izvornu kameru uređaja. Kada bi platforma pokrenula provjeru lica, sustav bi umjesto stvarnog lica dobio prethodno pripremljen video. Na taj su način navodno ulazili u tuđe račune te krali i prodavali osobne podatke korisnika.

U predmetu je utvrđeno da su zajedno ostvarili 5.857 juana nezakonite dobiti, odnosno oko 760 eura. Nakon što su otkriveni, prestali su s radnjama, vratili puni iznos i priznali krivnju. Tužiteljstvo je zbog toga donijelo odluku da ih kazneno ne progoni.

To ipak nije značilo kraj postupka. Budući da su povrijedili osobne podatke većeg broja korisnika i javni interes, gradsko tužiteljstvo u Hangzhouu pokrenulo je građansku tužbu zbog zaštite osobnih podataka. Na sudu su obojica priznala zloupotrebu tehnologije i ispričala se oštećenima i javnosti.

Sud je na kraju naložio javnu ispriku i plaćanje odštete za javnu štetu u visini njihove nezakonite dobiti. Slučaj pokazuje da jednostavna provjera lica, posebno ona koja se oslanja na osnovne pokrete, može imati ozbiljne rupe u sigurnosti.