Sam Altman je predložio tri modela nadzora nad AI-jem, uključujući međunarodni organ po uzoru na IAEA

Sam Altman je prošlog tjedna zaposlenicima OpenAI-ja predstavio tri moguća pristupa globalnoj sigurnosti umjetne inteligencije. Svi su dovoljno ambiciozni da bi mogli promijeniti način na koji se AI razvija i nadzire. Prema The Informationu, OpenAI bi do kraja sljedeće godine trebao odlučiti koji će model podržati.

Prvi prijedlog je međunarodna nadzorna organizacija nalik IAEA-i u nuklearnoj industriji. Vlade i AI kompanije zajedno bi postavljale sigurnosne standarde, a napredni modeli prolazili bi neovisnu provjeru i audit prije izlaska u javnost. Altman je navodno najskloniji upravo toj opciji. Nije ni čudo: još je 2023. s dvojicom kolega supotpisao tekst u kojem se zagovarao sličan nadzorni organ za AI.

Drugi scenarij Altman je nazvao "plan Demisa", a inspiriran je idejom Demisa Hassabisa iz DeepMinda. Vodeći AI razvojni timovi osnovali bi istraživačku organizaciju pod zajedničkim upravljanjem više država, po uzoru na CERN. Tvrtke bi unutar nje dijelile rezultate istraživanja i sigurnosne procjene modela umjesto da se međusobno utrkuju. Problem je što bi takav sustav zahtijevao snažan angažman vlada, pa bi ga bilo teško provesti u praksi.

Treći prijedlog zvuči najradikalnije. Tvrtka koja prva dosegne "jaki AI" mogla bi iskoristiti prednost i uskratiti konkurentima pristup GPU-ima. Tko prvi dođe do rekurzivnog samousavršavanja, mogao bi drugim igračima praktički zatvoriti vrata. Altman je taj scenarij nazvao užasnim i rekao da ga spominje samo radi potpunosti rasprave.

OpenAI, Anthropic i Google u međuvremenu već razgovaraju o zajedničkom nadzornom tijelu koje bi pratilo poštuju li se sigurnosni standardi pri razvoju naprednih AI modela. Plan je da se neovisni kontrolori postave unutar tih kompanija do kraja ove ili početka sljedeće godine, uz jedinstven standard za prijavu sigurnosnih incidenata.