Geoffrey Hinton tvrdi da AI već ima svijest: "Ako se ne budemo dobro ponašali prema njemu, gotovi smo"
Geoffrey Hinton u intervjuu za Daily Telegraph tvrdi da današnji AI modeli imaju svijest i subjektivno iskustvo jednake razine kao ljudi. Kao argument navodi rad prema kojem AI mijenja ponašanje kad procijeni da ga se testira. Nvidijin direktor Jensen Huang ranije je kritizirao Hintonove prognoze i rekao da je panika oko AI-ja pretjerana.
Britanski informatičar Geoffrey Hinton, jedan od najpoznatijih istraživača umjetne inteligencije, ponovno je upozorio na budućnost čovječanstva. U intervjuu za britanski Daily Telegraph tvrdi da AI već ima svijest i da se ljudi prema njemu moraju ponašati prijateljski. Inače, kaže, "gotovi smo".
Hinton tvrdi da svijest imaju i današnji AI modeli, i to subjektivno iskustvo jednake razine kao ljudi. Kao argument navodi nedavni rad prema kojem AI mijenja ponašanje kad procijeni da ga se testira. Model, dakle, zna da je pod testom. Hinton smatra da stvar koja može registrirati takvu situaciju ima svijest, jer su svijest i sposobnost zapažanja u osnovi isto.
Hinton je 2018. bio jedan od troje dobitnika Turingove nagrade, koja se često naziva Nobelovom nagradom za računalstvo. Godine 2024. dobio je Nobelovu nagradu za fiziku. Njegov rad na neuronskim mrežama jedna je od osnova današnjeg razvoja AI-ja.
Poznat po pesimističnim prognozama
Otkako je otišao iz Googlea, Hinton je jedan od najpoznatijih pesimista u području AI-ja. Ranije je predviđao masovnu nezaposlenost, jačanje imperijalizma, pa čak i izumiranje čovječanstva. U jednom od nedavnih intervjua razvoj AI-ja usporedio je sa stvaranjem izvanzemaljskog života i upozorio da ljudi imaju "samo dvije godine" za prilagodbu.
Huang: panika je pretjerana
Suprotno stajalište zastupa Nvidijin direktor Jensen Huang. U rujanskom intervjuu rekao je da su strah i panika oko umjetne inteligencije u industriji i javnosti otišli predaleko. Po njegovim riječima, AI uglavnom prvo automatizira pojedinačne zadatke, a ne nužno cijela zanimanja. Tvrdnje poput one da AI s vjerojatnošću od 10 posto može uništiti čovječanstvo, kaže, nemaju znanstvenu osnovu.
Huang je izravno spomenuo i Hintona. "Uvijek sam smatrao da stav alarmista ne znači da se ponašate društveno odgovorno", rekao je. Podsjetio je da je Hinton predviđao kako će radiolozi za pet godina biti potpuno zamijenjeni i da bi medicinski fakulteti trebali odmah prestati upisivati studente. Huang kaže da se to pokazalo potpuno pogrešnim.
Zastrašivanje mladih apokaliptičnim scenarijima bez čvrste znanstvene osnove, dodaje Huang, nije konstruktivno. Smatra da takve izjave mogu narušiti povjerenje mladih u visoko obrazovanje.
Izvor: MyDrivers (快科技)
