Tko je Geoffrey Hinton, kum umjetne inteligencije? Osvojio je Nobela za računarstvo, upozorava na mračnu stranu nove tehnologije

Pionir umjetne inteligencije, Geoffrey Hinton, objavio je početkom tjedna da napušta honorarni posao u Google-u kako bi mogao slobodnije istupati o svojoj zabrinutosti oko tehnologije koja se brzo razvija.

Hintonov rad na neuronskim mrežama, metodi koja podučava umjetnu inteligenciju za obradu podataka na način sličan ljudskome mozgu, podržava način na koji funkcioniraju moderni chatbotovi kao ChatGPT i Google Bard. Hinton kaže da sada u neku ruku žali što je sudjelovao u realizaciji tog napretka, piše The New York Times.

‘Treba se ozbiljno zabrinuti’

“Ja sam samo znanstvenik koji je odjednom shvatio da te stvari postaju pametnije od nas”, kazao je Hinton CNN-u. “Želim reći da bi trebali biti ozbiljno zabrinuti kako spriječiti da preuzmu kontrolu nad nama.”

Hinton radi na neuronskim mrežama još od sedamdesetih godina, nakon postdiplomskog studija na Sveučilištu u Edinburghu. Times piše da je tada tek nekoliko znanstvenika vjerovalo u tu ideju, sumnjao je čak i Hintonov doktorski mentor, pa su susreti jednom tjedno ponekad završavali svađom.

Kum umjetne inteligencije

Hinton je ustrajao u svome poslu. U osamdesetima su on i kolege su predložili tehniku backpropagation koja je algoritam za treniranje strojeva, piše MIT Technology Review. A 2012.godine Hinton i njegova dva učenika stvorili su neuronsku mrežu koja je mogla analizirati fotografije i sama identificirati objekte.

Slijedeće godine, Google je kupio start-up neuronske mreže tima, u kojem je Hinton nastavio raditi. On i još dvojica pionira umjetne inteligencije osvojili su Turingovu nagradu, koja se smatra Nobelovom nagradom za računarstvo, 2018. godine. Hinton je nakon toga postao poznat kao “kum umjetne inteligencije”.

Opasnosti umjetne inteligencije

U tvitu nakon odlaska, Hinton objašnjava da nije napustio Google kako bi ga kritizirao, nego da želi govoriti o opasnostima umjetne inteligencije, a da se to ne odrazi na tvrtku za koju kaže da se odgovorno ponaša sa tehnologijom.

Hinton je godinama vjerovao da su neuralne mreže inferiornije u odnosu na način funkcioniranja ljudskog mozga, ali, kaže za Times, da odnedavno misli drugačije, nakon što je vidio kako se umjetna inteligencija munjevito razvila tijekom posljednjih pet godina. Jednom je predviđao da će tehnologiji trebati do 50 godina da nadmudri ljude, a sada misli da će se to dogoditi za samo 5 do 10 godina.

Utjecaj na javno mnijenje

“Mislim da su sada vrlo blizu tome da će u budućnosti biti puno inteligentnije od nas”, kaže za MIT Technology Review. Hinton brine da će internet uskoro biti preplavljen lažnim tekstovima, slikama i videima koje ljudi neće moći razlikovati od stvarnosti. A pojedinci bi mogli ovu tehnologiju koristiti da utječu na javno mnijenje oko ratova i izbora. Smatra da bi umjetna inteligencija mogla zaobići svoja ograničenja i početi manipulirati ljudima da rade ono što inteligencija želi, kaže Hinton za CNN.

Kad ga je CBS News u ožujku upitao može li tehnologija izbrisati čovječanstvo, kazao je da to nije nezamislivo. Otprilike tada je 1400 tehnoloških čelnika, uključujući Muska, potpisalo otvoreno pismo tvrtkama da pauziraju rad na umjetnoj inteligenciji na najmanje šest mjeseci, navodeći duboke rizike za društvo i čovječanstvo. U pismu je navedeno da bi AI programeri trebali surađivati sa kreatorima politike kako bi nadzirali korištenje tehnologije.

‘Trenutačno nemam rješenje’

Yann LeCun, šef Meta-ine umjetne inteligencije koji je sa Hintonom dobio Turingovu nagradu, potpisnik je pisma, ali ne dijeli Hintonove mračne procjene. “Vjerujem da će inteligentni strojevi pokrenuti novu renesansu za čovječanstvo”, kaže LeCun za MIT Technology Review. “Ne slažem se da će strojevi dominirati ljudima samo zato jer su pametniji, a kamoli da će uništiti ljude.”

Unatoč zabrinutosti, Hinton kaže za CNN da nije potpisao pismo jer ne vjeruje da bi Amerika trebala zaustaviti napredak umjetne inteligencije, u slučaju da druge nacije, poput Kine, s njim nastave. “Trenutačno nemam rješenje. Trebamo uložiti velik napor u razmišljanje o načinu rješavanja problema”, kaže Hinton za Times.