Google i Microsoft temelje nove tražilice na umjetnoj inteligenciji. Što kad ta tehnologija počne suludo griješiti?
Zbog Googleovog neslavnog odgovora na ChatGPT, tržišna kapitalizacija tvrtke pala je za nevjerojatnih 100 milijardi dolara
Prošlog tjedna, Satya Nadella, izvršni direktor Microsofta, radosno je objavio svijetu da će nova tražilica Bing, generirana umjetnom inteligencijom, “natjerati Google da pleše”, dovodeći u pitanje Googleovu dugogodišnju dominaciju u web pretraživanju. Novi Bing koristi ChatGPT koji predstavlja značajan skok u sposobnosti kompjutera da barataju jezikom. Zahvaljujući napretku u strojnom učenju, u biti je chatbot sam shvatio kako odgovoriti na razna pitanja gutajući trilijune redaka teksta, većinom prikupljenih s weba, piše WIRED.
Google je dan prije objavio pokretanje Barda, svog odgovora na ChatGPT, obećavajući da će koristiti tehnologiju u vlastitim rezultatima pretraživanja. Baidu, najveća kineska tražilica, objavila je da radi na sličnoj tehnologiji.
Neki rezultati su impresivni, drugi malo manje
U demonstracijama koje je Microsoft izveo prošlog tjedna, Bing se činio sposobnim koristiti ChatGPT za pružanje složenih i sveobuhvatnih odgovora na upite. Osmislio je itinerer za putovanje u Mexico City, generirao financijske sažetke, ponudio preporuke proizvoda od prikupljenih informacija iz brojnih recenzija i ponudio savjet o tome hoće li neki komad namještaja stati u monovolumen auto, uspoređujući dimenzije objavljene na internetu.
WIRED piše da su imali malo vremena za testiranje Binga. I dok se činilo da je vješt u odgovaranju na mnoga pitanja, bio je izrazito nestašan, pa čak i nesiguran oko vlastitog imena. Kao što je jedan oštroumni stručnjak primijetio, neki od rezultata koje je Microsoft pokazao bili su manje impresivni nego se isprva činilo.
Bing je izmislio neke informacije
Izgleda da je Bing izmislio neke informacije o planu puta koji je generirao, a izostavio detalje koje čovjek nikada ne bi izostavio. Tražilica je također pomiješala GAP-ove financijske rezultate zamijenivši bruto maržu za neprilagođenu bruto maržu, što je ozbiljna pogreška za svakoga tko se oslanja na bot da izvede ono što se može činiti jednostavnim zadatkom sažimanja brojeva.
Kako je Bing postao dostupan većem broju beta testera, ovaj tjedan pojavilo se više problema, kaže WIRED. Čini se da uključuju prepirku s korisnikom o tome koja je godina i doživljavanje egzistencijalne krize kada je umjetna intelignecija prisiljena dokazati vlastitu razumnost.
Zašto ovi tehnološki titani griješe?
Googleova tržišna kapitalizacija pala je za nevjerojatnih 100 milijardi dolara nakon što je netko primijetio pogreške u odgovorima koje je generirao Bard u demo videu tvrtke. Zašto ovi tehnološki titani griješe? To ima veze s čudnim načinom na koji ChatGPT i slični modeli umjetne inteligencije suštinski funkcioniraju, kao i s pompom koja je oko njih nastala.
Ono što je zbunjujuće i pogrešno u vezi s ChatGPT i sličnih modela jest to što su njihovi odgovori na pitanja korisnika zapravo vrlo dobro informirana nagađanja. ChatGPT generira ono za što smatra da bi trebao biti odgovor na naše pitanje na temelju statističkih prikaza znakova, riječi i odlomaka. Start up koji stoji iza chatbota, OpenAI, usavršio je taj temeljni mehanizam kako bi pružao zadovoljavajuće odgovore tako što je omogućio ljudima davanje pozitivnih povratnih ocjena svaki put model generira odgovore koji se čine točnima.
Bot može servirati neistinite informacije
ChatGPT može biti impresivan i zabavan jer taj proces može proizvesti iluziju razumijevanja, što može dobro funkcionirati u nekim slučajevima. Ali isti proces dovest će do generiranja neistinitih informacija, što je trenutno najvećih izazova pred tvorcima takve tehnologije.
Intenzivna pompa i očekivanja oko ChatGPT i sličnih botova povećavaju opasnost. Kada dobro financirane start up tvrtke kažu da su chatbotovi sljedeća velika stvar u pretrazi interneta, mnogi će rezultate shvatiti kao “sveto pismo”. Pritom ne shvaćajući da chatbotovi mogu zalutati uparivanjem uzoraka bez provjere činjenica.