Google napravio baš nezgodnu faktografsku pogrešku u prvoj prezentaciji Barda, svoje nove AI tražilice
Problem je što AI sustavi često haluciniraju odnosno izmišljaju informacije
Google je u ponedjeljak najavio svoj AI chatbot Bard koji bi trebao postati šire dostupan u narednim tjednima. Ali bot baš nije dobro počeo, u svom prvom demu napravio je faktografsku pogrešku, piše The Verge.
Gif koji je podijelio Google prikazuje Barda kako odgovara na pitanje “O kojim novim otkrićima teleskopa James Webb mogu reći svome devetogodišnjaku?”. Bard nudi tri točke, a jedna kaže da je teleskop snimio prve slike planeta izvan našeg solarnog sustava.
Na Twitteru su reagirali brojni astronomi da je podatak netočan i da je prva slika egzoplaneta snimljena 2004.godine, 14 godina prije lansiranja teleskopa James Webb, kako piše na NASA-inoj web stranici.
Stručnjak: ‘AI chatbotovi su generatori sranja’
Astrofizičar Grant Tremblay upozorio je na pogrešku i dodaje: “Sviđa mi se i cijenim što jedna od najmoćnijih kompanija na planetu koristi Webb teleskop za reklamiranje. Ali ChatGPT, iako jezivo impresivan, često je vrlo samouvjereno u krivu. Bit će zanimljivo vidjeti budućnost u kojoj sam provjerava pogreške.”
Veliki problem za AI chatbotove kao ChatGPT i Bard je njihova sklonost samouvjerenom iskazivanju netočnih informacija. Sustavi često haluciniraju odnosno izmišljaju informacije.
Umjesto traženja baze dokazanih činjenica kako bi odgovorili na pitanja, obučeni su na ogromnim korpusima teksta i analiziraju obrasce kako bi odredili koja riječ slijedi u nekoj rečenici. Drugim riječima, pristup je probabilistički, a ne deterministički, osobina koja je navela jednog istaknutog profesora umjetne inteligencije da ih označi kao “generatore sranja”, piše The Verge.
Započinju rigorozni program Trusted Tester
Internet je već prepun lažnih i obmanjujućih informacija, a problem se pogoršava željom Microsofta i Googlea da koriste ove alate kao tražilice. Tamo odgovori chatbota preuzimaju autoritet potencijalnog sveznajućeg stroja.
Microsoft je, predstavljajući Bing tražilicu, pokretanu umjetnom inteligencijom, pokušao izbjeći ove probleme prebacujući odgovornost na korisnika. U odricanju od odgovornosti, Microsoft kaže da Bing pokreće umjetna inteligencija pa su iznenađenja i pogreške mogući. Uz to napominju da se obavezno provjere činjenice i podijele povratne informacije kako bi se tražilica poboljšala.
Glasnogovornik Googlea rekao je za The Verge da ovo naglašava važnost rigoroznog procesa testiranja koji tvrtka počinje ovog tjedna programom Trusted Tester. “Kombinirat ćemo vanjske povratne informacije s vlastitim internim testiranjem kako bismo bili sigurni da Bardovi odgovori zadovoljavaju visoku kvalitetu, sigurnost i utemeljenost na informacijama iz stvarnog svijeta.”