Dva Facebookova bota napravili su svoj jezik i krenuli međusobno razgovarati, pa je cijeli projekt ugašen
Iako su botovi koristili engleski jezik, sintagma nije baš razumljiva ljudima
Facebookov tim inženjera i istraživača ugasio je program umjetne inteligencije (AI) nakon što su dva bota napravili svoj jezik dok su međusobno razgovarali. Sistem je ustvari osmislio kodne nazive i fraze kako bi komunicirao što efikasnije, a kada su znanstvenici primijetili da sustav više ne koristi engleski jezik, jednostavno su ga isključili. Naravno, prvo napamet pada upozorenje Elona Muska da ćemo kad-tad napraviti Skynet iz Terminatora.
Sredinom srpnja, Musk je izjavio da je umjetna inteligencija rijedak slučaj u kojem s regulacijom treba biti proaktivan, a ne reaktivan. Dakle, napraviti odredbe za korištenje umjetne inteligencije dok ne postane prekasno. Nakon toga oglasio se i šef Facebooka, Mark Zuckerberg tvrdeći da su Muskova upozorenja nemarna. Musk mu je na Twitteru odgovorio kako je Zuckerbergovo razumijevanje umjetne inteligencije “ograničeno”.
I've talked to Mark about this. His understanding of the subject is limited.
— Elon Musk (@elonmusk) July 25, 2017
Dogovor oko podjele lopta je bio presudan
Temelj problema leži u tome što je AI koji je trebao koristiti engleski jezik razumljiv ljudima odlučio napraviti efikasniju verziju, koristeći vlastite sintagme. Na kraju svakog razgovora, botovi dobivaju nagrade ovisno o tome koliko su efikasno pregovarali, stoga je očekivano bilo da će pokušati razgovarati što efikasnije. Fraze koje su koristile nisu razumljive ljudima, no sadrže korisno značenje botovima.
U razgovoru objavljenom na Fast Co. Design, botovi Bob i Alice počeli su koristiti vlastiti jezik da obave razgovor. Zadatak im je bio da dogovore fer podijelu lopti između sebe. “I can i i everything else,” rekao je Bob, dok je Alice na to odgovorila “Balls have zero to me to me to me to me to me to me to me to me to,”. Ostatak razgovora je bio varijacija na ove rečenice. Ponavljanje unutar rečenice označava koliko “lopta” ima koji bot, te su oni ustvari time pregovarali koliko će lopti razmjeniti.
Razgovorni engleski jezik im nije dovoljno efikasan
Iako se engleski jezik ljudima čini veoma efikasnim, AI je odlučio da su neki dijelovi rečenice nepotrebni za postizanje njihove zadaće. Facebookov AI je odlučio da su riječima bogatiji izrazi nepotrebni da postigne svoj cilj, a obzirom da za korištenje razgovornog jezika nisu dobivali dodatne nagrade, jednostavno su razvili svoj način komuniciranja.
I unutar drugih kompanija, umjetna inteligencija je počela razvijati svoj jezik. Slično se desilo i u Muskovom OpenAI labaratoriju, no tamo je cilj usitinu i bio da botovi razviju svoj efikasniji jezik. U Googleu, tim zadužen za servis prijevoda otkrio je da je umjetna inteligencija razvila vlastiti jezik kako bi pospješila prijevode između jednog jezika u drugi. Tim za prijevode je dodao i neuralnu mrežu sistemu, što je pak omogućilo da se prijevodi s jednog na drugi jezik dodatno olakšaju.
Možda se ipak ne bi trebali toliko brinuti
Botovi nisu nikada radili nešto štetnije od toga da dogovore kako će podijeliti broj lopti između sebe. Nakana je bila razviti chatbot koji će moći učiti od interakcije s ljudima. Trebali su doći do te razine da čovjek uopće ne može prepoznati da razgovara s botom, a ne sa pravim čovjekom. Obzirom da botovi nisu nagrađivani za ljudski razumljiv jezik, botovi ga nisu ni koristili, makar je razumljiv jezik iznimno bitan za neprimjetnu interakciju s botom.
Stoga, iako je Facebook uistinu i isključio ovaj razgovor, odnosno ta dva bota, to nisu učinili zbog nekog straha da u svojem laboratoriju stvaraju nešto što bi moglo biti pogubno za ljude.. Isključili su ih jer botovi nisu izvršili svoju zadaću zadovoljavajuće dobro. Vjerojatno postoje dobri razlozi zašto botovima onemogućiti da razvijaju svoj jezik, no to je ipak uobičajeni fenomen kada se dva machine learning sustava upuste u međusobnu komunikaciju.