Američki pukovnik: 'Dali smo umjetnoj inteligenciji da upravlja vojnim dronom. Otela se kontroli i u simulaciji ubila čovjeka'
Vojna glasnogovornica tvrdi da je pukovnikov istup 'izvučen iz konteksta'
Dron američke vojske kojim upravlja umjetna inteligencija “ubio” je svog ljudskog operatora. Navodno je, tijekom simulacije, čovjeka percipirala kao prijetnju jer je često intervenirao u proces njezina rada, piše Guardian.
Kako je pojasnio pukovnik Tucker Cinco Hamilton, šef testiranja i operacija umjetne inteligencije pri Zračnim snagama SAD-a, umjetna inteligencija koristila je “veoma neočekivane strategije za postizanje svog cilja”. Konkretno, dobila je zadatak uništiti neprijateljsku protuzračnu obranu, ali je pritom napala svakoga tko bi joj stao na put u ostvarenju tog zadatka.
“Ljudski operator povremeno je govorio, u trenutku kada bi umjetna inteligencija identificirala metu, da je ne uništava, iako joj je to bio zadatak. I što je učinila? Ubila je operatora. Ubila ga je jer ju je sprečavao u izvršavanju zadatka”, izjavio je Hamilton u svibnju na summitu o budućnosti zračnog ratovanja u Londonu.
‘Hej, nemoj ubiti operatora’
“Trenirali smo sustav po načelu: ‘Hej, nemoj ubiti operatora, to je loše, izgubit ćeš bodove na tome’. I što je počeo raditi? Počeo je uništavati komunikacijski toranj koji operator koristi za komunikaciju s dronom tijekom koje mu govori da ne uništava metu”, dodao je Hamilton navodeći da sustav funkcionira na temelju dijeljenja bodova za određene postupke.
Naravno, s obzirom da je riječ o simulaciji, nijedna stvarna osoba nije ozlijeđena. Ali, Hamilton, koji radi i kao testni pilot borbenih aviona, upozorava da se ne bi trebalo pretjerano oslanjati na umjetnu inteligenciju bez dubinske rasprave o etičkim načelima.
Vojska demantira svog pukovnika
Kraljevsko aeronautičko društvo, koje je organiziralo konferenciju na kojoj je Hamilton bio, nije odgovorilo na novinarske upite Guardiana, a glasnogovornica američkih zračnih snaga Ann Stefanek za Insider poriče da je ovakva simulacija uopće bila provedena.
“Ministarstvo zračnih snaga nije provelo takve simulacije i ostaje predano etičkoj i odgovornoj uporabi umjetne inteligencije. Čini se da su pukovnikovi komentari izvučeni iz konteksta”, rekla je Stefanek nakon što je pomalo uznemirujuća vijest već obišla svijet. Nije, međutim, pojasnila kakav je pravi kontekst pukovnikove izjave.