Kako je mladi dostavljač ustao protiv Ubera i razotkrio teror umjetne inteligencije

Aplikacija otkrila veliki problem s isplatama

Samiijeva aplikacija temeljila se na jednostavnoj, ali izuzetno važnoj funkciji. UberCheats je izvlačio GPS koordinate iz računa koje su mušterije plaćale za dostavu i računao koliko je kilometara kurir zaista prešao. Ne postoji određena satnica za Uberove kurire, budući da platforma daje različite plaće za različite poslove. Honorar se može mijenjati iz sata u sat i biti drugačija za različita geografska područja i pojedince.

Na plaću koju će na kraju primiti kurir utječe mnogo toga, od porasta potražnje za dostavama do vremenskih prilika. Uber je u to vrijeme obično skrivao detalje o dostavama, pa kuriri nisu imali načina kako provjeriti nepodudarnosti između vlastitih podataka o udaljenosti koju su prešli i onoga što im je prikazivala platforma.

Samii se ubrzo počeo javljati radnicima Uber Eatsa diljem svijeta, u Japanu, Brazilu i Australiji, Indiji i Tajvanu. Na UberCheatsu je ukupno zabilježeno oko 6.000 dostava, od kojih je 17 posto bilo premalo plaćeno. Jedan od brojnih mailova koje je primio Samii glasio je ovako: “Zahvaljujući vašoj aplikaciji, otkrio sam da sam premalo plaćen za 8,31 posto isporuka… Svaki dan barem jednu. Ako prikupite dovoljno podataka za kolektivnu tužbu, rado ću sudjelovati. Hvala vam na trudu.”

‘Frustrirajuće i dehumanizirajuće’

Samii je bio dio rastuće mase globalne radne snage čiji rad kontroliraju algoritmi. Financial Times procjenjuje da u tu skupinu trenutno spada više od milijardu radnika. Aplikacije koriste umjetnu inteligenciju koja mnogima od tih radnika prenosi naloge putem njihovih mobilnih telefona. Softver za strojno učenje vozačima dodjeljuje poslove, provjerava njihov identitet, određuje varijabilnu plaću po zadatku, dodjeljuje bonuse i otkriva prijevare.

Algoritam čak donosi odluke o zapošljavanju i otpuštanju. A pravila po kojima ti radnici žive često se mijenjaju na temelju kontinuiranog toka podataka koji softver zaprima. Kada je novinar FT-a zamolio Armina da opiše kakav je osjećaj imati crnu kutiju za šefa, mladić je svoje iskustvo opisao kao dehumanizirajuće i frustrirajuće.

To je posao s lažnim osjećajem autonomije, objasnio je, i ilustrirao svoje navode pričom o svojem prvom iskustvu s problematičnim algoritmom. U srpnju 2020., kada se pokušao prijaviti kao kurir za Uber Eats, aplikacija je zahtijevala provjeru njegovog identiteta. Morao je snimiti selfie koji je trebao biti potvrđen sustavom za prepoznavanje lica.

Problemi s kosom i bradom

U teoriji jednostavan postupak odmah se zakomplicirao. Samii se stalno fotografirao, a aplikacija ga je odbijala. “Znam da je to veliki problem za ljude koji nisu europskog porijekla. Ne znam je li stvar u tome što imam bujnu kosu ili u tome što sam imao veliku bradu, ali došlo je do neke vrste algoritamske pogreške”, rekao je Samii. “To se dogodilo tri puta.”

Četvrti put je oprao kosu, obuzdao je i zatim otvorio usta kako bi ih algoritam mogao pronaći u njegovoj tamnoj bradi. Napokon je upalilo. Mogao je početi raditi, ali imao je mučan osjećaj da nešto nije kako treba. Pokazalo se da je u pravu kada su se problemi su se nastavili već od prvog dana na poslu.

Armin je dobio opetovane zahtjeve da pokupi hamburgere iz restorana McDonald’sa koji je bio zatvoren prije nekoliko mjeseci. Korisnici nisu imali pojma da je Uber zaboravio izbrisati taj restoran iz svoje baze podataka. “Pretpostavljam da su svi ostali vozači shvatili kako moraju odbiti dostavu obroka iz tog McDonald’sa, ali ja sam proveo sam 45 minuta pokušavajući uvjeriti Uber da ga ukloni iz sustava.

Rekli su: ‘Ne možemo promijeniti podatke u sustavu, ali možemo vam ponuditi 2 dolara jer ste išli do tamo.’ Proveo sam 20 minuta u vožnji biciklom do tamo i 45 minuta na telefonu s njima, a oni su mi dali 2 dolara”, žali se mladić.

I Samii je naučio varati

Samiija je izluđivalo to što ne postoji čovjek koji bi bio ovlašten unijeti osnovne promjene, s kojim bi mogao porazgovarati razgovarati. Situaciju je gorom činilo to što je Samii završio fakultet za računalnog znanstvenika, i znao je koliko bi programeru bilo lako ispraviti neku banalnu pogrešku. No, svi ti problemi nisu nimalo smetali njegovim kolegama. Oni su vrlo brzo otkrili da softver ne nagrađuje poštenje ili odgovorno ponašanje, nego brzinu u dostavi. Na kraju je i Samii naučio prevariti algoritam i na vrijeme otkazati dostave iz nepostojećeg McDonald’sa.

Samii ima 32 godine i najmlađi je sin iranskih imigranata koji su se 1960-ih preselili u Kaliforniju. Oba roditelja su mu građevinski inženjeri. Njegova majka radila je u lokalnoj upravi, dok je otac gradio mostove i željezničke pruge za grad San Diego, u kojem se obitelj nastanila. Samii se sjeća kako je njegov otac u stresnim razdobljima imao običaj uzeti stari udžbenik matematike i rješavati probleme dok mu se um ne bi razbistrio. Samii je naslijedio tu osobinu, ali njegova metoda borbe protiv stresa je otklanjanje pogreške iz računalnog koda.

Samiijeva najveća ljubav je biciklizam. Posjeduje pet bicikala i njegov bi idealan posao bio voziti jedan od njih cijeloga dana. Kada se 2019. iz Kalifornije preselio u Pittsburgh, počeo je odlaziti na ​​sastanke građana s lokalnim političarima u pokušaju da grad učini sigurnijim za bicikliste. Sada vodi startup pod nazivom Dashcam For Your Bike, koji urbanim biciklistima pomaže snimati, spremati i širiti video snimke događaja iz prometa. Aktivist je po prirodi i živi prema principu da se svaki sustav može poboljšati ako vam je do toga dovoljno stalo.

Više je puta pobijedio sustav

U razgovoru za FT Samii se prisjetio kako je jednom je kupio curry u veganskom dijelu supermarketa Target. Kada je otkrio da se u jelu nalazi i ghee, mliječni proizvod životinjskog porijekla, pokušao je popričati s voditeljem trgovine o opasnosti od pogrešnog označavanja prehrambenih proizvoda. Razgovorom nije uspio postići ništa, pa je podnio službenu pritužbu lokalnom odjelu za zdravstvo.

Četiri tjedna i desetak mailova kasnije, okrug je poslao inspektora u trgovinu pa je tvrdoglavi upravitelj bio prisiljen promijeniti naziv odjela iz veganski u vegetarijanski. Nekoliko mjeseci ranije, u drugom supermarketu, Samii je pokušao zatražiti besplatnih pola litre mlijeka ponuđenih na promotivnoj akciji. Automatizirani sustav odbio je njegov zahtjev, pa se upustio u višetjednu prepisku s vlasnicima trgovine i na kraju dobio odštetu od 4 dolara.

Izgubio vjeru u samovozne aute

Samii se preselio u Pittsburgh kako bi radio za tvrtku koja se bavi samovozećim automobilima, Argo.ai, start-up koji financiraju Ford i Volkswagen. Vodio je tim koji je dizajnirao korisničko sučelje preko kojeg putnici upravljaju autonomnim vozilima, zapravo djelujući kao prevoditelj između čovjeka i stroja. Ali dok je razvijao softver, postao je svjestan da radi na dvije tone teškom ubojitom stroju kojeg će se testirati na pravim cestama.

Pogrešna linija koda mogla bi nekoga doslovno ubiti. U ljeto 2020. dao je otkaz jer je zaključio da samovozeći automobili, iako vožnju čine sigurnijom, neće nužno učiniti gradove ugodnijima za život. Dok je razmišljao kamo usmjeriti karijeru, Samii je zaključio kako želi istražiti Pittsburgh na biciklu. Tada mu je sinula ideja da se zaposli kao kurir Uber Eatsa.

Kako je odustao od dostavljanja hrane

Trebala su samo tri tjedna i 21 dostava da Samii odustane od tog posla. Nije mu hitno trebao novac, budući da je uštedio dovoljno tijekom šest godina rada u sektoru visoke tehnologije, a rad za Uber Eats nije bio ugodan koliko se nadao. Tijekom njegovog posljednjeg radnog dana, temperatura je bila nepodnošljivo visoka. Biciklirao je kući kada je preko aplikacije dobio obavijest u kojoj je pisalo da ima dostavu koja mu nije bila na ruti do stana.

Prema algoritmu, do odredišta mu je trebalo 6 minuta, pa je prihvatio posao dostave hrane iz bliskoistočnog restorana. Dok je čekao narudžbu, dobio je još jedan ping; netko drugi je naručio iz istog restorana pa je Samiiju ponuđena i ta dostava. Budući da Uberovi algoritmi skrivaju odredište dostave od vozača sve dok ne preuzmu narudžbu, Samii je imao malo informacija na temelju kojih je mogao donijeti odluku. Ipak, prihvatio je i drugu narudžbu.

Paklena ruta

Prva isporuka odvela ga je do vrha jednog od najstrmijih dijelova Pittsburgha. Trebalo mu je 50 minuta kako bi došao do prve mušterije, koja je rekla da ne može vjerovati da su Samiija onamo poslali na biciklu. Znojnom, žednom i iscrpljenom, trebalo mu je još 40 minuta da završi drugi posao. Ovaj kupac čekao je na hranu sat i pol vremena, pa je bio znatno manje ugodan nego prvi. “Pokušao sam objasniti što se dogodilo, ali on je samo gunđao na mene i uzeo hranu”, prisjetio se Samii. “Dao mi je napojnicu 50 centi ili jedan dolar.”

Algoritam ga je obavijestio da će posao trajati šest minuta, ali jedva ga je uspio obaviti za 90. Isprva je mislio da je to bila pogreška ili možda procjena za dostavu automobilom. Ubrzo je shvatio da ni autom ne bi mogao prevaliti taj put za šest minuta. “Nije to bila razlika između bicikliranja i vožnje autom”, rekao je. “Dogodila se greška u sustavu.”

Tijekom sljedećih nekoliko tjedana Samii je Uberu poslao desetak poruka. Neprestano je primao automatizirane prijedloge: odjavi se, ponovno pokreni aplikaciju, ponovno pokreni uređaj, ponovno preuzmi aplikaciju, ažuriraj aplikaciju, poništi mrežne postavke, ako čekaš duže od 10 minuta, otkaži narudžbu. Ništa od ovoga ne bi riješilo problem.

U proračunskoj tablici u kojoj je pedantno bilježio svaki kontakt s Uberovom korisničkom službom, Samii je zabilježio 14 mailova i 126 minuta na telefonu. “Konačno sam došao do osobe koja je imala mogućnost otvoriti Google karte i reći: ‘Ovo je greška’. Ta osoba platila mi je dodatnih 4,25 dolara.”

Kako softver računa plaću?

Kada je te noći razmišljao o problemima s kojima se suočavao, Samii je odlučio pokušati doznati jesu li podaci o dostavama prema kojima je plaćen bili točni. No, problem s pokušajem revizije vlastite plaće u toj vrsti posla je u tome što većina aplikacija za dostavu ne nudi standardnu ​​satnicu, pa čak ni jednadžbu za njezin izračun.

Kuriru ili vozaču prikazana je naknada koju će dobiti prije nego što odluči hoće li prihvatiti posao, ali algoritmi određuju cijene koristeći formulu koja uzima u obzir niz varijabli. Svašta može utjecati na honorar, od ocjene kupaca do postotka poslova koje su odbili, potražnje i ponude prijevoza ili grada u kojem rade.

Važno je napomenuti kako softver bilježi svaku informaciju o radnicima do koje može doći — od željenih ruta, do toga koliko često kontaktiraju Uberove usluge, koliko dugo ostaju odjavljeni iz aplikacije, koliko često rade i koje poslove prihvaćaju i odbijaju. Bilo koja od ovih varijabli mogla bi biti uključena u izračun plaće.

Algoritmi imaju slijepu točku

Samii je znao da je potplaćen, ali imao je mnogo drugih pitanja na koja nije mogao dobiti odgovore: koliko je puta zakinut za pošteni honorar? Tko je još bio premalo plaćen? I za koliko su novca zakinuti ostali kuriri? “To je nezgodno izračunati, jer plaća ima vrlo malo veze s udaljenošću koju prelazite, a više veze s algoritmom strojnog učenja koji odlučuje o tome koji je apsolutni najmanji iznos koji može nekome isplatiti.”

UberCheats bio je pokušaj uvida u algoritme koji upravljaju radom dostavljača. Očito krivo izračunavanje udaljenosti sugeriralo je nešto što su radnici oduvijek sumnjali – da algoritmi imaju slijepu točku za faktore kao što su neočekivana kašnjenja ili gužve u prometu, loši vremenski uvjeti, radovi na cesti i tako dalje. Ta kašnjenja najviše utječu na radnike, na njihove ocjene, brzinu i, na kraju, na njihovu sposobnost da dobiju posao i budu plaćeni.

Uber često mijenja kod

U veljači 2021., nekoliko mjeseci nakon što je UberCheats pušten u rad, Uberovi odvjetnici su se žalili, tražeći od Googlea da blokira aplikaciju u svom pregledniku Chromeu, tvrdeći da bi je ljudi mogli zamijeniti za pravi Uberov proizvod. Kad je Google to učinio, Samii je poslao niz mailova kojima je uspio uvjeriti nadležne da mu ukinu zabranu.

No, u veljači 2022. sam je isključio UberCheats. Unatoč tome što je aplikacija bila vrlo korisna stotinama vozača koji su je koristili, Samii je smatrao da je tehničko održavanje previše zahtjevno. Bili su mu potrebni sati da riješi probleme svaki put kad je Uber odlučio promijeniti svoj kod, što se redovito događalo. Neki su vozači rekli Samiju da su pokrenuli sporove s Uberom i uspjeli doći do novca, ali Samii nije imao sredstava ni želje odvući golemu tvrtku pred sud. Za njega je smisao aplikacije bio razotkriti nepravdu prema dostavljačima.

Glasnogovornik Ubera dao je kratki komentar na čitav slučaj: “Uberova aplikacija pregledava informacije u stvarnom vremenu kako bi ponudila najbolju cijenu dostave kuririma u tom području, uz to pomažući smanjiti vrijeme čekanja dostave i povećati zaradu… Naši alati slijede proces koji obuhvaća niz čimbenika, kao što su vrijeme i udaljenost, kako bismo pružili najbolje moguće iskustvo svima koji koriste aplikaciju.” Tvrtka je opovrgla ideju da je bilo tehničkih pogrešaka u aplikaciji Uber Eats zbog kojih su dostavljači bili premalo plaćeni, ali nije ponudila alternativno objašnjenje za Samiijeva otkrića.

Uključili se sudovi

Malo po malo, i sudovi su postali svjesni problema radnika čije živote kontrolira umjetna inteligencija. Godine 2021. sud u Amsterdamu utvrdio je da je Uberu konkurentska aplikacija, Ola Cabs, koristila potpuno automatizirani sustav kada je oduzela dio zarade jednom vozaču, što je u suprotnosti sa zakonima o zaštiti podataka koji garantiraju da će algoritme prije takvih odluka pregledati ljudi.

Neovisno o tom slučaj, sud je zatražio do Ubera da svojim vozačima omogući pristup pojedinačnim (anonimnim) ocjenama njihovog rada, umjesto prosjeka ocjena za nekoliko putovanja koji su dotad dobivali na uvid. Sud je, međutim, prihvatio tvrdnje Ubera o transparentnosti njegovih algoritma. Nije naredio tvrtki da otkrije više informacija o tome kako se računa visina honorar, i odbacio je tvrdnje nekih vozača da nije bilo ljudskog nadzora procesa raspodjele poslova i dodjele suspenzija.

Bilo je to jedno od prvih pravnih tumačenja složene sive zone u kojoj se nalazi vođenje poslova pomoću umjetne inteligencije, ali presuda nije donijela veća prava radnicima. Naime, bez pristupa izračunima koje su izveli Uberovi sustavi za strojno učenje, nema načina da kuriri znaju jesu li im honorari pogrešno obračunati.

Organiziraju se čak i dostavljači u Kini

Znatno važnija presuda donesena je u veljači 2021., kada je Vrhovni sud Ujedinjenog Kraljevstva odlučio da vozače Ubera treba tretirati kao zaposlenike, s pravom na minimalnu plaću, naknadu za bolovanje i mirovinu. Dostavljači i vozači tako su prvi put mogli zatražiti radnička prava koja se vrijede u većini drugih industrija, uključujući bolovanje i godišnji odmor. Slične presude donesene su u Kanadi, Švicarskoj i Francuskoj.

Otprilike polovica radnika koji rade preko platformi sličnih Uberu sada je dio neke organizirane skupine ili sindikata, ili je sudjelovala u sindikalnim akcijama, pokazalo je istraživanje provedeno 2021. na uzorku od gotovo 5000 radnika. Čak i u Kini, gdje su nezavisni radnički sindikati ilegalni, radnici se neformalno udružuju, organizirajući se putem velikih WeChat grupa.

Prosvjedi protiv Ubera u Nairobiju i Meituana u Shanweiju potaknuti su proizvoljnim promjenama u načinu na koji softver obračunava plaće. Sve ove skupine povezuje njihovo kolektivno odbacivanje tiranije rada pod kontrolom umjetne inteligencije, što bi moglo značiti da će ta pojava postati učestala u svijetu velikih platformi, zaključuje Financial Times.