By Vahid Razavi

Nadam se da ovom knjigom nisam oduzeo previše vremena kao čovek kome je čaša do pola prazna. Jer nisam taj; zapravo rekao bih da je čaša puna i više od pola. Kada ljudi zahtevaju promenu i kada je zahtevaju dovoljno uporno, ubedljivo i mirno, promena se dešava. Videli smo ovo kroz istoriju naše nacije. Pokreti za ukidanje ropstva, poboljšanje uslova rada, garantuju ženama pravo glasa, okončavaju segregaciju Jima Crowa i postižu jednakost za LGBTQ osobe, sve su to bili pokreti koje su istrajali zahvaljujući ljudima. To su bile bottom-up strukture. U današnje vreme čak se i profitne kompanije „bude“ jer razumeju da biti na istoj strani sa nepravdom može da ugrozi njihovu dobit. Pravi promer toga ne treba da tražimo dalje od odgovora korporativne Amerike na „bathroom law“ North Caroline, zakon pun predrasuda koji su izglasali republikanci i koji zabranjuje transrodnim osobama da koriste toalet koji odgovara njihovom rodnom identitetu. Javna i korporativna reakcija bila je brza i žestoka. PayPal je iscepao planove za izgradnju objekta koji bi upumpao više od 2,6 milijardi dolara u državnu ekonomiju. Velike kompanije, uključujući Deutsche Bank, Adidas i CoStar odustale su od planova da se prošire u North Carolini. NAACP je objavio bojkot, a NCAA je objavio da država neće biti domaćin nijednom šampionatu sve dok je taj zakon na snazi. I North Carolina ga je povukla – mesecima kasnije pod intenzivnim, konstantnim pritiskom koji je podrazumevao i osudu od strane NBA, grada San Francisca i tech kompanija, uključujući Apple i Google. Više od godinu dana kasnije tim Amazonovih zvaničnika, dok je obilazio državu razmatrajući mogućnosti za izgradnju svog HQ2 projekta koji je vredan 5 milijardi dolara i koji otvara 50.000 radnih mesta, preispitivao je državu o povučenom zakonu i o tome da li je ta država pravo mesto za otvaranje takvog sedišta. To nije bio ni prvi ni poslednji put da su tech kompanije ustale u odbranu LGBTQ jednakosti; Apple-ov CEO Tim Cook, CEO Salesforce-a Marc Benioff i drugi pretili su ili preduzeli akcije kao odgovor na anti-LGBTQ zakone u Alabami, Georgiji i drugde. Takav pritisak je uspešno predupredio donošenje sličnih zakona u državama kao što su Arizona, Georgia i Indiana – na žalost tadašnjeg guvernera Mikea Pencea, koji je jednom rekao da bi gej brakovi doveli do „društvenog kolapsa“.

Neetička postupanja mogu imati prave i drugotrajne posledice i mogu biti katalizotor za pravu i dugotrajnu promenu. I obratno, etičko ponašanje može bogato da nagradi ako kompanije mogu da nađu način da prevaziđu kratkoročno razmišljanje i planiranje i da urade ono što je ispravno. Isto tako ne mislim da CEO-ovi biraju da urade pravu stvar samo zbog profita ili PR-a. Mnogi od njih su dobri ljudi, baš kao vi i ja, i koji iskreno traže način kako da ovaj svet učine boljim mestom za život i koji vrednuju mir, pravdu i jednakost. Ponekad ovi ljudi mogu osećati da nemaju drugog izbora nego da pođu manje etičnom stazom. Na kraju krajeva, postoji samo jedan imperativ za korporacije, a to je da povrate maksimalnu vrednost svojim deoničarima. Ali kada menadžeri odluče – na svoju ruku ili pod pritiskom svojih zaposlenih, deoničara ili drugih zainteresovanih strana – da urade ono što je ispravno, bukvalno ceo svet se ispravi i obrati pažnju. Videli smo to kad je Jeff Bezos najavio da će Amazon plaćati svoje radnike minimalnih 15 dolara po satu (iako će ovaj porast verovatno biti na uštrb benefita Amazonaca koji su više na korporativnoj lestvici). Videli smo to kada je Tim Cook odbio da sarađuje sa FBI i otključa iPhone koji je koristio Syed Farook, jedan od dvojice terorista koji su ubili 14 ljudi i ranili više od 20 drugih u masovnoj pucnjavi 2. decembra 2015. u San Bernardinu, California. U tom slučaju, EFF, kojem su se pridružili Amazon, Microsoft, Google i Facebook, i podneli amicus curiae kao podršku Apple-ovoj nekooperativnosti u tom slučaju. Videli smo to još jednom kad je CEO Salesforce-a Marc Benioff iznenadio građane San Francisca kada je podržao Proposition C predlog za gradske izbore, kojim se predlažu mere za rešavanje krize beskućnika koji se potpuno oteo kontroli, naplatom 0,5 procenata poreza na bruto prihod kompanijama koje ostvaruju više od 50 miliona dolara prihoda godišnje. Benioff je takođe obećao da će donirati milion dolara – pola od toga svog ličnog novca, pola kroz Salesforce – da bi podržao Prop C. „Beskućništvo je naša odgovornost“, objasnio je Benioff, dodajući na Twitter-u da „kao najveći poslodavac u San Franciscu, shvatamo da smo deo rešenja“. CEO Salesforce-a je išao čak dotle da je optužio druge tech milijardere da „tovare“ svoje bogatstvo, a čini se da je ciljao na CEO-a Twitter-a Jacka Dorseya više nego na bilo koga drugog. „On prosto ne želi da da, i to je sve, i nije dao ništa značajno ovom gradu“, tvitnuo je Benioff. Aplaudiram Benioffu što je svoj novac uložio tamo gde je i obećao – ako prođe, Prop C će negovu kompaniju stajati milione dolara. Ono što je još važnije u vezi sa stavom Benioffa jeste da je u suprotnosti sa navodno progresivnim gradonačenikom, Londonom Breedom, koji se protivi uvođenju Prop C.

Često su upravo tech radnici ti koji podstaknu iskru pozitivne promene. Maja 2018. Google je trebalo da obnovi ugovor sa Pentagonom za projekat pod nazivom Maven, koji je koristio kompanijinu tehnologiju da poboljša efikasnost i ubistvenost vojnih napada bespilotnim dronom. Ali hiljade zaposlenih u Google-u, uključujući i senior inženjere, protestovali su protiv planiranog učešća kompanije u tom projektu. Dvanaest zaposlenih dalo je otkaz tokom protesta. Ostali su izrazili ozbiljnu zabrinutost zbog toga što se Google-ova tehnologija koristi u ratne svrhe. U pismu koje je potpisalo preko 4.000 zaposlenih u Google-u stoji:

Verujemo da Google ne bi trebalo da bude u ratnom biznisu. Zbog toga tražimo da se Projekat Maven otkaže i da Google napravi, objavi i podstakne jasnu politiku prema kojoj ni Google niti njegovi podizvođači nikada neće raditi na ratnoj tehnologiji… Ovakav plan bi nepopravljivo naštetio Google brendu i njegovoj sposobnosti da se nadmeće za talente. Među rastućim strahovima od zastranjene i naoružane AI, Google se već bori da zadrži poverenje javnosti. Učešćem u ovom ugovoru, Google će se pridružiti kompanijama kao što su Palantir, Raytheon i General Dynamics. Argument da u tome već učestvuju Amazon i Microsoft ne čini ovu stvar ništa manje rizičnom za Google.

Google-ova jedinstvena istorija, njegov moto: Nemoj biti zao (Don’t Be Evil) i njegov direktni upliv u živote milijardi korisnika odvajaju ga od toga… Ne možemo autsorsovati moralnu obavezu za naše tehnologije trećoj strani. Google-ove vrednosti čine da je stvar jasna: Svaki naš korisnik nam veruje. Nikada ne smemo to ugroziti. Ovaj ugovor stavlja Google-ovu reputaciju u rizik i stoji u direktnoj opoziciji sa našim temeljnim vrednostima. Graditi ovu tehnologiju da bi pomogla vladi SAD-a u vojno-obaveštajnim poslovima – sa potencijano smrtonosnim ishodom – nije prihvatljivo.

Ovo protivljenje je nateralo Google da objavi da neće obnoviti ugovor za projekat Maven kada bude istekao marta 2019. CEO Google-a Sundar Pichai takođe je objavio sedam proncipa kompanije koji se odnose na AI, a o čemu smo već raspravljali na prethodnim stranicama ove knjige, a među kojima je najvažniji izbegavanje „tehnologija koje uzrokuju ili postoji verovatnoća da mogu uzrokovati sveukupno zlo“. Google je takođe bio među nekoliko kompanija koje su se nadmetale za projekat Defense Department-a pod nazivom Joint Enterprise Defense Infrastructure, ili JEDI, što je Pentagonov napor da izgradi prvi enterprise-wide cloud. JEDI je delom dizajniran da poboljša „smrtonosnost i spremnost“. Međutim, mnogi zaposleni u Google-u snažno su se usprotivili onome što je očigledno kršenje tek usvojenih principa kompanije o AI. Zbog veoma raširenih protesta zaposlenih, Google je objavio da će povući ponudu, objašnjavajući to time da „ne možemo biti sigurni da to neće biti u suprotnosti sa našim AI principima“. Na drugom kraju etičkog spektra Amazon se, u vreme dok ovo pišem, smatra najverovatnijim dobitnikom projekta JEDI. Razlog za to je, kažu kritičari koji uključuju Google, IBM i Oracle, to što Pentagon, dok se pretvara da pravi nadmetanje za ponude, zapravo namerava da unosnim ugovorom nagradi jednog već unapred poznatog vendora – Amazon Web Services. Vlada nije uradila puno na tome da razveje ovakve sumnje; kada je Defense Department upitan zašto je postavio tako visoke standarde da samo AWS može da ih zadovolji, nisu odgovorili.

Naravno, postoje granice tome koliko promene čak i veliki broj zaposlenih u tech kompanijama može da postigne. Mnogi zaposleni u Google-u bili su besni zbog odluke kompanije da u tajnosti razvija projekat Dragonfly, pretraživač koji je u saglasnosti sa autoritarnim zahtevima za cenzurom kineske vlade, i neki zaposleni su dali otkaz zbog toga. I opet, više zaposlenih u Google-u primetili su hipokriziju inherentnu Google-ovoj saradnji na cenzuri sa kineskom vladom s obzirom na moto kompanije: Nemoj biti zao. Senior scientist u Google-u Jack Poulson, koji je dao otkaz zbog Dragonfly-a, oglasio je alarm zbog poteza sa globalnim implikacijama. „Naše namere da kapituliramo pred zahtevima za cenzurom i nadzorom zarad pristupa kineskom tržištu vidim kao izdaju naših vrednosti i pozicije da pregovaramo sa vladama širom sveta“, napisao je u svom pismu ostavke. „Postoji isuviše stvarna mogućnost da će druge nacije pokušati da iskoriste naše akcije u Kini da bi zahtevale našu saradnju za njihove zahteve nadzora“. Ali čak i kad protest zaposlenih inicijalno ne postigne svoje plemenite ciljeve, konstantan pritisak je ključ za eventualni uspeh.

Tech kompanije nastavljaju da budu saučesnici u zločinima velikim i malim širom sveta, ponekad na šokantne načine. Palestinska borba za oslobođenje od pola veka ilegalne izraelske okupacije i kolonizacije sa isključivo jevrejskim stanovništvom – situacija koju su prominentni posmatrači, uključujući dobitnike Nobelove nagrade za mir Jimmyja Cartera i Desmonda Tutua, nazvali aparthejdom gorim od onog u Južnoafričkoj Republici – odmah pada na pamet. Tech kompanije iz SAD-a uključujući Hewlett-Packard obezbeđuju tehnologiju, opremu i usluge za izraelsku vojsku i vladu, koji to koriste da tlače palestinske muškarce, žene i decu. Izrael je vodeći igrač u tech svetu i izraelske tech kompanije „uživaju“ jedinstvenu poziciju po tome što mogu da testiraju svoju najnoviju tehnologiju u konfliktima u realnom vremenu protiv pravih ljudskih bića. Kada su ga pitali šta je tajna uspeha izraelskih tech kompanija, Guy Keren, CEO izaelske firme iHLS zadužene za nacionalnu bezbednost, rekao je da je to zbog toga što „testiramo naše sisteme uživo. Mi smo sve vreme u ratnoj situaciji. Ako se nešto i ne dešava baš sada, desiće se za mesec dana“. Aktivisti pokreta Boycott, Divestment and Sanctions (BDS) zadržavaju nadu da njihovi organizovani i uporni protesti mogu napraviti od HP-a ono što oni zovu „Polaroid naših dana“, referenca na uspešnu masovnu mobilizaciju protiv upotrebe polaroidne tehnologije korišćene u sistemu sa štednim knjižicama u Južnoafričkoj Republici, tj. u njenom bivšem rasističkom aparthejd režimu. Polaroid se povukao iz Južnoafričke Republike 1977. u trenutku koji je široko prepoznat kao tačka preokreta u globalnoj anti-aparthejd kampanji.

U najmračnijim trenucima teško je zamisliti da bi stvari ikada mogle biti bolje. Da li su se ljudi koji su živeli iza gvozdene zavese 1980-ih usuđivali da sanjaju da će do kraja te decenije biti slobodni? Moć i pritisak – i one unutar i one izvan organizacija i društava – mogu da pomere čak i najmoćnije planine ako se primene na pravi način i u pravo vreme.

I tako, dragi čitaoče, ostavljam te s porukom nade i pozivom na akciju. Konačno, većina ljudi koja radi u tech industriji – kao i većina ljudi uopšte – jesu dobri ljudi. Oni žele rasnu, rodnu, seksualnu i ekonomsku ravnopravnost. Oni se ježe od nepravde i nejednakosti u svetu. Ali oni su zauzeti. Njima je skrenuta pažnja. Oni imaju studentske kredite i zadužene kreditne kartice i ne znaju da li će za godinu dana imati isti posao koji umaju sada. Treba da stave hranu na sto i da obezbede krov nad glavom i sve dok plove nesigurnim vodama njihovih profesionalnih života. Pa ipak, i dalje su oni ti koji mogu doneti pravedniju budućnost i više etike u tech industriju. To je industrija koja je opsednuta uspehom svojih klijenata – opsesija klijentima je bukvalno prva među liderskim principima Amazona – ali retko ili nikad ne pričamo o našim crvenim linijama ili o tome na kojoj vrsti projekata nismo spremni da sarađujemo. Dešava se ponekad, kao što je bivši Google-ov naučnik Jak Poulson demonstrirao za poštovanje, ali je retko. Jednom sam otišao na intervju u veliku softversku kompaniju koja će ostati neimenovana i pitao ih: „Da li postoji nešto što ne biste uradili za klijenta?“ Gledali su me prazno. Možda kada bi više nas postavljalo pitanja kao što je ovo, možda onda ne bismo dobili prazan pogled nego bi nas dočekali spremni etički kodovi kompanije koji garantuju polise i delanja koja ne ozleđuju nikoga.

Drago mi je što sam radio u Amazonu. Ne žalim ni zbog čega. Celo iskustvo me je učinilo boljom osobom. Zbog svih postignutih rezultata Amazona ne mogu da vam reći da je Amazon „trula kompanija“ kao CSC. Ne mislim da se top mendžment Amazona budi ujutru i smišlja načine kako da zavrne svoje zaposlene. Oni kreiraju stotine hiljada radnih mesta. Oni zadovoljavaju potrebe i želje miliona svojih klijenata. Ne mrzim ih, samo se ne slažem sa nekim od njihovih poslovnih praksi i vrednosti, ili nedostatka istih. Amazon angažuje najbolje i najsjajnije radnike i prema tome zahteva izuzetnost od njih, ali kompanija takođe pati od dubokog nedostatka empatije. To je svet dron-radnika gde se zaposleni tretiraju kao građani drugog reda, kao i većina ljudi koji rade bazične poslove u tech industriji. Čuvari, recepcioneri, radnici obezbeđenja i drugi koji su ključni za to da operacije teku bez problema i profitabilno, većinom su isključeni iz amazonske kulture. Oni nisu ništa više nego zamenjivi resursi koji služe da se iskoriste i ispljunu. Loša vest je da Amazon nije lepo mesto za rad za mnoge svoje zaposlene; dobra vest je da je problem totalno popravljiv. Amazon se može iskupiti, ali je na amazoncima da ga iskupe. Isto tako je na svima nama koji imamo udeo u tech industriji da je iskupimo. Tokom godina ja sam dobijao i gubio u tech industriji. Proveo sam puno vremeno boreći se i puno vremena plačući. To me je bukvalno izludelo. Ali prošavši sve to, ono što pamtim su ljudi bez kojih neizostavna sveprisutna tehnologija koja nam je svima potrebna da preživimo jednostavno ne bi postojala. Pored toga što su briljantni stvaraoci i „omogućivači“, ovi ljudi su takođe, pa – ljudi. Većina ljudi je dobra. Oni žele bolji svet za sebe, za one koje vole, i za one koji će doći posle njih. Ako vam je stalo do etike u tehnologijama, nemojte samo sedeti, izađite i pomozite da napravimo razliku. Aktivirajte se i uključite. Ovde u Bay Area imamo EFF, Internet Archive i druge organizacije koje su posvećene pitanjima digitalnih prava. Ove organizacije ili druge grupe koje su im slične aktivne su u većini gradova Amerike.

Dok ovo pišem, Jamal Khashoggi, saudijski novinar i disident, koji je verovatno mučen i ubijen na najjeziviji način dok je bio u konzulatu svoje zemlje u Turskoj, dominira naslovnicama medija širom sveta. Iako smatram da je veoma čudno da je ovo, ubistvo jednog jednog čoveka, bilo to što je pokrenulo Amerikance (kao i druge ljude širom sveta) da ustanu i obrate pažnju na hororšou poznat kao vladajući režim Sadijske Arabije, ja pozdravljam ovu pažnju. Titani tehnologija kao što je CEO Uber-a Dara Khosrowshahi, čija firma se veoma obogatila milionima dolara saudijskih investicija, brzo je reagovao na krizu. Treći godišnji Future Investment Initiative, koji se još naziva i „Davos u pustinji“, desiće se za dve nedelje od trenutka kada ovo pišem. Ne mogu da kažem koliko će vlada i biznisa na kraju preskočiti ili bojkotovati konferenciju, koja se održava u saudijskom glavnom gradu Rijadu, ali mogu da kažem da se broj onih koji to kažu povećava iz sata u sat. U ovom trenutku na toj listi su i Khosrowshahi, Google Cloud CEO Dianne Greene, suosnivač AOL-a Steve Case, Apple chief design office Jony Ive i, od jutros, US Treasury Secretary Steven Munchin. Moć i pritisak – i one unutar i one izvan tech korporacija – mogu da pomere čak i najmoćnije planine ako se primene na pravi način u pravo vreme.

Uvek moramo koristiti moć koju imamo da bismo ostvarili promenu koja je moguća samo ako se dovoljno nas okupi da bi se ta promena desila. Ako radimo zajedno, možemo izvršiti neophodan uticaj na naše izabrane zvaničnike koji će rezultirati zakonima i regulativama koji će učiniti polise i akcije tech kompanija više etičnim. One se stvarno neće same regulisati. U trenutnoj klimi deregulatorne manije u kojoj je predsednik postavio svakog ko je na poziciji u kabinetu i agenciji, a ko deluje upravo suprotno instituciji u kojoj radi, regulacija nam je potrebna više nego ikad. Taj divlji Divlji Zapad neregulisanog kapitalizma može lako dovesti do kolapsa civilizacije kakvu poznajemo ako ga prepustimo sopstvenim mehanizmima i dozvolimo da jurca besno. Ovo nije preterivanje; dve najveće pretnje čovečanstvu danas – klimatske promene i nuklearni rat – pogoršane su, a ne ublažene, korporativnim kapitalizmom. Trampova administracija se povukla iz Paris Climate Agreement; na taj dogovor se gledalo kao na najbolji pokušaj čovečanstva da se suprotstavi globalnom zagrevanju. Tramp je povukao SAD iz ključnih dogovora o kontroli oružja kao što je Range Nuclear Forces Treaty sa Rusijom i dogovora o nuklearnom naoružanju sa Iranom, povećavajući tako mogućnost izbijanja nuklearnog sukoba.

Dok nastavljmo tranziciju iz industrijskog u informatičko doba, i iz proizvodne u uslužnu ekonomiju, nastavićemo da se sučavamo sa etičkim izazovima koje nismo mogli ni da zamislimo pre samo nekoliko kratkih godina. Vozila bez vozača u sudaru sa nekoliko drugih vozila i pešaka „odabraće“ ko će živeti, a ko umreti. Dronovi bez ljudi, ali ne i bez oružja, koje kontrolišu 18-godišnjaci u klimatizovanim bazama u Nevadi seju smrt i uništenje nad islamskim militaristima i nevinim muškarcima, ženama i decom, nekih 8.000 km daleko od njih, u Avganistanu. Nećemo zaustaviti neizbežnu tranziciju ka autonomnim vozilima i autonomnom ratovanju, ali postoje hrabri potezi koje možemo i moramo povući da bismo uneli više etičkog balansa u tehnologiju. Moramo da think BIG, dragi čitaoče! A šta bi moglo biti veće od toga da razbijemo Amazon na način na koji je vlada balkanizovala nekada moćni monopol Bell Telephone-a u 1980-im – za vreme arhikonzervativne Reganove administracije! Naravno, AT&T, jedna od kompanija nastala tim rasparčavanjem, postala je previše velika i moćna, ali razbijanje Bell-a bio je jedan od najvećih i najboljih napora u suzbijanju deregulacije u modernoj istoriji. Može da posluži kao model za naše vreme. Ovo ne mora biti loša stvar za Amazon; mogao bih da potvrdim Jeffu Bezosu da bi postao još bogatiji kada bi podelio kompaniju. To je upravo ono što se desilo pre više od stoleća kada je vlada podelila Standard Oil u „baby Standards“, a najvažniji među njima su Exxon, Mobil, Chevron, Amoco i Marathon. Ovo epsko razbijanje monopola dalo je 34 nove kompanije, a osnivač Standard-a John D. Rockefeller i dalje je ima označajan udeo u njima. Kako je svaka od ovih kompanija rasla, raslo je i bogatstvo porodice Rockefeller. Rockefeller je bio najbogatiji čovek svoga vremena, kao što je Bezos najbogatiji čovek našeg vremena. Bezos bi i dalje bio bogat – verovatno još i bogatiji – kad bi se Amazon podelio.

Tehnologija je mač sa dve oštrice, koja ima moć da u isto vreme i stvara i rešava najveće probleme čovečanstva. Ista tehnologija pomoću koje vlade nadgledaju svoje građane mogu biti upotrebljene za pozitivne stvari. S pravom lamentiramo nad sveprisutnosti sigurnosnih kamera, ali bez tih kamera ne bismo znali da je Jamal Khashoggi ušao u saudijski konzulat u Istanbulu, ili da je Eric Garner neopravdno ubijen od strane njujorške policije, ili da su US Army helikopteri ubili dvanaest nevinih Iračana (hvala Chelse Manning i WikiLeaks). Kada koristimo tehnologiju za dobro i kada donosimo etičke odluke i promene unutar organizacija, to dodaje vrednost. To je bolje za kompanije, bolje za njihove zaposlene i bolje za čovečanstvo. Kada tech kompanije budu razumele da je etičko postupanje bolje za njihov završni račun, verujem da će biti spremnije da urade pravu stvar ako ni zbog čega drugog, onda zbog jasne želje za profitom. Kada svi mi koji smo deo tech sektora – bili mi zaposleni, korisnici, potrošači, partneri ili deoničari – podignemo glas protiv neetičkih polisa i akcija i kada budemo zahtevali više etičkog postupanja, pozitivna promena postaće ne samo moguća, nego će postati jedna od najboljih praksi sutrašnjice. Moja je skromna nada da će ova knjiga doprineti tome da se tehnologije nežno poguraju ka toj boljoj budućnosti.