By Vahid Razavi

1 – Jednakost u tehnologijama

Nije tajna da tech industrija ima problem sa rasnom i rodnom ravnopravnošću, odnosno u SAD postoji digitalna podela koja je velika kao rased koji razdvaja bogate i siromašne. I dok svi nivoi vlasti – federalni, državni, lokalni – priznaju i preduzimaju korake u rešavanju rasne neravnopravnosti, dotle tech kompanije priznaju i dotiču se problema rodne neravnopravnosti, ali je ostalo još puno posla da se uradi. Mnogo toga je urađeno od vremena „burazerske kulture“ koja je toliko dugo prožimala Silikonsku dolinu. Dokumentarni filmovi i knjige kao Brotopia Emily Chang, ekspoze seksizma -silikonske doline puna pohotljivih opisa sex-partija u Dolini, privukli su dosta pažnje proteklih godina, i to ne bez razloga. I samo što je svet dobio uvid u mikrokosmos u kom bi „biznis“ mogao uključivati i ubacivanje investitora u đakuzi, ujedno dolazi i pokret #MeToo i društvena smena u toleranciji i očekivanjima. Nažalost, prema podacima skupljenim od strane kompanije za virtuelna rešenja Evia, žene – koje čine više od polovine američke radne snage – zauzimaju manje od 20% svih tech poslova. Što je još gore, žene danas drže manji udeo u poslovima u vezi sa kompjuterskim naukama nego što je to bio slučaj osamdesetih. Jedan od razloga za ovo, ironično, jeste sam tech – broj žena u kompjuterskim naukama stagnira od negde 1984. i kasnije opadanje pojavljuje se u vreme kad sve više domova nabavlja personalni računar. Utvrđen je narativ da su kompjuteri za dečake i pojačan razvojem proizvoda i marketinškim kampanjama koje targetiraju pre svega muškarce i dečake. Sve ovo je uticalo na rastuću techie kulturu. Današnja istraživanja pokazuju da devojčice postanu zainteresovane za karijeru u tech industriji oko jedanaeste godine, ali da ubrzo posle toga izgube interes. Eksperti kažu da su za to krivi nedostatak tech edukacije, nedostatak žena mentora i generalna rodna neravnopravnost. Kao i u toliko drugih oblasti, edukacija je ključ za suzbijanje nejednakosti. Neprofitne organizacije kao što su Girls Who Code i TechGirlz naporno rade da eliminišu rodne nejednakosti u tehnologijama targetirajući devojčice u mlađem uzrastu. Rezultati su obećavajući – osnivačica Girls Who Code Reshma Saujani tvrdi da smo na tragu da ostvarimo rodni paritet u kompjuterskim naukama do 2027. Naravno, ima tu još mnogo više od same rodne ravnopravnosti. Žene u tech industriji trpe situacije sa kojima se nijedan muškarac u industriji nikad nije suočio. Pored toga što je govorila o proizvodima i uslugama svoje kompanije, Bethanye Blount, koja je kasnije osnovala i postala CEO startap platforma za kompenzacije Cathy Labs, došla je do toga da dok je držala ključne govore na tech konferencijama upozorava žene učesnice da pokriju svoja pića jer su seksualno uznemiravanje, pa čak i seksualni napadi bili previše česti na takvim događajima. Anita Sarkeesian, koja je lansirala Kickstarter kampanju da bi finansirala seriju videa koji ispituju seksizam u video gejmingu, primila je pretnje silovanjem i smrću zbog svog rada. Fokusirajući se isključivo na nejednaka primanja muškaraca i žena i nejednaku zastupljenost, često se previđaju svakodnevni izazovi i iskušenja koje žene u tehnologijama moraju da podnose.

Ipak, rasa je ta, a ne pol, koja ostaje najveća prepreka za žene kada dođemo do izvršnih i visokih menadžerskih pozicija u tech industriji. Ascend Foundation, poslovna organizacija koja predstavlja Amerikance azijskog porekla, analizirala je podatke iz US Equal Employment Opportunity Commission for the San Francisco Bay Area i utvrdila da je rasna nejednakost na vodećim pozicijama između belih muškaraca i manjinskih muškaraca veća nego rodna nejednakost između belih muškaraca i belih žena. U 2015. bele žene imale su 31% više šansi da postanu executives nego latino muškarci, 88% više šansi nego azijski muškarci i 97% više šansi nego crni muškarci. 53 Dok su manjine, naročito crni i latino muškarci napravili značajan napredak u proboju u tech industriju, i dalje ih je sramno malo na kompjuterskim i matematičkim pozicijama – crnci zauzimaju manje od 8% svih kompjuterskih i matematičkih pozicija u zemlji, a latinosi manje od 7%, prema istraživanju Brookings Institution-a 2018. Skorašnji trendovi ne deluju obećavajuće; zastupljenost crnaca u prirodnim naukama (science) i matematičkim poslovima zapravo je opala tokom protekle decenije. 54 Ne znam kakva je statistika za persijske muškarce i nisam tip koji misli da je postoji rasna motivacija iza svakog lošeg odnosa prema drugima, ali bih bio slep kad ne bih uzeo u obzir ulogu koju su rasne predrasude mogle da imaju tokom moje karijere.

Statistika i svest su jedno; preduzimanje smislene akcije da bi se borilo sa problemom nešto je sasvim drugo. Ethics In Tech je napor baziran na rešenjima, a rešenje ovde počinje sa boljim obrazovanjem. Naročito pojačavajući edukaciju o kompjuterima, prirodnim naukama i matematici na što mlađem uzrastu. Ne pričamo ovde samo o kursevima univerzitetskog nivoa – naša zemlja mora dramatično da proširi obuhvat i pristup entry-level tech kursevima. Edukacija u kompjuterskim naukama mora biti više inkluzivna za devojčice i manjine; pristup projektima kao što su Black Girls Code i #YesWeCode i programima orijentisanim na rad i zaposlenje kao što je Year Up. Organizacije kao što su Byte Back i Per Scholas ulaze da ponude potcenjene entry-level kompjuterske i IT sertifikacione kurseve. Tech kompanije su takođe pokrenule online sertifikacione kurseve. Ethics in Tech podržava ove programe, a unapred se raduje tome da će i sam doprineti u rešavanju ovog istrajnog problema.

2. Odnosi na relaciji poslodavac-zaposleni

Većina problema na relaciji poslodavac-zaposleni tiče se načina na koji poslodavci i menadžeri uopšte gledaju na radnike u Sjedinjenim Državama. Veliki deo istorije rada ove zemlje bio je ispunjen borbom, jer su se radnici borili za svoja prava, a Veliki Biznisi su uzvraćali borbu – često sa smrtonosnom snagom. Dani masovnih štrajkova sa brojnim žrtvama i ranjenima i fizički neprijateljski nastrojenim šefovima možda jesu gotovi, ali kao što mnogi tech radnici (naročito oni na nižim pragovima ekonomskih merdevina) mogu da potvrde, ima dovoljno i starih i novih nepravdi danas. Ostalo je još puno posla da bi se popravili ukupni odnosi između titana tehnologija i onoga što je pisac Douglas Coupland nazavao njihovim „MicroSerfs“. Putovao sam širom sveta i nema sumnje da su druge zemlje svetlosnim godinama ispred SAD-a kada su u pitanji odnosi poslodavac-zaposleni. Da bih napravio kontrast, voleo bih da još jednom podsetim na neprilike onih izrabljenih i nedovoljno plaćenih radnika u skladištima Amazona. Zaista se pitam: kakav je to korporativni bord izvršnih menadžera koji se okupi i izađe sa pravilima kao što su zabrana radnicima da sednu na poslu ili pauza za ručak od samo pola sata i još dve pauze od 15 minuta za vreme smene od deset sati? Kakvi su to „ljudski resursi“ koji treba da spakuju 1.200 paketa za dan? Ko je odlučio da je etički da primoravaju radnike na obavezan prekovremeni rad i kažnjavaju one koje odbiju tako što im spajaju vreme za odmor?

Imam osećaj da mnogi od najvećih tech igrača, oni koji privlače najbolje i najblistavije regrute, mašu sjajnim predmetima pred svojim radnicima kao deo koncentrisanih napora da propagiraju ono što ja zovem mit o work-life balansu. Tech firme će ti možda dozvoliti da poneseš svoj Maltipoo na posao, možda imaju video igrice arcade, ili stolove za bilijar, ili veštačku stenu, njihove kafeterije mogu služiti najbolji suši na svetu ili činije kinoe, ali ne postoji takva stvar kao što je besplatan ručak. Možete li to stvarno nazvati balansom između života i posla ako radite 50-60 sati nedeljno i morate da provedete vreme u saobraćaju ili da putujete do posla 10 sati svake nedelje? Možete li zaista da maksimizujete sreću radnika kada se zaposleni tretiraju kao stoka, konstantno nadzirani od trenutka kad uđu do trenutka kad izađu, a patrole bezbednjaka su na sve strane? Tretman je još i gori za radnike na minimalno plaćenim poslovima – koji su obično na podugovorima – čuvari, radnici obezbeđenja, recepcioneri i drugi. Oni su zaista zaposleni drugog reda u Amazonu, ali i u drugim kompanijama. Radnici koji su na podugovorima, rade na isporuci paketa počeli su da dižu glas zbog ponovljenih slučajeva krađe zarade u 2017, organizujući protest ispred kompanijinog fulfillment centra Eagan, u Minesoti, jednog ledenog novembarskog dana. Mnogi od ljudi koji su protestovali bili su migranti iz istočne Afrike koji su pobegli od političkog, etničkog i drugog progona u Etiopiji, Eritreji i Somaliji, samo da bi otkrili novi set problema u Sjedinjenim Državama. „U mojoj zemlji bio sam profesionalni građevinski inženjer, a ovde sam radio ovaj posao da bih platio račune i mogao da studiram da bih se vratio u svoju struku“, rekao je jedan od protestanata. „Bilo je šokantno videti kako ova zemlja tretira migrante koji rade posao za koji mi se čini da ga drugi ljudi uzimaju zdravo za gotovo“, nastavio je.

„Strašno sam razočaran ne samo kompanijom, nego i svojim iskustvom rada u Americi. Ovo iskustvo je nešto sa čim se previše ljudi suočava i to je promenilo moje mišljenje o pravdi u Americi. Sve što sam čuo o rasizmu i nepravdi ispostavilo se kao tačno. Nadam se samo da ova kompanije ne predstavlja i ostale u zemlji.“

Nažalost, to predstavlja generalni pravac u kom se kreće zaposlenost u SAD. Pogledajte kako se vodeći igrači u „sharing economy“ gade da čak nazovu svoje radnike zaposlenima. Ogroman globalni uspeh i bogatstvo giganta prevoznika Ubera moguć je jedino zahvaljujući napornom radu njihovih „partnera-vozača“, ali to uteruje njihove vozače u trku do dna i još niže zarade i bezobziran tretman. Pitajte bilo kog Uberovog vozača i videćete da će se naježiti na sam pomen termina „partner-vozač“. Reći će vam da je to jednosmerno „partnerstvo“ u kojem vozač radi sav posao i preuzima sav rizik da bi se mamutska kompanija bogatila, a u isto vreme izbegavala da prizna prava i odgovornosti na koje svi zaposleni imaju prava, jer tehnički – oni i nisu zaposleni. Uber ne mora da plati minimalac ili prekovremeni rad, niti da ponudi benefite svojim radnicima. U isto vreme, na ovaj način izbegavaju tužbe i odgovornost.

Postoje neke naznake da bi ovo uskoro moglo da se promeni. Protiv Ubera su podnete brojne tužbe, kao i protiv drugih „sharing“ i „gig“ kompanija i sudovi počinju da donose presude u korist radnika. Ovo se ne dešava bez ozbiljnih prepreka na putu. U 2015. California Labor Commission doneo je odluku u korist bivšeg Uberovog vozača, nalažući kompaniji da joj nadoknadi troškove koji su nastali dok je radila kao vozač. U odluci se navodi da je Uber odgovoran za ove troškove jer su njihovi vozači njihovi zaposleni. Međutim, aprila 2018. federalni sudija u Philadelphiji presudio je da Uberovi vozači nisu zaposleni, nego nezavisni subjekti pod ugovorom. Potpuno je neverovatna „logika“ kojom se sudija poslužio da bi tako presudio – naveo je da Uber ne vrši dovoljno kontrole nad svojim vozačima da bi oni mogli da se smatraju zaposlenima; i to zato što su slobodni da isključe aplikaciju i odu u toalet, uzmu nešto da jedu, odremaju, ili urade šta god im je po volji, onda oni zaista i nisu zaposleni. A onda opet, ako pitate full-time Uberovog vozača čija je minimalna plata – ako uopšte može da zaradi toliko – zavisna od platne šeme sa bonusima koja zahteva 40 ili više sati rada nedeljno, verovatno će vam se samo nasmejati na toliko glorifikovanu vozačku „slobodu“ koju kompanija reklamira. Korak napred učinjen je ubrzo nakon presude iz Philadelphije kada je California Supreme Court u maju 2018. u suštini ukinuo decenijama star test na osnovu kojeg se utvrđivao status zaposlenosti radnika, olakšavajući u mnogome da se ljudi klasifikuju kao zaposleni umesto kao nezavisni subjekti pod ugovorom. Ostaje da se vidi da li će ovo dokazati transformativne odluke, ali većinske ocene su da će pre biti prvo nego potonje jer su u javnosti i među izabranim zvaničnicima vrlo željni da stave tačku na eru „Divljeg Zapada“ velikim delom neregulisanih startapova u gig ekonomiji.

Unutar kompanija ulažu se napori da se stvari poprave i počinje da se unapređuje odnos na relaciji poslodavac-zaposleni. U Amazonu HR program pod nazivom Connections podstiče zaposlene da svakodnevno postavljaju pitanja koja se tiču različitih tema u vezi sa radom i zaposlenošću, u pokušaju da se bolje razume ogromna radna snaga kompanije i njihove brige. Međutim, neki Amazonci su izrazili zabrinutost da bi mogli da pretrpe posledice ako bi na ova pitanja odgovorili iskreno, dok su drugi preispitivali samu ideju Connections-a i toga da li je to pravi alat da se s njim započne ova tema. Mnogo je bolje bio primljen Forte, Amazonov poboljšan pregledni program za zaposlene koji u kompaniji poznatoj po često nemilosrdnim i darvinovskim pogledom i kritikama, sada se fokusira više na jake strane radnika nego na njihove slabosti.

Kao bivši Amazonac mislim da sam u poziciji da tvrdim da HR programi mogu dobro izgledati na papiru, ali ni svi programi na svetu ne mogu nadoknaditi štetu nastalu usled nekih glupih pravila i akcija, grešaka koje bi bilo ko sa imalo zdravog razuma trebalo da bude u stanju da izbegne. Daću vam jedan primer. Zbog mojih problema s leđima imao sam pravo na ergonomsku stolicu, ali verovali ili ne, kao deo Amazonovih mera štednje, kresanja troškova i drugih principa, po dva zaposlena su sedela za jednim stolom! Ko želi da radi za kompaniju gde menadžment nije briga za zaposlene ni toliko da im obezbedi radne stolove? Ili gde su tegobe radnog dana toliko teške? Ko želi da radi tamo gde zaposleni provode sate svakog dana u hladnom i gde ljudi ne misle jedni na druge osim kada treba nekog nadigrati?

Bio sam toliko iscrpljen radom u Amazonu. Neki moji partneri imali su čitave timove na raspolaganju; ja sam morao da hendlujem ove partnere sa samo jednim programerom. Nikad se nisam osećao kao da imam podršku koja mi je potrebna. Promenio sam četiri šefa za godinu dana, za ime boga! I pored svega toga ovo je samo blistav nedostatak humanosti u Amazonu. Nemojte pogrešno da me shvatite, mnogi Amazonci su pojedinačno vrlo brižni ljudi. Ali kada sam bio u bolnici, dobio sam korpu s voćem od Amazonovih partnera sa kojima sam radio i koji su mi poželeli brz oporavak, a od Amazona nisam dobio ništa

3 – Uticaj razvoja tehnologije na životnu sredinu

Prema skorašnjem članku u magazinu Time koji se tiče izveštaja Greenpeace-a, cloud – i pridružene mreže koje isporučuju podatke – troši toliko energije da je to kao da smo šesta nacija sveta prema potrošnji energije. Nakon što je ova vodeća grupa za zaštitu okoline prozvala tech kompanije zbog ovog problema, neki od najvećih potrošača energije iz te grupe kompanija – kao što su Apple, Google, Facebook i druge – obavezale su se da dramatično smanje potrošnju energije u svojim data centrima. Ovo obećanje su održali, a neki su potpuno prešli na napajanje održivom energijom u svojim data centrima. Apple i Facebook izgradili su nove data centre koji se 100% napajaju obnovljivim izvorima energije. Amazon, koji je isprva oklevao da prati ovaj trend, uskoro je uradio isto, a AWS je izdao skromno, ali važno saopštenje, kojim se naglašava „dugoročna posvećenost ka postizanju potrošnje 100% obnovljive energije u našem globalnom infrastrukturnom otisku. Do 2018. AWS je dostigao 50% potrošnje energije iz obnovljivih izvora. Ima šest solarnih farmi koje proizvode 200 megavata u Virginiji, kao i tri vetroparka u North Carolini koji proizvode 458 megavata. Očekuje se da će ovi projekti sa obnovljivim oblicima energije davati više od dva miliona megavat sati energije u električnu mrežu i koja će napajati AWS data centre u Ohaiu i Virginiji. AWS proizvodi dovoljno struje da napaja skoro 200.000 američkih domova svake godine ili otprilike onoliko domova koliko ih ima u Atlanti, Georgia. Pored toga, AWS, koji je najavio svoj prvi karbon-neutralni region još 2011, sada nudi pet karbonneutralnih regiona svojim potrošačima na korišćenje. Javio se i efekat talasa otkako AWS serveri hostuju Netflix, Pinterest, Spotify, Vine, Airbnb i mnoge druge sajtove.

Ogromna veličina, uticaj i finansijska sredstva vodećih tech kompanija čini ih idealno pozicioniranim da preduzmu značajnu akciju da se bore protiv klimatskih promena i drugih ekoloških katastrofa koje prete opstanku ljudi na zemlji. Tamo gde vladama nedostaje političke volje, efiksnosti i brzine u delovanju da bi se iznele ove neophodne promene, tech industrija, sa svojom opsesijom inovacijama, galopirajućim tempom razvoja, istupa i popunjava prazninu koju vlade ne mogu ili neće. Ovo se ne odnosi samo na Sjedinjene Države. Klimatske promene pogađaju čitavu planetu i kompanije kao Amazon implementiraju rešenja u svim zemljama u kojima posluju. Kina, u kojoj se svake godine u milionima povećava broj novih internet korisnika, jedan je od glavnih globalnih aktera u borbi protiv klimatskih promena. Amazon planira da otvori nove data centre koji se napajaju obnovljivim izvorima energije da bi išao u korak sa ogromnim porastom potražnje tamo.

Ovo je više od toga da se uradi prava stvar za planetu. Glasnogovornik Google-a izjavio je za TechRepublic da kompanija razmatra obnovljive izvore energije kao poslovnu priliku. Ali poslovanje bez etike (u ovom slučaju etike planete pre profita) nije održiv model i Google i druge tech kompanije to znaju. Zato je Google izašao iz American Legislative Exchange Council, poznatijem po svom neslavnom akronimu ALEC, sledeći druge kompanije kao što je Microsoft, koji se povukao iz pro-biznis lobija. Google je objasnio svoju odluku time što je optužio ALEC da je lagao o klimatskim promenama. ALEC odbija da prihvati internacionalni konsenzus od oko 97% po kome su klimatske promene posledica ljudske aktivnosti, naročito emisije ugljen-dioksida.

ALEC, koji tvrdi da „obezbeđuje konstruktivni forum za državne zakonodavce i lidere iz privatnog sektora da razmatraju i razmenjuju praktične politike na državnom nivou“, uradio je predlog zakona koji bi zabranjivao implementaciju regulativa i zakona koji bi ublažavali posledice klimatskih promena, uključujući i Clean Power Plan iz Obamine ere, koji je Trump potpuno upropastio. ALEC se skoro potpuno finansira od strane korporacija, posebnih interesnih i lobi grupa i trgovačkih udruženja. Predlozi njihovih zakona često se usvajaju bez ijedne promenjene reči od strane državnog zakonodavca, jednom, tragično, čak i bez uklanjanja tragova o tome u tekstu. Predlozi ALEC-a su skoro potpuno sponzorisani od strane republikanaca, sa svega 10% predloga zakona od strane ALEC-a koji su sponzorisani od strane demokrata. Najčešće vrste zakona kojima se bave jesu oni koji se tiču imigracije i klimatskih promena, a tu su i zakoni o oružju i kriminalu. Jedan od najkontroverznijih zakona koje je ALEC ikad predložio rezultirao je zakonom Castle Doctrine Act, koji daje vlasnicima/stanarima pravo da život i imovinu brane vatrenim oružjem. ALEC je takođe napisao izjave protiv gradova koji su utočišta za migrante bez dokumenata, izjave protiv otkrivanja komponenata u privatnim sredstvima koji se koriste u hidrauličnom lomljenju (fracking), izjave protiv kontrole vatrenog oružja i protiv mera koje su potvrdile korake potrebne za borbu protiv klimatskih promena, itd. 57 Javno protivljenje ALEC-ovoj otvorenoj pro-korporativnoj, antiplanetarnoj agendi dovelo je do masovnog egzodusa članova grupe počevši od 2014. godine, kada su Microsoft, Google, Facebook, Yelp, Yahoo, Uber i Lyft rekli da bi ili odustali ili se neće pridružiti grupi. Uskoro, čak i neki od najgorih korporativnih aktera, uključujući kompanije za fosilna goriva, izašli su iz dogovora. ExxonMobil, koji je dao ALEC-u više od 1,8 miliona dolara (više od 35 miliona dolara je grupa potrošila na obmanjivanje javnosti o klimatskim promenama), čak je napustila grupu 2018.

4 – Privatnost

Nema sumnje da tehnologija narušava našu privatnost. Tvoj uređaj sigurno više zna o tebi nego tvoj najbolji prijatelj. Kako naši privatni životi i poslovi postaju sve više povezani i integrisani sa tehnologijom koja pokreće svet, često se desi da spustimo gard. Toliko smo se navikli i toliko smo zavisni od sveprožimajuće i invazivne tehnologije da pristajemo na sveprisutni nadzor u ovoj ili onoj formi. Intimne i vredne lične podatke čuvamo na našim uređajima, a da ne razmišljamo preterano o tome ko bi im još mogao pristupiti ili šta oni rade s tim podacima. U čuvenoj odluci Vrhovnog suda iz 2014. Railey vs. California stoji da „činjenica da tehnologija sada omogućava pojedincu da nosi takve informacije u ruci ne znači da su te informacije manje vredne zaštite za koju su se borili Oci osnivači nacije“. Kako tehnologija nastavlja da se razvija brže nego što zakonodavci mogu da garantuju zaštitu privatnosti, i vlade i korporacije nastavljaju da nas prate i nadziru na načine koje smo do nedavno mogli da zamislimo samo u domenu SF-a, ako uopšte i možemo više da ih zamislimo. Oni skupljaju neverovatne količine informacija o našim lokacijama, komunikacijama, online pretragama, kupovini i još mnogo, mnogo toga. Nije samo naša privatnost kompromitovana time. Naše pravo na slobodu izražavanja, naša sigurnost (i online i offline) i jednakost garantovana Ustavom i drugim dokumentima prekršeni su, nekad na šokantne načine. Svi se sučavamo s tim da moramo da biramo između prihvatanja najnovijih dostignuća tehnologije i naših građanskih prava. Ne bi trebalo da bude tako i zato su privatnost i zaštita privatnosti u centralnom fokusu Ethics In Tech.

Scott McNealy, CEO Sun Microsystems-a, 1999. podigao je obrve i izazvao bes svih i u tech industriji, ali i izvan nje, kad je neslavno izjavio da su pitanja zaštite privatnosti potrošača samo nevažno skretanje pažnje. „Ionako nemate nimalo privatnosti“, rekao je McNeal grupi reportera. „Pomirite se s tim“. McNealova izjava je tada bila šokantna, ali je samo postajala istinitija sa svakom godinom koja bi prošla. U 2010. koosnivač Facebook-a Zuckerberg u suštini je ponovio McNealyjevu izjavu, apdejtovanu za eru drušvenih mreža u ekspanziji, kada je izjavio da privatnost više nije „društvena norma“. Zuckerberg je tvrdio da „su ljudi postali stvarno ok s tim da ne samo dele sve više i sve različitije informacije, nego to čine još otvorenije i sa još više ljudi“. Primetio je da kad je on pokrenuo Facebook mnogo njegovih prijatelja studenata sa Harvarda nije razumelo o čemu se tu radi; pitali su ga zašto bi, kog đavola, oni želeli da dele svoje lične informacije i fotografije širom interneta. Naravno, sad znamo da je bilo samo pitanje vremena kada će Facebook lansirati Beacon, svoj kontroverzni sistem za oglašavanje pušten 2007, koji je dozvoljavao kompanijama da prate online aktivnosti svojih korisnika. Ovo je zabrinulo i naljutilo one koji su obraćali pažnju – očigledno ne baš mnogo ljudi u to vreme – i koji su razumeli šire društvene implikacije narušavanja online privatnosti. Electronic Frontier Foundation nazvao je promene u Facebook-ovoj polisi za zaštitu privatnosti zamkom koja navodi ljude da dele još više informacija, optužujući kompaniju da zapravo smanjuje nivo kontrole koji ljudi imaju nad sopstvenim ličnim podacima. Najgori deo te nove polise, prema EEF-u, bio je taj što je Facebook počeo da tretira svaku lajkovanu informaciju, uključujući imena, profilne slike, trenutni grad, pol, mreže, stranice, kao „javno dostupnu informaciju“, što znači da više nemate opciju da je vratite da bude privatna. The Office of the Privacy Commissioner of Canada završio je istragu o Facebookovim polisama i praksama zaštite privatnosti u septembru 2010. i zaključio da su promene koje je kompanija napravila sada više u skladu sa zakonodavstvom o zaštiti privatnosti Kanade. Jedna od glavnih briga istražitelja bila je ta što treća strana – developeri igrica i drugih popularnih aplikacija mogu bukvalno bez ikakvih ograničenja da pristupaju ličnim podacima korisnika Facebook-a. Dok je istraga kanadske vlade zaključila da je Facebook pravio velike korake ka poboljšanju nekih od svojih najgorih kršenja privatnosti, i dalje su bili zabrinuti da kompanija proširuje kategorije podataka korisnika koje stavlja na raspolaganja svima da vide, kao i da ne daju svojim korisnicima dovoljno kontrole nad podešavanjima koji se tiču njihovih ličnih podataka. U Norveškoj nacionalni savet potrošača konstantno je prozivao Facebook za ovu i druge njihove prakse. Izveštaj iz 2018. optužuje i Facebook i Google za ugrađivanje „mračnih šablona“ – exploitive design choices – u svoje interfejse u sumnjivom naporu da ubedi korisnike da dele što je više moguće ličnih podataka. Norwegian Consumer Council zaključuje:

Facebook i Google imaju „privacy intrusive defaults“, gde korisnici koji žele privacyfriendly opciju moraju proći kroz značajno duži proces. Oni čak čine neke od podešavanja nejasnim da korisnik ne bi mogao da zna da je „privacy intrusive“ opcija već selektovana.

Popupovi iz Facebook-a, Google-a i Windows-a 10 imaju dizajn, simbole i formulacije koje odvraćaju korisnike od privacy-friendly opcija. Izbori su formulisani tako da usmeravaju korisnike da naprave siguran izbor, dok je ključna informacija izostavljena ili formulisana tako da izgleda nebitna. Niko od njih ne dozvoljava korisniku da slobodno odloži donošenje odluka. Takođe, Facebook i Google prete korisnicima da neće moći da koriste određene funkcionalnosti ili im prete brisanjem naloga ukoliko korisnik ne odabere „privacy intrusive“ opciju…

Korisnicima se daje iluzija kontrole kroz podešavanja privatnosti. Prvo, Facebook daje korisniku iluziju da ima kontrolu nad prikazivanjem oglasa treće strane, ali se ispostavlja da je kontrola mnogo više ograničena nego što se to inicijalno činilo. Drugo, Google-ov dashborad za podešavanje privatnosti garantuje da će dopustiti korisniku da obriše svoje korisničke podatke, ali se ispostavlja da je dashboard suviše komplikovan za navigaciju, više kao put kroz lavirint, nego kao alat za korisnike.

Kombinacija „privacy intrusive defaults“ i upotrebe „mračnih šablona“ prisiljavaju korisnike Facebook-a i Google-a, a u nešto manjoj meri i Windows-a 10, prema opciji koja je manje privacy-friendly do mere da to smatramo neetičnim. Sumnjamo da je to u skladu sa zaštitom podataka po difoltu i zaštitom podataka po dizajnu, i sumnjamo da se za pristanak dat pod ovim okolnostima može reći da je eksplicitan, informisan i slobodan.

U 2014. sad već ozloglašena firma za politički konsalting sa sedištem u UK Cambridge Analytica počela je da prikuplja lične podatke o desetinama miliona Facebook korisnika, podatke koji su posle navodno bili korišćeni od strane kompanije da utiče na glasače u korist svojih klijenata političara. Krajem 2015. The Guardian je izvestio da je predsednički kandidat senator Ted Cruz (RTX) koristio informacije o psihologiji korisnika dobijene na osnovu podataka o 87 miliona Facebook korisnika – podataka koji su najvećim delom prikupljeni bez eksplicitnog odobrenja od strane korisnika – u pokušaju da stekne prednost nad svojim GOP predsedničkim rivalima. Cambridge Analytica, koja se finansira isključivo od hedge fonda milijardera i donatora Republikanske partije Roberta Mercera, koristila je ove psihološke profile (kao što su to radili konzervativni Political Action Committees – PAC, koje podržava porodica Mercer) da podvrgne glasače „bihejvioralnom mikrotargetiranju“ u pokušaju da pomogne da se dobiju glasovi. U 2018. Christopher Wylie, bivši kanadski zaposleni u Cambridge Analytica postao je zviždač i izašao sa još uznemirujućih detalja u vezi sa zapanjujućom veličinom i obimom podataka koje je kompanija prikupila i ulogom Facebook- a u svemu tome. Sebe je nazvao glavnim arhitektom „Steve Bannonovog oruđa za psihološko ratovanje jebanja u mozak“.

Pored Cruzove i Trumpove kampanje, Cambridge Analytica takođe je radila na tome da utiče na ishod Brexit kampanje 2016. u UK i opštih izbora u Meksiku 2018. CEO Facebook-a Mark Zuckerberg bio je primoran da se izvini za ono što je nazvao „greškom“ i „kršenjem poverenja“. Zakupio je cele strane oglasnog prostora u najvećim štampanim medijima u SAD i drugde, obećavajući da će „raditi bolje“. Bio je primoran i na višednevno saslušanje u Kongresu iz kojeg je izašao kao prebijen, ali ipak neozleđen, iako je poverenje javnosti u najistaknutiju društvenu mrežu značajno poljuljano. Za vreme saslušanja u Kongresu, Zuckerberg je ukazao na to da je otvoren za etičke regulative u tech industriji, sa mogućnošću da se aktivira i zakon predložen od strane senatorke Amy Klobuchar (D-MN), koji bi zahtevao da Facebook obavesti korisnike o povredi podataka u roku od 72 sata. Ovaj standard utvrđen je u novom General Data Protection Regulation (GDPR) implementiranom u Evropskoj uniji maja 2018.

Međutim, ako pažljivo poslušate Zuckerbergovo saslušanje i izvinjenje, primetićete da on sve vreme to naziva „issue“ i priznaje da je došlo do „breach of trust“ (povrede poverenja), on zapravo nikada ne koristi termin „data breach“ (povreda podataka). Neki sadašnji i bivši Facebook zvaničnici raspravljali su o tome da su oni koji su koristili kvizove ličnosti i druge aplikacije u kojima dolazi do odliva infomacija zapravo pristali na to da dele svoje podatke. „Nesumnjivo nije povreda podataka“, tvitovao je prkosni Andrew „Boz“ Bosworth, Facebook-ov consumer hardware VP. „Nikakvi sistemi nisu infiltrirani, nikakve lozinke ili informacije nisu hakovane“.

Pojava države masovnog nadzora tokom protekle dve decenije bila je verovatno dramatično uznemiravajuć razvoj događaja koji je uticao na privatnost skoro svakog čoveka na planeti. Ovo nije preterana izjava, kao što možemo videti iz onoga što nam je u svom materijalu koji je potresao planetu 2013. godine otkrio bivši zaposleni u National Security Agency koji je postao zviždač. Snowden je kopirao desetine hiljada, verovatno oko 200.000 dokumenata NSA i Pentagona, od kojih su mnogi poverljivi. Podelio ih je novinarima, uključujući i Glenna Greenwalda, Lauru Poitras i Ewena McCaskilla. Ovi novinari, tokom dužeg perioda, objavljivali su ih u novinama i informativnim sajtovima širom sveta, uključujući i The Guardian, The Washington Post, The New York Times i Der Spiegel. Snowdenov materijal otkrio je pre toga nepoznate detalje koji se tiču veličine i obima globalnog programa za nadzor NSA-a, koji je radio u saradnji sa britanskim, australijskim i kanadskim obaveštajnim službama. Kroz svoj program PRISM, NSA je sakupljala internet komunikaciju uz aktivnu pomoć vodećih telekom i tech kompanija kao što su Microsoft, Google, Yahoo, Apple i Facebook. NSA je koristio alat za analizu velike količine podataka i vizuelizaciju podataka koji je nazvao Boundless Informant, da bi katalogizirao podatke skupljene nadzorom širom sveta, što je u direktnoj suprotnosti sa uverenjima koje je agencija dala Kongresu i američkoj naciji da ne prikuplja podatke o milionima pojedinaca. Xkeyscore, sistem za povraćaj podataka koji se sastoji od serije korisničkih interfejsa, back-end baza podataka, servera i softvera, takođe je otkriven javnosti. Prema Snowdenu, sa Xkeyscore-om:

Mogli biste čitati mejlova bilo koga na svetu, bilo koga čiju mejl adresu imate. Bilo koji sajt: možete pratiti saobraćaj prema i sa sajta. Bilo koji kompjuter za kojim pojedinac sedi: možete da vidite sadržaj. Bilo koji laptop koji pratite: možete ga pratiti kako se kreće s jednog mesta na drugo preko celog sveta. To je one-stopshop za pristup informacijama NSA-a.

ožete tagovati pojedince… Recimo da radite za veliku nemačku korporaciju i ja želim pristup toj mreži, mogu da saznam vaše korisničko ime na sajtu, mogu da saznam vaše pravo ime, mogu da saznam o vašem druženju s prijateljima i mogu da napravim ono što se zove „fingerprint“ (otisak), a što su aktivnosti na mreži koje su jedinstvene za vas, što znači gde god da odete na ovom svetu, bilo gde gde biste mogli da pokušate da sakrijete svoje online prisustvo, svoj identitet.

NSA je špijunirala milione profila Amerikanaca na društvenim mrežama, kao i još nebrojeno miliona širom sveta u istinskom globalnom naporu da otkrije i prati veze između američkih građana i osumnjičenih terorista. U službi njihovog beskrajnog globalnog Rata protiv terora, vlada SAD-a uz pomoć najvećih telekom i tech kompanija, u čišćenju i nelegalnom nadzoru mreže telefona i online komunikacija od 2001. Pod predsednikom Barackom Obamom, zvaničnici Ministarstva pravde priznali su da je NSA kriva za „prekomerno prikupljanje“ domaćih komunikacija, ali su tvrdili da su ti nelegalni akti bili nenamerni i da je ta praksa ispravljena. Međutim, Obama je onda u tišini potpisao zakon o reautorizaciji Foreign Intelligence Surveillance Act (FISA) Amendments Act iz 2008, koji dozvoljava prisluškivanje telefona i elektronskih komunikacija u kojima je barem jedna umešana osoba stranac. U to vreme Snowdenova otkrića delovala bi veoma bizarno – NSA se infiltrirala u popularne gejming i druge zajednice na društvenim mrežama, uključujući World of Warcraft i Second Life, a špijunirala je i neke od najbližih američkih saveznika i druge lidere sveta uključujući i Papu.

Snowdenov bombastičan materijal dodatno je oštetio ono što je već bila fasada s velikim pukotinama u našoj privatnosti. Ljudi danas – naročito mlađe generacije – gotovo da nemaju nikakva očekivanja privatnosti. Prema istraživanju Pew Research iz 2015. svega 6% Amerikanaca je bilo „veoma uvereno“ da bi vladine agencije bile čuvari privatnosti i njihovih ličnih informacija, a isti procenat ispitanika je izrazio veliko poverenje u to da bi telekom kompanije učinile isto. Više od dve trećine ispitanika je reklo da imaju malo ili nimalo poverenja u društvene mreže, pretraživače ili online video sajtove i da ne veruju da bi oni čuvali privatnost njihovih ličnih podataka.

Naravno, ugrožavanje privatnosti nije ograničeno samo na naše online bivstvovanje. Manjeviše sve što radite se prati i nadzire. Prošetajte ulicama bilo kog većeg grada i videćete zgrade načičkane kamerama. Konstantno nas nadziru u gradovima velikim i malim širom zemlje. Strah od terorizma i rastuća kupovna moć učinili su dostupnim „closed-circuit television cameras“ (CCTV) i druge tehnologije usmeravaju trend u pravcu sveobuhvatnog nadzora koji manje-više uzimamo olako. I zaista, istraživanje New York Times/CBS-a aprila 2013. pokazalo je da Amerikanci u velikoj meri odobravaju instaliranje video nadzora na javnim mestima. Punih 78% ispitanika je izjavilo da je predavanje njihove privatnosti i građanskih sloboda prihvatljivo u zamenu za veću sigurnost. Ovo je odobreno svega nedelju dana nakon bombaških napada na Bostonskom maratonu, ali čoveku ostaje samo da se pita da li je tih 78% ikada čulo za proročko upozorenje Benjamina Franklina da „oni koji bi odustali od svojih suštinskih sloboda da bi kupili malo privremene sigurnosti ne zaslužuju ni slobodu ni sigurnost“.

U tom slučaju, gradić Tiburon, u Kaliforniji, do kojeg se stiže kratkom vožnjom od mosta Golden Gate u San Franciscu, sigurno ne zaslužuje nijedno od toga. Bogata obalska zajednica od 9.100 stanovnika, od kojih su skoro svi beli, ima samo dva puta kojima se ulazi i izlazi i grada. Tiburon je izuzetno siguran grad, pa ipak je njegova lokalna samouprava odlučila da potroši čitavih 200.000 dolara za šest sigurnosnih kamera (kritičari ih zovu „kamere nesigurnosti“) duž puteva da bi nadzirali sva vozila koja ulaze i izlaze iz grada. Iako policija konstantno proverava registarske tablice privatnih vozila, „građanski libertarijanci“ su alarmirani onim što oni zovu „scope creep“ – što pokreće ozbiljna pitanja u vezi sa Četvrtim amandmanom. Te kamere ne samo što snimaju tablice vozila, nego je provuku kroz policijsku bazu podataka i uporede je sa bazom vozila koja jesu ili za koje se veruje da su bila umešana u zločine. Najslavniji zločin uhvaćen kamerom u Tiburonu desio se 2011. godine kada je lokalni tinejdžer ukrao žuti lambordžini selebriti kuvara Guya Fierija. Ali u super-sigurnom gradu gde se ubistvo nije dogodilo više od decenije, a gde je kradeno manje od jednog automobila mesečno pre nego što su postavljane kamere, mnogi zabrinuti građani i grupe koje se zalažu za građanske slobode nadaleko i naširoko se protive masovnim sistemima nadzora. „Obimno praćenje lokacija, što je omogućeno napretkom tehnologije kao što su ovi čitači tablica, otkrivaju razne vrste intimnih detalja o životu neke osobe“, rekla je Stephanie Martin, advokat ACLU, za KQED. „Posete sastancima Anonimnih alkoholičara, gej barovima, sindikalnim okupljanjima, klinikama za abortus i tako dalje“.

Nazad preko mosta Golden Gate u San Franciscu ima mnogo više od nekoliko kamera koje nadgledaju ko ulazi i izlazi iz grada. „Nije ostalo mnogo mesta a da na njima već nema neke vrste privatne ili javne kamere za nadzor“, rekla je Nadia Kayyali iz Electronic Frontier Foundation za CBS San Francisco. „Ideja da se možete negde naći na javnom mestu i razgovarati u tišini… stvarno više nije realna“. I zaista, prema policiji San Francisca, prosečan stanovnik grada pojavljuje se desetinama puta na kamerama širom grada, u zavisnosti od svog kretanja. Kayyali kaže da novi nadzor kojem smo izloženi na dnevnoj bazi nadmašuje nadzor NSA-a.

Napredak tehnologije za prepoznavanje lica podiže izglede za još invazivniji i prisutniji nadzor, i privatni i javni. Naravno da će se te nove tehnologije uvek reklamirati pod firmom smanjenja terorizma ili kriminala i povećanja sigurnosti. Takav je slučaj FaceInt-a, baze podataka koja se sastoji od hiljada profila lica osumnjičenih za terorizam, koji su skupljeni sa sajtova društvenih mreža uključujući Facebook, YouTube i druge online forume. FaceInt je stvorila kompanija koja se zove Terrogence, koju je kupila izraelska firma Verint 2017. godine. Više od 35.000 online videa i fotografija pohranjeno je i analizirano od strane FaceInt-a, što je učinilo da Terragence postane još jedna bogata kompanija koja je, kao i Cambridge Analytica, umela da kapitalizuje otvorenost Facebook-a za svoje sumnjive ciljeve. Ne treba imati mnogo mašte da bi se zamislio „scope creep“ scenario u kome se podaci skupljeni zbog terorizma upotrebljavaju u domenu politike – ili čak za benefit korporacija ili drugih privatnih aktera. Tech kompanije, uključujuči i Amazon, pozicionirale su se da budu najveći igrači u tehnologiji prepoznavanja lica koja se prodaje policiji, a takvom razvoju se žestoko protive čak i mnogi zaposleni u tim kompanijama. Juna 2018. zaposleni u Amazonu potpisali su i napisali pismo Jeffu Bezosu u kojem su od njega tražili da naredi kompaniji da prestane s prodajom softvera za prepoznavanaj lica policiji i da prekine svoje poslovne dogovore sa Palantir-om, kompanijom koja se bavi pretragom podataka, koju je osnovao Peter Thiel. Thiel je milijarder investitor koji je sufinansirao PayPal i koji na neki čudan način sebe smatra libertarijancem. Palantir razvija prediktivne alate za bezbednost, vrstu tehnologije koja je do nedavno bila samo deo SF filmova kao što je Minority Report (Suvišni izveštaj). Ali „precrime“ je izašao iz filma u realnost, a kompanije kao Palantir i Amazon imaju poslednju reč u tim tehnologijama. Više od sto zaposlenih u Amazonu potpisalo je pismo koje glasi ovako:

Dragi Jeffe,

Muči nas najnoviji izveštaj ACLU u kojem se vidi da naša kompanija prodaje AWS Rekognition, moćnu tehnologiju za prepoznavanje lica, policijskim odeljenjima i vladinim agencijama. Ne moramo da čekamo i vidimo kako će ove tehnologije biti korišćene. Već znamo da usled istorijske militarizacije policije, ponovnog targetiranja crnih aktivista i povećanja federalnih snaga deportacije trenutno umešanih u kršenje ljudskih prava – ovo će biti još jedan moćan alat za državu nadzora, koji će na kraju poslužiti da se naudi onima koji su najviše marginalizovani. Nismo sami u ovom stavu: preko 40 organizacija za ljudska prava potpisale su otvoreno pismo kojim se protive tome da vlada koristi programe za prepoznavanja lica, dok je preko 150.000 pojedinaca potpisalo drugu peticiju koju je organizovao ACLU.

Takođe znamo da Palantir radi na AWS-u. I znamo da se ICE oslanja na Palantir da podrži njihove programe zatvaranja i deportacije. Zajedno sa velikim delom sveta sa užasom smo gledali kako su nedavno vlasti Sjedinjenih Država odvajale decu od svojih roditelja. Od 19. aprila 2018. Department of Homeland Security poslao je skoro 2.000 dece u masovne prihvatne centre. Ovakav tretman je protivan smernicama U.N. Refugee Agency, u kojima stoji da deca imaju pravo da ostanu zajedno sa svojim roditeljima i da tražioci azila imaju zakonsko pravo da taj status potražuju. Suočavajući se sa ovom nemoralnom politikom SAD-a, kao i sve nehumanijem tretmanu izbeglica i migranata koji pristižu u SAD, duboko smo zabrinuti da je Amazon umešan, obezbedivši strukturu i usluge za ICE i DHS.

Tehnologija kao što je naša u velikoj meri igra kritičnu ulogu u mnogim sektorima društva. Ono što je nama jasno jeste da naš razvoj i prodajne prakse tek treba da prihvate obaveze koje s tim idu. Fokusirajući se samo na vrednost za akcionare je trka ka dnu, i to ona u kojoj mi nećemo učestvovati.

Odbijamo da gradimo platformu koja omogućava ICE i odbijamo da doprinosimo alatima koji krše ljudska prava.

Kao etički zabrinuti Amazonci zahtevamo da možemo da biramo šta gradimo i da budemo pitani o tome kako će to biti korišteno. Naučili smo iz istorije i znamo kako su IBM-ovi sistemi bili angažovani 1940-ih da pomognu Hitleru. IBM nije preuzeo odgovornost tada, a do trenutka kada je njihova uloga u tome bila jasna, bilo je prekasno. Nećemo dozvoliti da se to ponovi. Vreme za delanje je sada.

Pozivamo te da:

1. Prestaneš da prodaješ sisteme za prepoznavanje lica policiji
2. Prestaneš da obezbeđuješ infrastrukturu Palantir-u i drugim partnerima Amazona koji omogućuju ICE.
3. Implementiraš mere transparentnosti i odgovornosti koje uključuju navođenje toga koje policijske snage i kompanije koje ih podržavaju koriste usluge Amazona i kako.

Naša kompanija ne bi trebalo da se bavi poslovima nadzora; mi ne treba da budemo u policijskom poslu; ne treba da budemo u poslu koji pomaže one koji nadgledaju i ugnjetavaju marginalizovane grupe.

Iskreno,

Amazonci

Naravno da naša vlada već dugo koristi tehnologiju da bi nas nadzirala – a neke od nas posmatra mnogo više nego neke druge. Verovatno je najklasičniji primer svih vremena za to COINTELPRO (COunter INTELligence PROgram) FBI-a. Originalno pušten u rad od strane FBI direktora J. Edgara Hoovera 1956. da nadgleda i osujeti američke komuniste, za dva meseca program je targetirao rastući pokret za grđanska prava. U jednom od najsumnjivijih akata nadzora u američkoj istoriji, Robert F. Kenedy, državni tužilac u administraciji Johna F. Kenedyja, odobrio je prisluškivanje telefona velečasnog Martina Luthera Kinga Jr-a. William Sullivan, glavni agent zadužen za COINTELPRO, reflektovao je preovlađujuće mišljenje u američkoj policiji kada je upozorio da „moramo obeležiti [Kinga]… kao najopasnijeg crnju za budućnost ove nacije“. Podsećam vas da je ovo bilo pre nego što je ikona građanskog pokreta dobila Nobelovu nagradu za svoju vodeću ulogu u nenasilnoj borbi protiv segregacije Jima Crowa, sprečavanja prava glasa i drugih rasnih nepravdi. Uz COINTELPRO FBI je prisluškivao Kingovu kuću i hotelske sobe, i slao mu anonimna pisma u kojima ga je podsticao na samoubistvo. Agenti su čak slali Kingovoj ženi snimke onoga što je navodno bio King s ljubavnicom. Kada je King prozvao FBI zbog ignorisanja užasnih zločina, čak ubistava, koje su potpuno nekažnjivo počinili pripadnici Ku-Klux-Klana, Hoover je bio besan. Čak je nazvao časnog Kinga „najvećim lažovom nacije“. Kao što je i danas slučaj u Sjedinjenim Državama, identifikovanje i osuđivanje rasizma prečesto je viđeno kao gori prekršaj od rasizma samog. Kao da bi se i moglo očekivati drugačije od nacije izgrađene na genocidu i ropstvu?

Drugi ubijeni div pokreta za građanska prava iz 1960-ih, Malcolm X, takođe je targetiran uz COINTELPRO. Agenti FBI-a infiltrirali su se u njegovu Organization of Afro-American Unity, tokom poslednjih meseci njegovog života, podstičući razdor i konflikt među članovima grupe, što je dovelo do atentata na Malcolma. Druge targetirane grupe bile su i Black Panther Party, American Indian Movement, Nation of Islam, Socialist Workers Party, Ku Klux Klan, National Lawyers Guild, pokret za oslobođenje žena i druge grupe i pokreti kako na levici tako i na desnici. Ali ono najgore od COINTELPRO-a i pridruženih mu grupa: nadzor, infiltracije, psihološke operacije, nelegalna uznemiravanja, nasilje, pa čak i atentati (pre svega atentat na lidere Black Panthers-a Freda Hamptona i Marka Clarka u Chicagu 1969) bila su rezervisana za crnce koji su se borili za pravdu i jednakost koja im je davno obećana, ali im je dugo uskraćivana od strane njihove zemlje.

Previše ljudi misli da je tako beskrupulozan – a svakako neustavan – rasni nadzor stvar davne prošlosti. Nije. Federalna, državna i lokalna policija se infiltrirala, pratila i nadzirala Black Lives Matter i druge grupe. Za vreme njihovih protesta 2014, u kojima je u fatalnoj policijskoj pucnjavi stradao Michael Brown u Fergusonu, Missouri, FBI agenti pratili su aktiviste koji su stizali iz svih delova zemlje da bi učestvovali na demonstracijama.

I nisu u pitanju samo rasne grupe za pravdu. Dokumenti prikupljeni od strane Intercept-a bacaju svetlo na aktivnosti nadzora koje idu mnogo dalje od online nadzora koje je prethodno prijavljeno. Iako prilično redigovani, dokumenti su ukazivali na to da su federalni agenti stavili pod prismotru kuće i vozila ljudi povezanih sa pokretom Black Lives Matter. U Memphisu, policija je čak otišla dotle da je kreirala lažne naloge na društvenim mrežama da bi špijunirala BLM. Nakon što je sve priznao, gradski pravnik je ovakav tajni nadzor nazvao „jednostavno dobro obavljenim policijskim poslom“.

U jednom pomalo i smešnom incidentu, Massachusetts State Police slučajno je tvitnula fotografiju koja pokazuje progresivne grupe bookmarkovane u browseru, potvrđujući sumnje ljudi u pokretima kao Occupy, Black Lives Matter, Antifa i drugim pokretima za socijanu pravdu.

Postoji i duga istorija vlade SAD-a i privatnih kompanija ili interesnih grupa kako rade zajedno na draftovima lista i baza podataka za nadzor targetiranih grupa ili pojedinaca. Ali naročito od 9/11 čini se da smo konstantno nadzirani. Naša vlada nas nadgleda. Korporacije nas nadgledaju, naročito one za koje radimo. Naši uređaji nas nadgledaju – sećam se da sam se smejao kad je jedan profesor sa koledža predvideo 1990-ih da će nas jednog dana čak i naše wc šolje i frižideri nadgledati. E pa, internet stvari je stigao, ovde je da ostane, i iako mogu da raportiram da imam onaj old-school frižider, postoji mnogo frižidera i drugih kućnih aparata koji su povezani sa internetom. I da, 2018. godine na Consumer Electronics Show-u u Las Vegasu Kohler je predstavio svoj Numi multifunkcionalni toalet, podržan od strane Amazon-ove Alexe. Možete zamoliti Numi da vam pripremi bide, pusti pesme sa vaše plejliste (ima i zvučnike) i čak snizi sedište!

Ako uopšte postoji dobra strana masovnog nadzora, onda su to ljudi širom sveta koji postaju toga svesni i koji se bore protiv toga. Informisani ljudi stvarno mogu napraviti razliku, kao što smo videli 2012. za vreme koordinisanih protesta protiv dva predložena zakona, Stop Online Piracy Act (SOPA) i PROTECT IP Act (PIPA), o kojima su kritičari, uključujući i mene, raspravljali da bi mogli narušiti slobodu govora online. Organizovani od strane Fight for the Future, protesti – i on i offline – protiv SOPA i PIPA aktivirali su preko 100.000 sajtova i milione ljudi. Milioni Amerikanaca slali su mejlove svojim predstavnicima u Kongresu protiveći se zakonima. U Google peticiji skupljeno je više od 4,5 miliona potpisa. Wikipedia i Reddit vodili su online proteste tako što su privremeno gasili svoj sajt preusmeravajući korisnike na stranicu sa informacijama o tome zašto se protive tim zakonima. Drugi sajtovi – uključujući Google, Flickr i Mozilla – upadljivo su iskazivali svoje protivljenje, dok su kompanije koje su podržavale te mere, uključujući GoDaddy, doživljavale bojkot. Usred svega toga, Bela kuća pod Barackom Obamom izdala je saopštenje u kojem obećava da administracija „neće podržati zakone koji smanjuju slobodu govora, povećavaju rizike sajber- bezbednosti, ili koji podrivaju dinamični, globalni internet“. Protesti su upalili; ni SOPA ni PIPA nisu postali važeći zakoni. Bilo bi dobro da zapamtimo koji je nivo budnosti i akcije potreban da bi se porazile mere koje krše naša prava. Kao što je EFF rekao: „Ako nas je pobeda nad SOPA/ PIPA naučila bilo čemu, to je da od nas zavisi da li će internet ostati mesto kojem svako može da pristupi pouzdano i da može da priušti sebi da deli, da se povezuje i da slobodno stvara.

Još jedna rastuća borba za privatnost uključuje uslove upotrebe (terms of service). Maja 2018. Vrhovni sud jednoglasno je presudio u slučaju Byrd vs. United States da je vozač iznajmljenog auta imao ustavno pravo na razumno očekivanje privatnosti u vozilu iako nije bio ovlašćen da upravlja vozilom pod uslovima ugovora za iznajmljivanje vozila. U tom konkretnom slučaju policija države Pennsylvania zaustavila je Terrencea Byrda, koji je vozio iznajmljeni auto koji mu je njegova devojka pozajmila; njegova devojka je bila jedina ovlašćena da upravlja vozilom prema ugovoru o iznajmljivanju. Državni policajci su iskoristili ovu činjenicu kao opravdani razlog da pretraže vozilo, u kojem su otkrili 49 paketa heroina. Byrd je tvrdio da je pretragom vozila prekršen Četvrti amandman, kojim se zabranjuje neopravdana pretraga i napad. Dva niža suda presudila su protiv njega, ali je Vrhovni sud presudio u njegovu korist. U suštini, ono što je Vrhovni sud rekao bilo je da nečija očekivanja poštovanja privatnosti ne treba da zavise od sitnih slova u ugovoru o iznajmljivanju vozila ili sličnom sporazumu.83 U drugim slučajevima, sudovi – uključujući i Vrhovni sud – odlučivali su da i samo time što ste pristali na uslove pružanja neke usluge to znači da se odričete svojih prava garantovanih Četvrtim amandmanom. To je bio slučaj u United States v. Frank DiTomasso, u kojem je AOL prijavio čoveka za online prenos dečje pornografije. Sud je presudio da:

Razumna osoba upoznata sa uslovima upotrebe AOL-a razumela je da pristajući na uslove upotrebe, pristaje ne samo na monitoring od strane AOL-a kao ISP, nego i na monitoring od strane AOL-a kao vladinog agenta. Prema tome, DiTomassovo pozivanje na prava garantovana Četvrtim amandmanom ne mogu da se odnose na sporne mejlove.

Presuda u slučaju DiTomasso citira slučaj Smith v. Maryland, u kojem Vrhovni sud pravi razliku između „sadržaja komunikacije“ i „pomoćne“ informacije slučajno objavljene takvom komunikacijom. Podatak – prvopomenuti – jeste zaštićen Četvrtim amandmanom, dok potonji, često metapodatak, gubi pravo na ustavnu zaštitu nakon objavljivanja. DiTomasso takođe citira United States v. Jones, u kojem je Vrhovni sud našao da, pod Četvrtim amandmanom instaliranje GPS uređaja za praćenje na vozila i praćenje njegovog kretanja predstavlja pretragu. Sudija Sonya Sotomayor napisala je:

Može biti potrebno da se ponovo razmotri premisa da pojedinac nema razumna očekivanja zaštite privatnosti informacija koje je dobrovoljno objavio trećoj strani… Ovaj pristup nije prikladan za digitalno doba, u kojem ljudi otkrivaju mnogo informacija o sebi trećoj strani u cilju izvršenja svakodnevnih zadataka. Ljudi objavljuju brojeve telefona koje ukucaju ili tekstove svojih poruka provajderima mobilne telefonije; URL adrese koje posećuju i mejl adrese s kojima vrše korespondenciju svojim internet provajderima; kao i knjige, namirnice i lekove koje kupuju online svojim maloprodajnim lancima.

5-Veštačka inteligencija (Artificial Intelligence, AI)

AI je glavna tema u gradu ovih dana i čini se da su svi uzbuđeni oko napretka, mogućnosti i rizika koje nosi razvoj veštačke inteligencije. Unapređena kreacija mašine koja misli uzbuđuje čovečanstvo svojim mogućnostima, ali i pokreće ozbiljna etička pitanja kojima se moramo pozabaviti što pre. Nisu samo etičari zabrinuti oko toga da mašine ne naude ljudima, nego se oni moraju uhvatiti u koštac i sa pitanjima o moralnom statusu samih mašina. S obzirom na to da se automatizacija radnih mesta dešava vrlo brzo, kako možemo najbolje upravljati procesima neizbežnih ukidanja radnih mesta i zamena ljudi mašinama koji će se sigurno desiti? Kako da najbolje distribuiramo bogatstvo koje se stvara radom mašina? Kako se štitimo od AI biasa (da, to postoji) Kako da zaštitimo AI od protivnika? Kako će AI uticati na to kako se ponašamo i kakva je naša interakcija ne samo sa drugim ljudima nego i sa samom AI? Kako možemo da se zaštitimo od grešaka počinjenih od strane AI i kako ćemo, dođavola, nastaviti kada jednom dostignemo singularnost (tačka posle koje AI evoluira izvan granica ljudske inteligencije u ono što neki veruju da će biti super-inteligencija, što može značiti kraj čovečanstva)? Kako ćemo upravljati nenamernim posledicama? Koja ćemo, ako ćemo uopšte, prava dodeliti inteligentnim mašinama koje stvorimo? Na ova i druga kritična pitanja mora biti odgovoreno pre nego što nastavimo sa etičkim i odgovornim razvojem AI.

Kao duhovan čovek i kao učenik pok. velečasnog dr Howarda Thurmana, ja verujem da je sav život svet. Ako je sav život svet, onda AI treba etički da bude vezana za očuvanje života. „Ne ubij“ bi trebalo da bude jedan od temeljnih principa koji nas vode u razvoju AI. Ako je to tako, onda je veoma neetično raditi na promociji tech kompanija koje ne poštuju ovaj suštinski vodeći princip. Postoje tech kompanije koje proizvode oruđa za ratovanje, oruđa čija je jedina svrha ubijanje drugih ljudskih bića. Mnoge od ovih kompanije su se neverovatno obogatile nudeći Smrt i Uništenje kao uslugu (Death and Destruction as a Service). Drugi su saučesnici u održavanju i promovisanju mašinerije sistemskog ugnjetavanja. Nažalost, rat i ugnjetavanje krajnje su unosni poslovi. Kako visoki korporativni menadžment tako i planeri iz Pentagona, ti blizanci-stubovi vojno-industrijskog kompleksa, balave nad mogućnostima za profit i moć koju vide u veštačkoj inteligenciji. Kada većina ljudi razmišlja o veštačkoj inteligenciji i bojnom polju budućnosti, obično zamišljaju scene iz Terminatora, ili drugih SF filmova iz mladosti. Na kraće staze je verovatnije da će AI biti „omogućivač“, kao struja ili motor sa unutrašnjim sagorevanjem u nekim ranijim vremenima. AI će poboljšati preciznost i efikasnost oružanih sistema. Učiniće ih bržim, agilnijim, i omogućiće im da brže reaguju na promenu stanja na bojnom polju. Sposobnost da se brzo obradi neverovatno veliki broj podataka koji pristižu u vreme rata biće od kritične važnosti za postizanje uspeha misije, a AI je ključna za ostvarenje ove mogućnosti. Naravno, u nekom trenutku, Skynet, svemogući vladar u Terminator franšizi, postaće veoma realna mogućnost. Elon Musk i veliki preminuli Stephen Howking su među mnogim vodećim umovima koji su rekli da se plaše da bi AI mogao inicirati Treći svetski rat ili nešto još gore. 88 Kada je ulog potencijalno nestanak čovečanstva, zar ne bi bilo razborito nastaviti sa dobro definisanim i unverzalno prihvaćenim etičkim pravilima za AI?

Vojno-industrijski kompleks nam je dao neke od najvažnijih stvari koje danas imamo u životu. Danas nezamenljivi internet, na prmer, rođen je pre pola veka u Defense Department’s Advanced Research Projects Agency (ARPA). Bilo bi naivno zagovarati potpuno uništenje određenih aspekata i elemenata vojno-industrijskog kompleksa, ali etika je važnija nego ikad u ovoj oblasti. Baš kao što je društvo razvilo etički okvir da bi upravljala korišćenjem interneta, sada mora da razradi pravila za upotrebu veštačke inteligencije. I baš kao što su monitoring grupe, zviždači i drugi aktivisti palili alarm kad god bi vladine, korporativne ili druge snage pokušale da se narugaju pravilima (pada na pamet borba oko neutralnosti interneta), sada kad se suočavamo sa ubrzanim razvojem AI tehnologije i njenih mnogih aplikacija, moramo uvek biti na oprezu.

Mnogo više nego vojska – kojoj je, na kraju krajeva, ubijanje ljudi u opisu posla – tech kompanije se bore sa smernicama i osmišljavaju nove za etički razvoj i upotrebu veštačke inteligencije. Google je skoro pustio set etički principa za AI koji uključuju i to da se bude na korist društva, izbegavajući algoritamski bias, kao i biti siguran i štititi privatnost. Google je eksplicitno naveo da oni ne bi razvijali ili angažovali AI za naoružanje, ilegalan nadzor, kršenje međunarodnog ili ljudskih prava ili „tehnologije koje uzrokuju ili postoji mogućnost da uzrokuju sveopšte zlo“ Dok su Google-u aplaudirali što su se bavili stvarima koje izazivaju zabrinutost zbog neetičke upotrebe veštačke inteligencije, zagovornici digitalnih prava, uključujući Electronic Frontier Foundation, izrazili su zabrinutost oko toga da etičke politike kao što je Google-ova ne idu dovoljno daleko. Google se, na primer, nije obavezao ni na kakvu nezavisnu transparentnu proveru koja bi nas uverila da se kompanija pridržava sopstvenih etičkih principa. I dok se Google-ov etički kod obavezuje na izbegavanje zloupotrebe ljudskih prava, spremnost kompanije da se povinuje volji kineske vlade zbog toga da može da radi sa jednim od najvećih tržišta potrošača na svetu, već predstavlja nepoštovanje sopstvenih navodnih principa.

Kao što sam rekao, kada većima ljudi zamišlja potencijalne opasnosti od AI, oni zamišljaju situaciju tipa Terminator, gde „probuđene“ mašine daleko prevaziđu ljude u inteligenciji i onda nas ili istrebe ili nas uzmu za svoje robove – ili još gore, nešto tipa izvor hrane a la Matrix. Prave opasnosti sa kojima ćemo se verovatnije suočiti od strane AI su manje apokaliptične, ali i dalje veoma rizične. Uzmite Deepfakes, AI softver koji uređuje veštačke slike lica, na primer. Neko zlonameran bi mogao kreirati lažan pornografski sadržaj, u kojem bi lice neke poznate osobe – ili vaše – moglo da se digitalno umetne preko lica glumca u filmu za odrasle. Ariana Grande, Gal Gadot i Taylor Swift su među onima koji su već targetirani.