Silicon Valley je uprostred prebudenia, svitania, ale selektívneho uvedomenia si, že ich výrobky môžu byť použité na dosiahnutie hrozných cieľov.
V posledných niekoľkých mesiacoch tento rastúci nepokoj prerástol do priamej povstania v rámci radov a spisov niektorých z najväčších spoločností v doline, ktoré sa začali v apríli, keď sa zamestnanci spoločnosti Google priklonili k účasti spoločnosti na programe umelej inteligencie Pentagonu s názvom Projekt. Maven. Akcionári Amazonu v pondelok zaslali otvorený list, v ktorom požiadali generálneho riaditeľa Jeffa Bezosa, aby zastavil program na vývoj softvéru na rozpoznávanie tváre pre vlády, ktorý čaká na preskúmanie predstavenstvom. Aj tento týždeň, keď sa v súvislosti s novou prisťahovaleckou politikou Trumpovej administratívy s nulovou toleranciou, ktorá viedla k oddeleniu viac ako 2 000 detí od ich rodičov, vytvorila všeobecná hrôza, zamestnanci spoločnosti Microsoft namietali proti tomu, aby ich spoločnosť uzavrela zmluvu s USA o prisťahovalectve a colnom vymáhaní používať cloudové služby spoločnosti Azure od spoločnosti Microsoft.
„Sme súčasťou rastúceho hnutia, ktoré sa skladá z mnohých v celom odvetví, ktoré uznávajú vážnu zodpovednosť, že tí, ktorí vyrábajú výkonnú technológiu, musia zabezpečiť, aby sa to, čo vyrábajú, používalo pre dobro a nie pre škodu, “číta otvorený list zaslaný spoločnosti interná výveska utorok.
V ten istý deň prezident Microsoftu Brad Smith uverejnil blogový príspevok, v ktorom vyzval vládu, aby ukončila politiku nulovej tolerancie. Poukázal tiež na to, že spoločnosť Microsoft spoluzakladala program Deti v núdzi, ktorý je jednou z najväčších skupín zameraných na obhajobu prisťahovalcov, ktorá sa snaží o opätovné spojenie detí a rodičov a ktorej správnej rade predsedá sám Smith. Generálna riaditeľka Satya Nadella v stredu zaslala celospoločenskú poznámku, ktorú zverejnil aj online, a ubezpečil zamestnancov, že Azure nebol použitý na podporu oddelenia ICE od rodín. Ďalší lídri Silicon Valley nasledovali tento krok v tom, že sa verejne postavili proti Trumpovej imigračnej politike: Facebook CEO Mark Zuckerberg získava peniaze pre organizácie pracujúce na hraniciach, Apple Tim Cook označil túto politiku za nehumánnu a Cisco Cuck Chbin Robbins vyzval Trumpa, aby túto politiku ukončil. iní.
Teraz je otázkou, či sa jedná o začiatok väčšieho uvažovania o úlohe, ktorú technológia zohráva nielen pri práci vlády, ale vo všetkých aspektoch života. Vnútorné pobúrenie Silicon Valley môže mať najväčšiu moc, keď je zamerané na to, čo sa o sebe rozbije.
V týchto spoločnostiach máte veľa moci. Nestrácajte príležitosť. Existuje toľko ďalších vecí, ktoré treba zmeniť
Kathy Pham, kolega z Berkman Klein Center
Doteraz sa výhrady technologických zamestnancov väčšinou zameriavali na prácu ich spoločností s vládou na významných vojenských projektoch alebo projektoch presadzovania práva. Spätná väzba je silná: CEO spoločnosti Google Cloud Diane Greene 1 oznámila, že spoločnosť Google neobnoví zmluvu s ministerstvom obrany. Hoci spoločnosť Microsoft nezrušila svoju zmluvu o ICE, okamžite sa rozhodla zaoberať obavami svojich zamestnancov.
Vládne zmluvy, ako sú tieto, sú však malou časťou problémov v technike. „Je ľahké postaviť sa proti DOD a robotom alebo ICE pomocou vášho cloudu. Sú to určité skutočne hmatateľné veci, ktorým sa musíte postaviť, ale medzitým vaša spoločnosť robí všetky tieto veci, ktoré si zaslúžia hlbšiu kontrolu, “hovorí Kathy Pham, bývalá produktová manažérka spoločnosti Google a zakladajúca vedúca pozícia produktu v americkej digitálnej službe. Ako členka Centra pre internet a spoločnosť Berkmana Kleina v súčasnosti študuje, ako urobiť z techniky etickejší priemysel.
Kde, ona a iní sa čudujú, je táto úroveň obáv z vlastných politík a produktov spoločnosti Silicon Valley, ktorá vylučuje, distribuuje alebo inak ubližuje ľuďom?
Každodenné etické záujmy
Keď Pham prvýkrát čítala správy Google Maven, premýšľala, prečo si zamestnanci spoločnosti Google len teraz uvedomujú, že produkty spoločnosti môžu byť používané škodlivými spôsobmi. Kde došlo k výtržnosti nad tým, ako sa Mapy Google používajú na sledovanie? Jej otázka sa odráža v myšlienkach autora Yashy Levine, ktorá poukázala na používanie Máp Google v Mapách. V pondelok povedala kolegyni Nitahsovi Tiku: „Vďaka tomu je spoločnosť Google spoluúčasťou na prisťahovaleckej politike Trumpa? Hovorím, že áno.“Levine je znepokojená všetkými mnohými bežnými spôsobmi, ktoré používajú mocné záujmy, píšu dnes na Twitteri: „Keď sa všetci trápili nad Cambridge Analytica, pripomenula som ľuďom, že silné záujmy používajú takúto techniku stále, vrátane Charlesa Kocha a spol."
Tento problém presahuje vládnu integráciu a viac ako ktorákoľvek technologická spoločnosť. Kde je verejný protest o zaujatých výsledkoch vyhľadávania? Svetská ekonomika dohľadu? Alebo rasistický softvér na rozpoznávanie tváre? Akadémia a tlač sa týmto otázkam neustále venovali, ale nepriniesli vzburu zvnútra spoločností, ktoré ich používajú a rozvíjajú.
Nevideli sme verejnú kritiku zo strany zamestnancov spoločnosti Google, pokiaľ ide o spôsob, akým nacisti spolupracujú na službe Google Plus po tom, ako sú odštartovaní zo služieb Twitter a Facebook, alebo nočná mora o súkromí týkajúca sa spôsobu sledovania ľudí. V rámci Facebooku sme nevideli príliš veľkú verejnú kritiku za úlohu, ktorú zohráva jeho platforma pri šírení falošnej politickej propagandy, napríklad počas volieb v USA v roku 2016 a po celom svete na miestach, ako je Srí Lanka, napriek tomu, že čelia veľkej vonkajšej kritike.
Facebook bol nútený nejakým spôsobom reagovať na škandál Cambridge Analytica a odvtedy podnikol kroky na vyčistenie falošných správ na webe. Zdá sa však, že týmto snahám chýba širšie sebavedomie o rozsahu problémov a spôsoboch, ktorými na mieste prekvitala dezinformácia využitím výhod funkcií, nie chýb, na platforme. Zuckerbergovo svedectvo o kongresoch a následné ticho v doline viedlo nedávno dlhoročného experta na pobyt a správu Toma Petersa, aby Recode povedal, že Silicon Valley sa stala „morálnou žumpou“.
Bývalý zamestnanec Facebooku Sandy Parakilas v utorok na Twitteri napísal: „Pre vedúcich technikov, ktorí urobili zlé rozhodnutia, ktoré nás sem dostali, a ktorí zdesili svoju hrôzu v politike odlúčenia detí: Toto je vaša chyba! Na to nikdy nezabudnite.“V nadväznosti na WIRED vysvetlil, že je osobitne naštvaný, že technickí vodcovia, ako je Zuckerberg, ktorého výber dizajnu a výrobkov pomohol zvoliť Donalda Trumpa, by teraz vystúpili proti jeho politikám bez toho, aby uznali svoju vlastnú vinu.
Aby to bolo ešte horšie, hovorí: „tak málo z nich zavolalo Trumpa menom. Myslím si, že je zbabelé vyjadriť rozhorčenie nad touto politikou a zároveň pokračovať v obchodovaní s administratívou bez toho, aby sme menovali priamo zodpovednú osobu. ““
Selektívne pobúrenie
Tak prečo má technický priemysel hlasnejší hlas o vládnych zmluvách ako práca uvarená vo vlastných kuchyniach?
Zamestnanci spoločnosti Silicon Valley sa považujú za súčasť riešenia problémov spoločnosti, nie za problém. A história vládnych partnerstiev nie je zlá. Koniec koncov, samotný celosvetový web bol projektom financovaným vládou. Prvé dni údolia sa živili podporou vlády USA. A mnoho partnerstiev medzi vládou a vládou má obdivuhodné úmysly. Vezmite USDS, ktorý sa snaží fungovať ako startup, aby vyriešil technické problémy svižnejšie, ako to vládna byrokracia zvyčajne umožňuje.
Avšak extrémna polarizácia americkej politiky prenikla do každodenného života. Teraz sa všetko cíti politicky, dokonca aj tech. A pretože správa Trumpov bola definovaná kontroverznosťou a politikou, ktorú mnohí ľudia považujú za nevhodnú, akákoľvek aliancia vládnych technológií sa stala podozrivou. To spolu s kakofóniou na sociálnych médiách vytvára prostredie, v ktorom sa ľudia cítia povinní hovoriť o všetkom, čo v spravodajskom cykle prevláda. To isté sme videli minulý rok po tom, čo bieli supremacisti pochodovali v Charlottesville: Google a GoDaddy odmietli hostiť nacistické webové stránky a spoločnosť AirBnB uzavrela účty bielych supremacistov. (Aj keď aj tu existujú obmedzenia - napríklad diskusia o kontrole zbrane nezískala rovnakú pozornosť zo sveta techniky.)
Pham zdôrazňuje, že aj za prezidenta Baracka Obamu existovali problematické politiky. "[Verejnosť] mala pravdepodobne tiež skúmať veci, ale pretože bol oveľa chutnejším prezidentom, niektoré zmluvy sme viac ignorovali, " hovorí. Pamätá si, že keď pracovala v USDS, jej tím musel napísať Obamovi list, v ktorom vysvetlil, prečo bolo zlepšenie bezpečnosti, ktoré chcel urobiť, veľmi zlý nápad.
Analytik a spisovateľ Silicon Valley Ben Thompson, ktorý v minulom roku tvrdil, že technickí riaditelia nemôžu odmietnuť spoluprácu s Trumpom, hovorí, že politika nulovej tolerancie prekračuje morálnu hranicu, ktorá vyžaduje, aby technickí lídri prijali opatrenia. V stredu vo svojom veľmi vplyvnom denníku spravodajcu dospel k záveru, že „zachovávajú - alebo, ako sa to často stáva, presadzujú - základné ľudské práva, podľa ktorých tieto slobody nie sú len občianskou zodpovednosťou, ale aj konečnou zvereneckou povinnosťou“.
Spoluúčasť s nemorálnymi vládnymi politikami je pre technikov ľahkým spôsobom, ako nakresliť čiaru do piesku. Tieto zmluvy sú jasne definované a zverejnené v tlači. Poznáme príbeh spoločností, ktoré sa zúčastňujú na nemorálnych vládnych krokoch - ľudia si pamätajú, ako napríklad IBM spolupracovala napríklad s nacistickým Nemeckom. Môže byť ťažšie určiť, ako algoritmy narušujú spoločnosť alebo čo s tým majú robiť.
A hoci sú vokálni, zamestnanci hovoriaci o spolupráci svojich spoločností s vládnymi agentúrami sú stále menšinou. Viac ako 4 000 zamestnancov spoločnosti Google podpísalo petíciu o zrušení zmluvy o projekte Maven, ale v spoločnosti je viac ako 85 000 zamestnancov. V utorok večer podpísalo otvorený list spoločnosti Microsoft viac ako 100 ľudí - spoločnosť s viac ako 124 000 spoločnosťami.
Kde je váš hlas najhlasnejší
Mnohí zamestnanci sa zdráhajú hovoriť o politikách v rámci svojej vlastnej spoločnosti, aj keď chcú, pretože by ich to mohlo viesť k prepusteniu alebo žalovaniu. V niektorých prípadoch zamestnanci uverejňujú príspevky na interných nástenkách, ako sú tie, ktoré používajú zamestnanci spoločnosti Microsoft na vyjadrenie svojich obáv, a títo nie vždy unikajú do tlače. Bývalí zamestnanci majú lepšiu pozíciu na to, aby sa vyjadrili.
Okrem toho je veľmi ťažké postaviť sa proti niečomu, čo ste vy alebo tím vytvorili, aj keď sledujete, či je niečo zneužívané alebo zneužívané. „Mapy Google a Google tracking sú deti ľudí, ich srdcia a duše sú v nich, “hovorí Pham a náhodne vyberie príklad. To isté platí pre Newsfeed na Facebooku, práve v produkte, ktorý si Rusko počas volieb vysievalo rozpory.
Technickí lídri čoraz častejšie berú narážky na svojich zamestnancov. Ale aj oni môžu robiť viac ako hovoriť. Zuckerbergov príspevok na Facebooku, v ktorom sa žiada, aby ľudia získavali peniaze na obhajcov prisťahovalectva, napríklad prikrmuje niektorých ľudí, ktorí uvažujú o vlastnom obrovskom osobnom bohatstve.
Aby bolo etické prebudenie v Silicon Valley skutočné, musí ísť nad rámec rozbehnutého vlaku a obrátiť svoje kritické oko späť na seba.
