Nedávne víťazstvo Microsoftu pri pristátí zmluvy na cloud computing s Pentagonom vo výške 10 miliárd dolárov s názvom JEDI by mohlo skomplikovať život jednému z partnerov softvérových gigantov: nezávislému výskumnému laboratóriu pre výskum umelej inteligencie OpenAI.
OpenAI bol vytvorený v roku 2015 svetelníkmi Silicon Valley vrátane Elon Musk, aby sa pozrel do ďalekého horizontu a zachránil svet. Novonarodená nezisková organizácia vyhlásila, že má záväzky v celkovej výške 1 miliardy dolárov a bude pracovať na AI „prospieť ľudstvu ako celku, neobmedzenému potrebou generovania finančnej návratnosti.“OpenAI sa však v tomto roku reštrukturalizovala na zisk, pričom uviedla, že potrebuje viac peňazí na splniť svoje ciele a od spoločnosti Microsoft vzal 1 miliardu dolárov v rámci dohody, ktorá zahŕňa pomoc spoločnosti cloudovej divízie pri vývoji novej technológie AI.
Teraz víťazstvo spoločnosti Microsoft v oblasti JEDI zvyšuje možnosť, že práca organizácie OpenAI v prospech ľudstva môže slúžiť aj americkej armáde.
Na otázku, či by niečo nemohlo zabrániť tomu, aby sa technológia OpenAI dostala do Pentagonu, generálny riaditeľ laboratória Sam Altman uviedol, že zmluva so spoločnosťou Microsoft vyžaduje „vzájomnú dohodu“predtým, ako softvérová gigant bude môcť komercializovať akúkoľvek konkrétnu technológiu z laboratória. Odmietol diskutovať o tom, s čím by mohol súhlasiť OpenAI alebo s akým postojom spoločnosti pomáha americkej armáde. Microsoft odmietol vyjadriť sa k svojej dohode so spoločnosťou OpenAI.
Existuje dôvod myslieť si, že plody spolupráce môžu zaujímať armádu. Cloudová stratégia Pentagonu uvádza štyri princípy zmluvy JEDI, medzi ktoré patrí aj zlepšenie jej schopností AI. Prichádza to uprostred jej širšieho tlaku na rozvoj AI v technologickom priemysle, ktorý sa považuje za ďaleko pred vládou.
Ministr obrany Mark Esper na minulotýždňovej konferencii uviedol, že budovanie vojenskej AI bolo rozhodujúce na to, aby zostali pred primárnymi konkurentmi Pentagonu, Čínou a Ruskom. "Existuje niekoľko kľúčových technológií, " uviedol. "Dal som AI číslo jedna."
OpenAI je známy pre honosné projekty, ktoré posúvajú hranice technológie tým, že zhromažďujú obrovské množstvá výpočtového výkonu za algoritmy strojového učenia. Laboratórium vyvinulo roboty, ktoré hrajú komplexnú videohru Dota 2, softvér, ktorý vytvára prekvapivo tekutý text, a riadiaci systém robota schopný manipulovať s Rubikovou kockou. Zdá sa, že žiadna z nich nebude pre Microsoft alebo jej zákazníkov okamžite užitočná, ale infraštruktúra, ktorú OpenAI vybudovala, aby poháňala svoje honosné ukážky, by sa mohla prispôsobiť pragmatickejším aplikáciám.
Užšie vzťahy s Pentagónom - a najmä so zmluvou JEDI - spôsobujú, že niektorí ľudia v technologickom priemysle sú nepohodlní.
V minulom roku protesty zamestnancov, a to aj od výskumných pracovníkov v oblasti AI, prinútili spoločnosť Google povedať, že by to neobnovilo zmluvu, v ktorej sa uplatňuje AI na snímanie sledovacích snímok. Google tiež vydal súbor etických princípov pre svoje projekty AI, ktoré umožňujú vojenskú prácu, ale zakazujú vývoj zbraní. Spoločnosť neskôr stiahla svoju ponuku JEDI s tým, že zmluva je v rozpore s týmito novými pravidlami etiky AI.
Microsoft čelil vlastným vnútorným sťažnostiam potom, čo v roku 2018 získal kontrakt na armádu v hodnote 480 miliónov dolárov, ktorého cieľom bolo dať americkým vojakom „zvýšenú letalitu“tým, že ich vybavil náhlavnou súpravou s rozšírenou realitou spoločnosti HoloLens. Opozícia sa objavila aj proti jej ponuke JEDI. Niektorí zamestnanci vydali protestný list, v ktorom vyzývajú spoločnosť, aby vytvorila spoločnosť ako Google a stiahla svoje ihrisko z etických dôvodov.
Generálna riaditeľka spoločnosti Microsoft Satya Nadella odmietla obavy z práce s armádou. "Ako americká spoločnosť nebudeme zadržiavať technológiu od inštitúcií, ktoré sme si vybrali v našej demokracii na ochranu slobôd, ktoré požívame, " uviedol v rozhovore, ktorý uverejnil Quartz minulý týždeň.
OpenAI nevydal žiadne podobné verejné vyhlásenie. Laboratórium naliehalo opatrne na moc AI a minulý rok prispelo k správe, ktorá upozornila na nebezpečenstvo zneužívania AI, a to aj zo strany vlád. Politici a výskumní pracovníci OpenAI boli ocenení aj v dvoch nedávnych správach týkajúcich sa vojenskej AI, od poradnej skupiny Pentagonu, ktorá vypracovala etické usmernenia AI, a od kongresovej komisie, ktorá vyhlásila za prioritu národnej bezpečnosti, aby vládne agentúry mohli využívať AI v súkromnom sektore.
Lídri organizácie OpenAI tvrdia, že je právne viazaná na chartu vytvorenú jej pôvodnou neziskovou inkarnáciou, ktorá stále existuje ako akýsi dozorca. Zdá sa, že tento krátky dokument, ktorý má menej ako 400 slov, neovplyvňuje obchodné rokovania spoločnosti, pokiaľ OpenAI usúdi, že jeho vplyv na rozmiestnenie AI je „v prospech všetkých“a vyhýba sa použitiu „, ktoré poškodzujú ľudstvo alebo neprimerane koncentrujú“. moc."
