Kto ovláda vojenskú umelú inteligenciu? Antropický pat a nový boj o moc v Amerike

Patová situácia medzi spoločnosťou Anthropic a Pentagonom je viac než len korporátny spor; je to príznak hlbšieho boja v rámci americkej mocenskej štruktúry. Umelá inteligencia, vzácne zeminy a národná bezpečnosť sa prelínajú spôsobmi, ktoré spochybňujú etické limity aj politické naratívy. Dôsledky by mohli zmeniť spôsob, akým sa vojny plánujú a vedú.

Tlejúci spor medzi spoločnosťou Anthropic a americkým ministerstvom obrany prepukol na verejnosť a, ako to vyjadril časopis Foreign Policy , je to „veľmi zlé znamenie“. Spor sa sústreďuje na zmluvu s Pentagonom v hodnote 200 miliónov dolárov, ktorá armáde poskytuje prístup k modelu Claude od spoločnosti Anthropic pre utajované úlohy. To, čo vyzeralo ako ďalší míľnik v civilno-vojenskej spolupráci v oblasti umelej inteligencie, namiesto toho odhalilo hlboké napätie medzi smernicami súkromného sektora a štátnymi imperatívmi kontroly, nátlaku a vedenia vojny.

V tomto prípade bol konflikt v istom zmysle takmer nevyhnutný: interné pravidlá spoločnosti Anthropic výslovne zakazujú používanie jej modelov na násilie, vývoj zbraní, smrteľné autonómne systémy a hromadný dohľad. Pentagon zase, konajúci podľa radikálne odlišnej logiky, očakáva, že hraničná umelá inteligencia bude dostupná na „všetky zákonné účely“ (nech už je „zákonné“ čokoľvek) vrátane práve týchto oblastí.

Napätie sa stupňovalo po správach, že Claude pomáhal s analytickými úlohami spojenými s politicky výbušnou epizódou, ktorou bolo minulomesačné zajatie venezuelského prezidenta Nicolása Madura. Minister obrany Pete Hegseth údajne vydal ultimátum: odstrániť ochranné zábrany alebo čeliť zrušeniu zmluvy, pokutám v dodávateľskom reťazci alebo dokonca uplatneniu zákona o obrannej výrobe.

Toľko k naratívu, že riadenie umelej inteligencie je spoločný, konsenzuálny projekt. Ide o to, že v súčasnosti nejde len o zmluvný spor; je to mocenský boj o to, kto nakoniec rozhodne o tom, ako sa umelá inteligencia nasadí v reálnom svete.

V centre tejto búrky stojí Dario Amodei, spoluzakladateľ a generálny riaditeľ spoločnosti Anthropic. Amodei pravdepodobne zaujíma medzi technologickými magnátmi zvláštne a čoraz izolovanejšie postavenie. Na rozdiel od Sama Altmana, Demisa Hassabisa alebo výraznejšej postavy, ako je Elon Musk, si Amodei vybudoval svoju verejnú osobnosť okolo imidžu spojeného so zdržanlivosťou a nie s rýchlosťou; a so zmierňovaním rizika a nie s dominanciou „alfa“. Dokonca varoval, že umelá inteligencia by mohla zničiť až 50 percent administratívnych pracovných miest na vstupnej úrovni, a označil to za „nezvyčajne bolestivé“ narušenie, ktoré je už viditeľné v práve, médiách a softvéri.

Amodei tiež argumentoval , že klamlivé alebo autoritárske zneužívanie umelej inteligencie (a koncentrácia moci) by sa mohlo stať verejnou hrozbou. Je ťažké pochopiť, ako možno zosúladiť takúto rétoriku so zmluvami Pentagonu.

Amodeiho nepohodlie z jednodňovej koncentrácie moci v rukách hŕstky firiem zaoberajúcich sa umelou inteligenciou, hoci je to oprávnený argument, je prinajmenšom pozoruhodné, keďže samotná spoločnosť Anthropic sa odhaduje na približne 350 miliárd dolárov, pričom Amodeiho osobný čistý majetok sa odhaduje na takmer 7 miliárd dolárov. Nech je to akokoľvek, neustále vyzýva na medzinárodnú reguláciu podobnú zmluvám o nešírení jadrových zbraní, práve s cieľom zabrániť hromadnému sledovaniu a nekontrolovanému používaniu zbraní. V súčasnom kontexte Amodei v podstate formuloval hranice Anthropic ako nezávislé záruky proti tomu, čo považuje za nespoľahlivého správcu bezprecedentnej moci.

Toto stavia Amodei do rozporu nielen s Pentagonom, ale aj s veľkou časťou veľkých technologických spoločností, ktoré sa doteraz, niekedy až s nadšením, spojili s Donaldom Trumpom. Možno si spomenieme, že niektorí generálni riaditelia a vrcholoví manažéri zo Silicon Valley boli dokonca formálne povýšení na dôstojníkov americkej armády a získali vojenskú hodnosť, aby poskytovali poradenstvo v oblasti kybernetickej vojny, umelej inteligencie a vojny založenej na dátach.

Ako som uviedol v predchádzajúcich článkoch, Trumpova politika vrátane ciel, napriek populistickej rétorike, bola hlboko formovaná záujmami umelej inteligencie, kryptomien a technológií. Od Ukrajiny a Venezuely až po Grónsko a Strednú Áziu, strategické priority Washingtonu čoraz viac odrážajú materiálne potreby pokročilých výpočtov: energiu, dáta a predovšetkým nerasty.

Hľadanie vzácnych zemín a kritických minerálov by sa nemalo podceňovať. Hardvér umelej inteligencie, dátové centrá a polovodiče si vyžadujú obrovské množstvo gália, germánia, lítia a magnetov zo vzácnych zemín, z ktorých mnohé stále dominujú čínskej spracovateľskej kapacite (v niektorých kategóriách až do výšky 90 percent). Aby sa tomu vyrovnala, Trumpova administratíva zmobilizovala investície, podiely na majetku a bilaterálne dohody vo výške viac ako 30 miliárd dolárov (s krajinami od Ukrajiny po Saudskú Arábiu a Konžskú demokratickú republiku), pričom výslovne spája vedúce postavenie umelej inteligencie s bezpečnosťou nerastných surovín.

Programy ako Project Vault a mechanizmus stanovovania cien OPEN od Pentagonu riadený umelou inteligenciou sú príkladmi toho, ako hlboko sú technologické firmy zakorenené v plánovaní národnej bezpečnosti.

Toto nie je nič nové. Ako som už inde argumentoval , vzťah veľkých technologických spoločností s americkým spravodajským a obranným aparátom je dlhodobý a štrukturálny – a tento vzťah sa prehĺbil za Trumpovej administratívy. Spoločnosti ako Palantir, Meta, OpenAI a SpaceX poskytli nástroje na sledovanie, prístup k metadátam a prepojenie s bojiskom, čím posilnili to, čo sa často nazýva „hlboký štát“. Sám Musk, napriek svojmu dosť ostrému sporu s Trumpom, zostáva jedným z najväčších dodávateľov Pentagonu .

Novým vývojom je objavenie sa viditeľných trhlín v tomto technologicko-bezpečnostnom komplexe. Spor okolo Anthropic zdôrazňuje rastúcu priepasť medzi tými, ktorí sú ochotní poskytovať neobmedzenú umelú inteligenciu „na všetky zákonné účely“, a tými, ktorí trvajú na etickom vete (a korporátnej kontrole). OpenAI, Google a xAI rozšírili svoju spoluprácu s Pentagonom do utajovaných prostredí s relatívne malými obmedzeniami. Anthropic to neurobil a reakcia štátov bola dostatočne tvrdá.

Rozdeľuje sa takpovediac „hlboký štát“ veľkých technologických spoločností? Zatiaľ sa zdá, že odpoveď je áno. Ideologické rozdiely, takpovediac antitrustové tlaky, obavy zo straty pracovných miest a globálne riziká pre reputáciu ťahajú manažérov rôznymi smermi. Zostáva uvidieť, aké ďalšie záujmy (okrem čisto etických úvah) by mohli byť za takýmto vývojom.

Trumpovo prezidentstvo, ktoré bolo „vo vojne“ so sektormi Hlbokého štátu, opäť čelí paradoxu. Či už je poháňaná veľkými technologickými spoločnosťami alebo terčom ich kritiky, jeho zahraničná politika sa nemôže vyhnúť gravitačnej sile kapitálu a odborných znalostí v oblasti umelej inteligencie. Patová situácia medzi antropo-pentagónom je v každom prípade varovným signálom, že manželstvo medzi Silicon Valley a štátom národnej bezpečnosti už nie je také monolitické, ako sa kedysi myslelo. Inými slovami, boj o to, kto ovláda umelú inteligenciu a na aké účely, vstúpil do novej a nebezpečnej fázy.

Uriel Araujo