Monitorovanie milióna konverzácií za hodinu s cieľom vybrať ciele dronov v Palestíne

– s pomocou spoločnosti Microsoft.

Spoločnosť „Microsoft AI“ sa na svojej webovej stránke opisuje slovami: „Sme priekopníkmi v oblasti umelej inteligencie a možností, ktoré technológia prináša ľudstvu.“ Úplná kontrola nad všetkými Palestínčanmi na Západnom brehu Jordánu a v pásme Gazy s cieľom vybrať si ciele bombardovania posiela pozdravy… (cm)

V nadväznosti na multimiliónovú zmluvu so spoločnosťou Billa Gatesa izraelská vláda nepretržite ukladá rozhovory všetkých obyvateľov Gazy a Západného brehu Jordánu. Umelá inteligencia rozpoznáva hlasy, rekonštruuje trasy, vytvára profily a pomocou algoritmov vynáša skutočné rozsudky smrti. Pásmo Gazy sa transformuje na laboratórium pre digitálnu biopolitiku a budúce vojny.

Tento príbeh o bezprecedentnej sile digitálneho cloudu, ktorý sa stal vojnovou zbraňou, má dvoch protagonistov: Jossiho Sariela, bývalého šéfa izraelskej špionážnej jednotky 8200, a Satyu Nadellu, počítačového inžiniera indického pôvodu a generálneho riaditeľa spoločnosti Microsoft. Stretnutie medzi nimi koncom roka 2021 viedlo k multimiliónovej zmluve: spoločnosť Billa Gatesa začala ukladať všetky telefonické hovory a písomné správy všetkých Palestínčanov v Gaze a na Západnom brehu Jordánu na svojich serverových farmách, 24 hodín denne, každý deň v roku. Ide o veľké dáta, ktoré prekonávajú fikciu Veľkého brata z románu „1984“, takmer dokonalý digitálny panoptikum, v ktorom žiadne slovo neunikne sluchovej kontrole. Tieto surové dáta filtruje umelá inteligencia s rozpoznávaním reči, ktorá vyberá ciele pre drony. Zvyčajne ide o rozsudky smrti vynesené a vykonané robotmi proti jednej osobe a všetkým v budove: takto dochádza k veľkej časti útokov v Gaze.

Túto informáciu vo štvrtok zverejnili anglické noviny The Guardian , ktoré pokračovali vo vyšetrovaní, ktoré začali v januári s izraelským mediálnym portálom +972 Magazine . Odhalili, že Izraelské obranné sily (IDF) vyvíjajú typ ChatGPT trénovaného na miliónoch arabských konverzácií získaných prostredníctvom kybernetického dohľadu na Západnom brehu Jordánu. Tento nástroj umelej inteligencie od špionážnej jednotky 8200 obsahuje program strojového učenia, ktorý analyzuje nahrané dialógy preložené do hebrejčiny. Vytvára sa tak takmer dokonalý profil každého Palestínčana na okupovaných územiach, ktorý sa denne aktualizuje sledovaním ich pohybu, aby sa zistilo, koho navštevujú. Chatbot poskytuje vojakom spracované informácie o každej požadovanej osobe: identifikuje možných členov ozbrojeného odporu, aktivistov za ľudské práva a dokonca aj bežné deti, ktoré majú sklon hádzať kamene na vojakov.

A inde na webovej stránke spoločnosti Microsoft venovanej umelej inteligencii: „Zaviazali sme sa k rozvoju umelej inteligencie na základe etických princípov. Pracujeme na zabezpečení digitálnej bezpečnosti a zároveň rešpektujeme ľudské práva, ako je súkromie, sloboda prejavu a bezpečnosť.“

Predchádzajúci výskum spoločnosti +972 odhalil, že armáda pri bombardovaní pásma Gazy použila systém umelej inteligencie s názvom „Levanduľa“ . Generuje predpovede kombináciou informačných premenných od 2,3 milióna obyvateľov pásma Gazy a odhaduje, v ktorom dome by sa mohol nachádzať partizánsky bojovník. Každému domu potom priradí skóre od 1 do 100, čo naznačuje pravdepodobnosť, že sledovaná osoba je militant. Takéto generatívne systémy umelej inteligencie sú známe tým, že veľmi dobre píšu, ale poskytujú iba štatistické pravdepodobnosti, ktoré môžu byť nesprávne: takzvané „halucinácie“. Táto automatizácia vojny spočíva v označovaní striech domov, ktoré majú byť zamerané na rakety, bez toho, aby presne vedeli, kto je vo vnútri. Podľa výskumu sa IDF v prvých týždňoch vojny v Gaze spoliehala takmer výlučne na systém „Levanduľa“, ktorý označil 37 000 Palestínčanov a ich domy.

Veľké dáta a vojnové zločiny

Niekoľko zamestnancov Microsoftu odsúdilo súvislosť medzi veľkými dátami a vojnovými zločinmi. Ibtihal Aboussad, softvérový inžinier a organizátor skupiny „Žiadne Azure pre apartheid “, prerušil prejav šéfa oddelenia umelej inteligencie v Microsofte, Mustafu Suleymana, slovami: „Prestaňte používať umelú inteligenciu na genocídu! Microsoft predáva zbrane umelej inteligencie izraelskej armáde. Zomrelo už 50 000 ľudí.“ Suleyman s úsmevom odpovedal: „Chápem váš protest.“ Inžinier bol z podujatia vylúčený a prepustený. O mesiac neskôr, počas úvodného prejavu, inžinier Microsoftu Joe López zakričal na nezaujatého Satyu Nadellu: „Čo keby ste nám ukázali, ako Azure podporuje izraelské vojnové zločiny?“

Stretnutie medzi Sarielom a Nadellom v roku 2021 sa konalo v sídle spoločnosti Microsoft neďaleko Seattlu. Dohoda predpokladala používanie megacloudovej úložnej platformy Azure, ktorú vyvinul Microsoft, od roku 2022. Keď sa tieto informácie dostali na verejnosť, Microsoft tvrdil, že nevie, aký typ údajov bude špionážna jednotka 8200 uchovávať. Denník The Guardian však získal prístup k viacerým uniknutým dokumentom spoločnosti Microsoft a vyspovedal jedenásť nemenovaných zdrojov – v rámci spoločnosti aj v izraelských obranných silách – ktoré potvrdili skutočné využitie tohto cloudu: Je to informačná základňa pre rozhodnutia o smrtiacich leteckých úderoch v Gaze a na Západnom brehu Jordánu, ktoré sú umožnené špionážou v celej palestínskej telekomunikačnej infraštruktúre.

Novinkou tohto systému úplného sledovania je, že už nedochádza k žiadnej predbežnej kontrole monitorovaných osôb: 100 % Palestínčanov je od začiatku považovaných za podozrivých. Motto v rámci špionážnej jednotky 8200 ilustruje rozsah tejto technológie: „Jeden milión hovorov za hodinu.“

Po novinárskom vyšetrovaní spoločnosť Microsoft oznámila, že si dala vyšetriť túto záležitosť: Nenašli sa žiadne dôkazy o tom, že by Azure a jej produkty umelej inteligencie boli použité na ublíženie niekomu. Spoločnosť ubezpečila, že stanovila, že táto technológia nebude v Gaze použitá na identifikáciu cieľov. Zdroje zo špionážnej jednotky 8200 však pre denník The Guardian uviedli , že táto technológia bola použitá práve na tento účel. Systém bol pôvodne navrhnutý pre okupovaný Západný breh Jordánu na kontrolu troch miliónov Palestínčanov. „Ak potrebujú niekoho zatknúť a nie je na to dostatočný dôvod, nájdu si tu zámienku,“ povedal nečestný izraelský vojenský zdroj s odkazom na informácie v cloude. Izraelčania tvrdia, že cloud spoločnosti Microsoft sa používa na ochranu pred teroristickými kybernetickými útokmi.

A opäť tá sebablahoželania na webovej stránke spoločnosti Microsoft AI: „Sme globálna komunita tvorcov a priekopníkov – vývojárov, inžinierov, vedcov v oblasti umelej inteligencie, architektov osobnosti, marketérov, výskumníkov, dizajnérov a spisovateľov. Poháňaní vášňou pre detail a zdravou úctou k ľudstvu spoločne skúmame, čo je možné, a formujeme budúcnosť.“

Neustále monitorovať všetkých

Hlavným strojcom celého projektu bol Yossi Sariel, veliteľ špionážnej jednotky 8200. S touto myšlienkou prišiel po vlne útokov „osamelých vlkov“ v roku 2015, ktoré spáchali mladí Palestínčania, o ktorých izraelská spravodajská služba nevedela nič vedieť. Dôstojník sa rozhodol vyvinúť technológiu, ktorá by mu umožnila „neustále monitorovať každého“. Toto sa stalo novou paradigmou sledovania, odlišnou od tradičného sledovania zameraného na ciele. „Zrazu sa každý stal naším nepriateľom,“ povedal zdroj, ktorý na projekte pracoval, pre The Guardian .

Začali skenovať všetky textové správy medzi Palestínčanmi na Západnom brehu Jordánu, aby identifikovali podozrivé slová: Varovné signály sa spúšťajú, keď dialóg obsahuje témy ako zbrane alebo keď niekto vyjadrí túžbu zomrieť. Jediným spôsobom, ako pokročiť v takomto megaprojekte, však bolo partnerstvo s veľkou technologickou spoločnosťou, najväčším poskytovateľom cloudového úložiska: Nadella bol ten pravý muž na realizáciu Sarielových panoptických snov.

Podľa spoločnosti Microsoft im bolo povedané, že ukladajú „citlivé dáta“ a že špionážna jednotka 8200 je ďalší zákazník. Patrili k nim milióny zvukových súborov. „Nebolo treba byť génius, aby sme zistili“, o aké informácie ide, povedal zdroj zo spoločnosti pre denník The Guardian . Pre Izraelčanov tiež vyvinuli pokročilý bezpečnostný systém, ktorý spĺňal štandardy vojenskej jednotky. Všetko bolo riešené na najvyššej úrovni.

Podľa dokumentov bolo k júlu tohto roku na serveroch Azure spoločnosti Microsoft v Holandsku a menšie množstvo v Írsku uložených 11 500 terabajtov izraelských vojenských údajov – čo zodpovedá 200 miliónom hodín zvukových nahrávok. Vo všeobecnosti sa všetky údaje uchovávajú jeden mesiac, s výnimkou výnimočných prípadov.

Debakel Yossiho Sariela

Sľubná kariéra Yossiho Sariela ako šéfa spravodajských služieb sa náhle skončila. Mesiace pred stretnutím s Microsoftom vydal knihu „Tím človek-stroj“ pod pseudonymom „brigádny generál YS“, v ktorej vyzval spravodajské agentúry na celom svete, aby „migrovali do cloudu“. Išlo o vážnu bezpečnostnú chybu: Bolo ľahké uhádnuť, že táto kniha, dostupná na Amazone, niesla iniciály šéfa izraelskej spravodajskej služby. Vojenský dôstojník bol fanatickým zástancom používania digitálnych technológií na špionáž – na rozdiel od severokórejských ozbrojených síl, ktoré radšej uchovávajú svoje tajomstvá v papierových priečinkoch. Zdroje v anglických novinách uviedli, že „Yossi sa chválil svojím spojením so Satyom, interne propagoval tento vzťah a dostal obrovský rozpočet; tvrdil, že je to riešenie našich problémov v palestínskej oblasti.“

Ale to tak nebolo: útok zo 7. októbra 2023 to demonštroval. Najmodernejšia spravodajská technológia v histórii nedokázala zabrániť tisíckam ľudí v invázii do Izraela v nákladných autách, na motocykloch a dokonca ani pešo. Sariel nakoniec priznal: „Príliš som sa spoliehal na technológie“ (a zanedbával som ľudské spravodajské informácie). Rezignoval a na rozlúčkovom ceremoniáli priznal: „Nepredvídal som hrozbu, ktorú predstavuje Hamas.“

Akademická perspektíva

V rozhovore pre Página/12 Cecilia Rikap, profesorka ekonómie na University College London, uviedla, že „postupne vychádza najavo, ako veľké technologické spoločnosti vyvíjajú technológie pre vojenské vybavenie a teraz prispievajú ku genocíde. Denník Guardian odhaľuje spoluúčasť spoločnosti Microsoft, ktorá sprístupňuje svoje dátové centrá na ukladanie najväčšej sledovacej operácie, akú poznám. Veľa sa hovorí o tom, že Izrael má špičkové technológie; nazýva sa to „startup národ“. Mnohé z týchto startupov vyvíjajú vojenské technológie pre vojnu a sú súčasťou ekosystémov, ktorým dominujú veľké americké spoločnosti zaoberajúce sa digitálnymi technológiami. A hoci Izrael údajne má špičkové technológie na identifikáciu podozrivých teroristov a strieľanie iba na nich, stále bez rozdielu zabíja všetkých ľudí alebo tých, ktorí sa k nim priblížia a hľadajú jedlo.“

Je nevyhnutné identifikovať spoločnosti zapojené do genocídy, rovnako ako sme v Argentíne postavili pred súd spoločnosti Ford, Mercedes Benz a Acindar za ich spoluúčasť na vojenskej diktatúre. Musíme nielen obviňovať nedbanlivosť niektorých vlád alebo priamu podporu Izraela zo strany USA, Spojeného kráľovstva a Nemecka, ale musíme tiež požadovať spravodlivosť pre spoločnosti, ktoré k tomu prispievajú svojou technológiou.

Existuje aj Projekt Nimbus, dohoda medzi izraelskou vládou a spoločnosťami Google a Amazon o využívaní ich technológií cloudového úložiska. Agustín Berti, výskumník v CONICET zameraný na sociálny vplyv digitálnych technológií, pre Página/12 povedal: „Schopnosť spracovať údaje zhromaždené na internete je splnením sna každého panovníka mať mapu o veľkosti jeho územia.“

Táto mapa je však vytvorená z údajov, ktoré sú reprezentáciami; čisto prirodzené údaje vo svete neexistujú. To môže viesť k chybám, pretože všetky údaje sú vykonštruované. Zároveň pozastavenie ľudského úsudku pri rozhodovaní o životoch ľudí predstavuje zločinné delegovanie, ktoré by malo byť odsúdené ako zločin proti ľudskosti.

Odteraz bude potrebná kritická teória technológie, ktorá bude schopná klasifikovať neetické používanie tých, ktorí tieto technológie vyvíjajú a nasadzujú. Ak sú korporácie zodpovedné za genocídu, musia byť brané na zodpovednosť. A brať ich na zodpovednosť si vyžaduje komplexné pochopenie rôznych mechanizmov používaných na vykonanie tejto genocídy.

Dystopia je už tu

V minulosti bol proces identifikácie ľudského cieľa z Izraela zložitý: vykonanie útoku si vyžadovalo účasť viacerých ľudí na diskusii a podpis právneho poradcu. Od invázie do pásma Gazy vojenské vedenie nariadilo okamžité schválenie akéhokoľvek cieľa identifikovaného umelou inteligenciou bez toho, aby spochybnilo vierohodnosť „zdôvodnenia“. Medzi ne patrili aj rozsudky smrti pre celé rodiny a ich susedov, ktoré umelá inteligencia vyniesla s mierou chybovosti najmenej 10 %.

Vo všeobecnosti stačí na zatknutie alebo bombardovanie Palestínčana len neurčité podozrenie. Je pozoruhodné, že dnes v Gaze takmer nie je jedlo, no Izrael umožňuje prístup na internet. Umelá inteligencia a vojnové technológie určia geopolitickú budúcnosť sveta. Keď sa táto nová „regresia“ v dôsledku pokroku v robotike normalizuje, Izrael sa bude spomínať ako priekopník v takmer úplnej kolonizácii súkromia ľudí prostredníctvom digitálnej biopolitiky s bitmapou, ktorá reprodukuje každý meter jeho územia.

Palestína je laboratóriom pre budúce vojny, kde sa každú sekundu dňa a každý rok vykonávajú experimenty s porušovaním digitálnych práv etnickej skupiny.

Zdroj: https://globalbridge.ch/ueberwachung-von-einer-million-gespraechen-pro-stunde-zur-auswahl-von-drohnenzielen-in-palaestina-mit-hilfe-von-microsoft/