Guerra all’algoritmo
La mossa U37: Quando la guerra è diventata un algoritmo
di Camilla Costantini
Tutto partì da un gioco. Tutto partì da una mossa, una piccola mossa.
Il Go è un antico gioco di strategia, nato in Cina. Ci sono delle pietre bianche e nere e una tavola: i due giocatori devono disporre a turno le loro pietre sulla tavola e vince chi riesce a formare territori più ampi. Sembra molto semplice, ma non lo è. C’è chi dice che non si potrà mai giocare la stessa partita di Go due volte, perché le combinazioni che si possono creare sulla tavola sono infinite.
Il 10 marzo del 2016 Lee Sedol, campione mondiale di Go, gioca contro AlphaGo, un sistema di intelligenza artificiale avanzato sviluppato da google DeepMind, addestrato inizialmente su partite giocate da esseri umani e poi perfezionato con il self-play.
Il Go non è un gioco di sola strategia: molti lo definiscono un’arte. E, proprio perché è un’arte, un sistema di intelligenza artificiale, per quanto possa essere avanzato, non può battere un essere umano. O, almeno, questo era quello che si pensava prima della sfida tra Lee Sedol e AlphaGo.
Quando i futuri storici si chiederanno quale sia stato il primo barlume di una vera intelligenza artificiale, troveranno la risposta nella seconda partita tra Lee Sedol e AlphaGo, precisamente nella mossa U37. AlphaGo, con quella mossa, riesce a battere Lee Sedol. Una mossa considerata, da tutta la comunità del Go, brutta e controproducente, perché è quasi impossibile valutare le conseguenze che avrà. Una mossa diversa da qualunque altra cosa un computer avesse mai fatto prima: un tranello. Nelle mosse precedenti, AlphaGo stava commettendo errori strategici solo per ingannare Lee Sedol. Una mossa che spinge tutta la comunità del Go a riconoscere il potenziale di AlphaGo: quel sistema sa essere creativo come un essere umano. Quel sistema sa comportarsi come un essere umano e, forse, anche meglio. Tutto partì da quella mossa.
Tra l’uno e il due marzo, L’Iran reagisce agli attacchi statunitensi e israeliani colpendo tre data center di Amazon negli Emirati Arabi Uniti e in Bahrein. Amazon Web Services lo annuncia in una nota il 2 marzo, precisando che gli attacchi hanno causato problemi di alimentazione e connettività. È la prima volta che un’azione militare danneggia i data center di un’azienda tecnologica.
Dario Guarascio, professore di economia politica all’università “La Sapienza” di Roma, al podcast “il mondo” di Internazionale, ha spiegato che quell’area è un hub militare cruciale per gli Stati Uniti e, dato che le guerre diventano sempre più digitali, le stesse infrastrutture e le stesse tecnologie che tengono in piedi l’economia digitale sono essenziali per condurre operazioni militari mortifere e devastanti. L’intelligenza artificiale sta acquisendo un peso sempre più grande nel determinare la superiorità militare degli stati e ha una funzione essenziale nei conflitti contemporanei, ma questa, spiega Guarascio, non è una novità: Amazon Web Services, Microsoft e Starlings, per esempio, hanno giocato un ruolo fondamentale in Ucraina, infatti l’esercito ucraino non potrebbe fare molte cose che fa senza il supporto attivo di questi enti privati.
Un altro esempio eclatante è Lavander, un database basato sull’intelligenza artificiale di cui Israele si è servito per individuare e colpire obiettivi di Hamas e altri militanti sulla striscia di Gaza.
Secondo le fonti del giornalista e regista israeliano Yuval Abraham, l’IDF si sarebbe affidato completamente a Lavander per l’individuazione di circa 37.000 target palestinesi, categorizzati come sospetti militanti. Con un argine di errore che si aggira intorno al 10% dei casi analizzati, Lavander contrassegna come target, e di conseguenza colpisce, anche individui che hanno avuto rapporti molto deboli con gli esponenti di Hamas. E, per ogni giovane agente di Hamas individuato attraverso Lavander, è consentito uccidere dai quindici ai venti civili.
Un altro sistema automatizzato usato dall’IDF si chiama “where’s daddy?”: serve a individuare gli uomini target al rientro dalle loro famiglie. Questo sistema traccia migliaia di individui contemporaneamente e, dopo aver identificato il target mentre è a casa, invia un avviso automatico all’ufficiale di destinazione che provvede, poi, a contrassegnare l’abitazione come obiettivo da bombardare.
E se tutto questo ci inquieta, ma ci sembra appartenere a un mondo che non è il nostro, ci sbagliamo: tra il 15 e il 18 marzo Peter Thiel tiene quattro conferenze a Roma.
Conferenze segrete: entra solo chi è stato invitato. Quattro conferenze in quattro posti diversi, per evitare le domande della stampa e le proteste di chi, a Roma, non lo vuole. Quattro conferenze che ruotano attorno al tema dell’anticristo. Peter Thiel sostiene che stiamo vivendo in un’epoca di stallo tecnologico, causato dalle regolamentazioni dovute all’ambientalismo, dalle norme che devono regolare le innovazioni delle start up, dall’universo delle organizzazioni internazionali. L’anticristo, per Thiel, è tutto ciò che osa fermare il progresso tecnologico.
Alessandro Mulieri, professore di filosofia politica a SciencePo, al podcast “sindrome americana” del Manifesto ha spiegato che Thiel si presenta come filosofo dell’anticristo e questo gli permette di nascondere le sue vere attività come presidente della sua azienda, Palantir.
Palantir, l’azienda di Peter Thiel e Alex Karp, con i suoi sistemi di raccolta e analisi dei dati, può sapere tutto di ogni persona e tutto di ogni stato. Ma è tristemente famosa soprattutto per le sue applicazioni militari: uno dei servizi che offre è la piattaforma gotham, destinata solo agli Stati Uniti e ai loro alleati. Con questa piattaforma offre agli Stati analisi e linee guida su come comportarsi sul campo, sui possibili sviluppi futuri e su cosa sta succedendo nel mondo per elaborare le migliori strategie da seguire. Dal 2015, per esempio, Palantir collabora con Israele e in alcuni post su X e Linkedin la stessa azienda dichiara di: “aver concordato una partnership strategica con il ministero della difesa israeliano per la fornitura della tecnologia Palantir a supporto della sforzo bellico del paese”.
E, secondo un’inchiesta del Domani, Peter Thiel, il 15 marzo, a Roma, ha rinnovato i rapporti di Palantir con il Ministero della Difesa italiano, guidato da Guido Crosetto.
Karp, in una conferenza, ha dichiarato: “sempre rispettando le regole della guerra, come fa l’America, a volte devi uccidere chi è dell’altra fazione”.
Karp e Thiel sostengono l’algocrazia: una forma di governo in cui a prendere le decisioni non sono più gli umani, ma le macchine. La sociologa americana Soshana Zuboff parla di capitalismo della sorveglianza: viviamo in un sistema che è capace di espropriare l’esperienza umana per trasformarla in dati comportamentali a fini di profitto per i privati. E la stessa tecnologia usata per plasmare i nostri dati, viene applicata in ambito militare: l’intelligenza artificiale nei conflitti automatizza il monitoraggio e il rilevamento delle vulnerabilità e, quindi, permette agli Stati che la usano di avere un controllo totale sui conflitti. La moralità umana viene rimpiazzata dalla certezza del calcolo.
AlphaGo aveva usato la mossa U37 per vincere la partita. La logica dell’intelligenza artificiale usata per fini bellici è la stessa: estrazione di pattern da una massa enorme di dati per generare una previsione certa. E quella previsione certa è più importante di una vita umana, se permette ai tecnocrati di lucrarci.
Il tavolo del Go è il nostro mondo: ridotto a una scacchiera gigante, dove la vita umana è ridotta a una variabile statistica. Una scacchiera gigante dove l’etica e la morale umana non hanno più valore, se messe a paragone con il mero calcolo strategico. Una scacchiera gigante dove vigono solo due imperativi: guadagnare. E poi vincere.
*Articolo pubblicato in precedenza su "Giornaleilcaffè"
