War and AI - L'intelligenza artificiale cambierà la natura della guerra

Libera traduzione in italiano dell'articolo "AI will transform the character of warfare" del 20 giugno 2024.

Traduzione e libera interpretazione dell’articolo "AI will transform the character of warfare" pubblicato su "The Economist" [giugno 2024]

Il computer è nato in guerra e dalla guerra. Colossus fu costruito nel 1944 per decifrare i codici nazisti. Negli anni '50, i computer organizzavano le difese aeree americane. Nei decenni successivi, l'intelligenza artificiale ha avuto un ruolo secondario nella guerra. Ora sta per diventare fondamentale. Così come il mondo civile sta assistendo a rapidi progressi nella potenza e nella diffusione dell'intelligenza artificiale, anche il mondo militare deve prepararsi a un'ondata di innovazione che, trasformerà la natura stessa della guerra, con i conseguenti enormi rischi di destabilizzazione.

Il rapido cambiamento che stiamo vivendo in questi giorni ha diverse cause:

1. l’aumento dei conflitti in corso, in particolare la guerra in Ucraina. Piccoli chip, anche molto economici, guidano i droni russi e ucraini verso i loro obiettivi, potenziando una tecnologia un tempo limitata ai missili in possesso delle cosiddette superpotenze;

2. il recente progresso esponenziale dell'AI, che permette di risolvere problemi complessi e compiere operazioni stra-ordinarie rispetto al passato:

3. la rivalità tra America e Cina, in cui entrambe vedono l'intelligenza artificiale come la chiave per raggiungere la superiorità militare.

I risultati di questa corsa alla realizzazione di intelligent killing machines sono evidenti.

I droni aerei e navali stanno giocando un ruolo di vitale importanza in Ucraina per individuare e attaccare obiettivi nemici. Così come l’AI è la soluzione al jamming - atto di disturbare volutamente le comunicazioni radio (wireless) facendo in modo che ne diminuisca il rapporto segnale/rumore - perché consente a un drone di dirigersi verso gli obiettivi, anche se i segnali GPS o il collegamento con il pilota sono stati interrotti. Interrompere la connessione tra pilota e aereo dovrebbe presto consentire agli eserciti di schierare un numero molto maggiore di munizioni a basso costo. In altre parole, presto avremo sciami di dromi autodiretti che saranno progettati per sopraffare le difese aeree e colpire con maggiore precisione.

Tuttavia questo è solo ciò che vediamo: ciò che è meno visibile è ancora più importante e preoccupante.

Come spiega il nostro articolo, la tecnologia sta anche rivoluzionando il comando e il controllo che gli ufficiali militari usano per organizzare le strategie di guerre. In prima linea, i droni rappresentano solo l'ultimo e più evidente anello di una serie di passaggi che inizia con la ricerca di un bersaglio e termina con un attacco.

La forza letale dell'AI si evidenzia prima che il drone colpisca: poiché ordina ed elabora i dati a velocità straordinaria, può individuare ogni carro armato da mille immagini satellitari e interpretare luce, calore, suono e onde radio per distinguere le esche dai mezzi reali. Lontano dal fronte, può risolvere problemi molto più grandi di quelli affrontati da un singolo drone. Tutto ciò significa anche risolvere compiti molto banali, come capire quale arma è più adatta a distruggere una minaccia. Fra non molto tempo, i sistemi di supporto decisionale potrebbero essere in grado di cogliere in anticipo la complessità delle azioni di guerra molto rapidamente e su un'ampia area, forse un intero campo di battaglia.

Le conseguenze di tutto ciò sono rivoluzionarie e ancora non sono del tutto chiare.

I sistemi di intelligenza artificiale, accoppiati a robot autonomi su terra, mare e aria, probabilmente troveranno e distruggeranno obiettivi a una velocità senza precedenti e su vasta scala. Tale modalità di guerra cambierà l'equilibrio tra soldato e software. Oggi gli eserciti tengono un uomo "in the loop", approvando secondo una catena di comanda ogni decisione letale. Con l’AI invece trovare e colpire obiettivi viene compresso in minuti o secondi, e l'uomo può semplicemente stare "sit on the loop", come parte di una squadra uomo-macchina. Le persone supervisioneranno il sistema senza intervenire in ogni azione. Il paradosso è che anche se l'AI dà un senso più chiaro del campo di battaglia, la guerra rischia di diventare più opaca per le persone che la combattono. Ci sarà meno tempo per fermarsi e pensare. Man mano che i modelli emetteranno giudizi sempre più predittivi, la loro produzione diventerà sempre più difficile da esaminare senza offrire al nemico un vantaggio.

Gli eserciti avranno il timore che se non daranno ai loro “Consultant AI” un guinzaglio più lungo, saranno sconfitti da un avversario che invece lo farà. Combattimenti più veloci, senza pause, renderanno più difficile negoziare tregue o fermare l'escalation. Ciò potrebbe favorire i difensori, che possono rannicchiarsi mentre gli attaccanti si scoprono mentre avanzano. Oppure potrebbe indurre gli attaccanti a colpire preventivamente e con forza massiccia, in modo da abbattere i sensori e le reti da cui dipenderanno gli eserciti abilitati all'IA.

La portata della guerra basata sull'intelligenza artificiale significa che la massa e il peso industriale diventeranno probabilmente ancora più importanti di quanto non lo siano oggi.

Si potrebbe pensare che le nuove tecnologie consentiranno agli eserciti di diventare più snelli. Ma se il software può selezionare decine di migliaia di obiettivi, gli eserciti avranno bisogno di decine di migliaia di armi per colpirli. E se il difensore ha il vantaggio, gli attaccanti avranno bisogno di più armi per sfondare. Questa non è l'unica ragione per cui la guerra dell'AI favorisce i grandi paesi. I droni potrebbero diventare più economici, ma i sistemi digitali che uniscono il campo di battaglia saranno diabolicamente costosi. La costruzione di eserciti infusi di intelligenza artificiale richiederà enormi investimenti in server cloud in grado di gestire dati segreti. Eserciti, marine ed forze aeree che oggi esistono nei propri silos di dati dovranno essere integrati. L'addestramento dei modelli richiederà l'accesso a vaste quantità di dati.

Quale grande paese è maggiormente favorito dall'AI? Un tempo si pensava potesse essere la Cina avesse un vantaggio, grazie al suo pool di dati, al controllo sull'industria privata e a vincoli etici più blandi. Eppure proprio ora l'America sembra essere in vantaggio nei modelli di frontiera che potrebbero plasmare la prossima generazione di AI militare. E l'ideologia conta:

non è chiaro se gli eserciti degli stati autoritari, che apprezzano il controllo centralizzato, saranno in grado di sfruttare i benefici di una tecnologia che spinge l'intelligenza e l'intuizione ai livelli tattici più bassi.

Se poi, tragicamente, scoppiasse la prima guerra a propulsione artificiale, il diritto internazionale verrebbe probabilmente spinto ai margini. Ragione di più per pensare oggi a come limitare la distruzione. La Cina dovrebbe ascoltare l'appello dell'America a escludere il controllo dell'AI sulle armi nucleari, ad esempio. E una volta iniziata una guerra, le hotline da uomo a uomo diventeranno più importanti che mai. I sistemi di intelligenza artificiale a cui viene detto di massimizzare il vantaggio militare dovranno essere codificati con valori e restrizioni che i comandanti umani danno per scontati. Questi includono il dare un valore implicito alla vita umana - quanti civili è accettabile uccidere nel perseguire un obiettivo di alto valore? - ed evitare certi attacchi destabilizzanti, come ad esempio sui satelliti di preallarme nucleare. Le incertezze sono profonde.

L'unica cosa certa è che il cambiamento guidato dall'AI si sta avvicinando. Gli eserciti che anticipano e padroneggiano i progressi tecnologici prima e nel modo più efficace probabilmente prevarranno.

Ed è probabile che tutti gli altri ne diventeranno, in qualche modo, vittime.