"Dopo l'era atomica, inizia la deterrenza dell'IA". Il manifesto di Palantir chiama alle armi la Silicon Valley, Traverso: "Preoccupante. Più regole su usi civili e militari'"

TRENTO. “Alex Karp, di Palantir, è il Ceo più spaventoso del mondo?”. La domanda, negli scorsi mesi, era stata posta in un lungo articolo sul Guardian dedicato al co-fondatore – insieme al miliardario Peter Thiel – della controversa società di analisi dati americana, tornata in questi giorni al centro delle discussioni dopo la pubblicazione di un “manifesto” in 22 punti per una nuova “Repubblica tecnologica”. Di fatto una dichiarazione d'intenti della compagnia – che lavora a stretto contatto con l'amministrazione americana di Donald Trump e non solo – basata sull'omonimo libro dello stesso Karp scritto insieme a Nicholas W.Zamiska.

Alcuni estratti?

“L'era atomica sta finendo. Un'era di deterrenza, quella dell'era atomica, sta finendo, e una nuova era di deterrenza costruita sull'Ia sta per iniziare”. E ancora: “La questione non è se le armi basate sull'Ia saranno costruite; è chi le costruirà e per quale scopo. I nostri avversari non si fermeranno per indulgere in dibattiti teatrali sui meriti dello sviluppo di tecnologie con applicazioni militari e di sicurezza nazionale. Avanzeranno”. Oppure: “Il servizio nazionale dovrebbe essere un dovere universale. Dovremmo, come società, considerare seriamente l'abbandono di un esercito interamente volontario e combattere la prossima guerra solo se tutti ne condividono il rischio e il costo”.

Tra i vari punti si parla anche della necessità di riarmo per la Germania e il Giappone, del ruolo che la Silicon Valley “deve svolgere nel contrastare la criminalità violenta” e ancora delle differenza tra culture “che hanno prodotto progressi fondamentali” mentre altre “rimangono disfunzionali e regressive”. A sostenere l'architettura di un ragionamento, in definitiva, in pieno stile America First, è però un “debito di riconoscenza” che lo stesso Karp sottolinea e che Silicon Valley avrebbe nei confronti degli Stati Uniti, che hanno reso possibile l'ascesa delle (pochissime e potentissime) big tech che oggi dominano il mercato: “L'élite ingegneristica della Silicon Valley ha l'obbligo di partecipare alla difesa della nazione”. Per chiudere poi con un attacco diretto al tema dell'inclusività: “Noi, in America e più in generale in occidente, abbiamo resistito per mezzo secolo al definire le culture nazionali in nome dell'inclusività. Ma inclusione di cosa?”.

In altre parole, per il co-fondatore di Palantir il futuro geopolitico – in un contesto che oggi sembra mutare a una velocità impensabile solo pochi anni fa – si giocherà a livello securitario e militare su un'integrazione fra capitale privato, élite ingegneristica e Stato. Una versione aggiornata del complesso militare-industriale americano in salsa Ia necessario, questa la posizione di Karp, per far fronte alla sfida posta dai sistemi militari legati all'intelligenza artificiale degli avversari di Washington e dell'occidente in senso lato. E torniamo così alla domanda di apertura.

Il manifesto rappresenta, nei fatti, una chiamata alle armi, a quelle che il 21esimo secolo mette oggi a disposizione degli apparati militari - innovazione tecnologica, software, sistemi di Ia - e che, dall'Ucraina a Gaza, sono sempre più utilizzate sui campi di battaglia e non solo. La stessa Palantir ha, per esempio, firmato un contratto con la Homeland Security americana per sviluppare un sistema di intelligenza artificiale in grado di individuare e rintracciare individui per le deportazioni volute dall'amministrazione Trump.

I 22 punti presentati da Karp, in ogni caso, sono stati sviluppati all'interno di una competizione strategica concreta: la guerra fredda sull'intelligenza artificiale che da diversi anni Cina e Stati Uniti stanno combattendo a suon di algoritmi e modelli generativi. Negli ultimi mesi avevano per esempio fatto molto discutere le immagini arrivate dalla Cina, dove 'armate' di droni guidati dall'Ia avevano marciato per le strade di Pechino, testimoniando il progressivo scaldarsi del conflitto tecnologico. 

Come riportava il Wall Street Journal, i sistemi di Ia applicati dagli ingegneri in Cina avrebbero addirittura preso a ispirazione alcuni modelli naturali, in particolare le tattiche predatore dei falchi o dei coyote. Roba da fantascienza fino a pochi anni fa, spiega a il Dolomiti Paolo Traverso – direttore Strategia di marketing e sviluppo della Fondazione Bruno Kesler e attivo da anni nella ricerca e nell'applicazione di sistemi di intelligenza artificiale – ma oggi di fatto oggetto di studio, e non solo a livello militare.

“Il Pentagono – spiega l'esperto – già anni fa era al lavoro per sperimentare sciami di piccoli droni in grado di autoregolarsi tra loro (esattamente il tipo di attività in grado di compiere i dispositivi presentati dalle autorità cinesi ndr). Parliamo in altre parole di sistemi formati da agenti cooperativi, che lavorano all'unisono per cercare di capirsi l'un l'altro e valutare le possibilità di collaborazione nello svolgimento di una data attività”.

É chiaro però come tecnologie simili presentino possibilità applicative anche in ambiti ben diversi da quello della difesa: agenti collaborativi possono infatti essere utilizzati all'interno di fabbriche e impianti produttivi. Parlando di Ia, in altre parole, il cosiddetto “dual-use” – il potenziale uso civile o militare di una stessa tecnologia – rappresenta uno dei temi più delicati e importanti da affrontare tanto a livello politico quanto accademico.

“L'Ia è uno strumento potente – dice ancora Traverso – e può come tale essere usato a fin di bene o meno. Personalmente credo che il messaggio lanciato nel manifesto condiviso da Palantir sia preoccupante: non è questa la direzione nella quale lo sviluppo di una tecnologia di questa portata dovrebbe muoversi, alla ricerca spasmodica di un primato in una corsa agli armamenti francamente preoccupante. Karp sta in pratica criticando chi, nel sistema dell'innovazione americano, lavora ad applicazioni dell'Ia che vadano al di là di quella militare”.

A livello tecnico, dice ancora l'esperto di Fbk, il confine è però sottile: “Torniamo agli agenti collaborativi. Uno stesso sistema può essere messo a punto e perfezionato per favorire e ottimizzare le attività all'interno di un ospedale o per coordinare uno sciame di droni nell'individuare il bersaglio da colpire. Non esiste un'intelligenza artificiale buona o cattiva, tutto dipende da come la si usa”.

Proprio sul fronte del “dual use” però, conclude Traverso, oggi serve uno sforzo regolatorio in più, anche in Europa: “L'Ai Act – dice – parla di sistemi a rischio e di rischio sistemico. È più vago sul fronte applicativo. In altre parole si lascia più margine ai confini etici delle realtà che operano nel settore, sia per quanto riguarda la ricerca che per le parti imprenditoriali. Oggi più che mai però, poter contare su regole chiare è fondamentale”.

Una necessità che va al di là delle sole regole operative e, allagando lo sguardo, coinvolge inevitabilmente anche chi definirà i limiti e le finalità dei sistemi stessi: le istituzioni democratiche o i nuovi centri di potere tecnologico.