Ia e “rischio apocalisse”, davvero si vuole rallentare? Traverso: “Non credo, c'è molto marketing e competizione impressionante: servono regole. Usa e Cina sempre più vicini”

TRENTO. Prima l'allarme, poi la reazione mediatica e, infine, la risposta dei più grandi protagonisti del settore. Negli ultimi giorni un nuovo terremoto ha scosso il mondo dell'Ia dopo l'accusa di un ricercatore americano di 27 anni, Jacob Coxon, che si è licenziato da Anthropic – il gigante americano che ha creato il chatbot Claude – accusando l'industria dell'Intelligenza artificiale di scommettere sulle nostre vite e denunciando come di fronte ai sempre più rapidi sviluppi della tecnologia possa essere a rischio l'intera specie umana.

Un allarme non da poco, insomma, che ha però ricevuto sui social l'eco di un ex collega – Evan Hubinger, che guida l'alignment science per Anthropic, è arrivato a stimare la probabilità di una catastrofe a livello planetario addirittura al di sopra del 10% nei prossimi 10 anni – e che ha portato i più grandi player del settore, dalla stessa Anthropic ad OpenAi, a convergere – almeno a parole – sulla necessità di rallentare il ritmo di sviluppo degli ultimi modelli di intelligenza artificiale, chiedendo più regole e controlli.

A muoversi per primo, sabato, è stato l'amministratore delegato di Anthropic, Dario Amodei, con un intervento dal titolo “We Must Pace the Frontier”; nel giro di poche ore è arrivato l'assenso di Sam Altman (OpenAi) e di Elon Musk. Altman ha anche annunciato che rinvierà la quotazione di OpenAi almeno al 2027 per ragioni di sicurezza, mentre Amodei si è impegnato ad aprire unilateralmente i laboratori della sua azienda a valutatori terzi indipendenti.

Nella più importante gara tecnologica del momento però, la competizione non è solo interna agli Stati Uniti: il rapidissimo sviluppo dei sistemi di Ia cinesi preoccupa infatti la Casa Bianca, portando lo stesso presidente Trump a minimizzare i rischi. In definitiva, ha detto il tycoon: “Chi vince sull'Ia, vince”. E rallentarne lo sviluppo, dunque, non è un'opzione.

Parlando di intelligenza artificiale non è certo la prima volta che emergono preoccupazioni legate alla sicurezza dei sistemi e ai presunti pericoli che rappresentano, ma qual è veramente il livello di rischio oggi? Come interpretare la richiesta di “rallentare” arrivata dai giganti della big tech americana? E che ruolo gioca in tutto questo la competizione con la Cina? Il Dolomiti lo ha chiesto a Paolo Traverso, direttore Pianificazione Strategica della Fondazione Bruno Kessler.

“Non si tratta di per sé di una novità assoluta – dice l'esperto di Fbk – qualche anno fa era uscito un documento simile, firmato anche da Elon Musk, nel quale si utilizza la stessa retorica catastrofista. Questo, naturalmente, non vuol dire che i rischi non ci siano: l'Intelligenza artificiale è uno strumento estremamente potente ed episodi come gli attacchi ad Hugging Face confermano quanto sia necessario valutare con attenzione il potenziamento della componente autonoma di questi sistemi”.

Il riferimento di Traverso è a un noto episodio verificatosi quest'estate durante un test di sicurezza interno di OpenAi – l'azienda che ha creato ChatGpt. In quella circostanza infatti uno 'sciame' di agenti autonomi era riuscito a evadere da un ambiente isolato – in termini tecnici una 'sandbox' – attaccando, senza autorizzazione, i sistemi di Hugging Face, una piattaforma open source nella quale condividere e testare modelli di Ia e dataset.

L'attacco alla piattaforma è stato citato dallo stesso Amodei nel lungo intervento con il quale ha chiesto di rallentare il ritmo di sviluppo dei sistemi di Ia, mettendo in guardia sulla possibilità che una dinamica di attacco simile possa essere rivolta su scala enorme contro l'intera rete internet nel giro di appena 6-12 mesi – da sistemi naturalmente molto più potenti di quelli attuali.

“Il rischio però – continua Traverso – non è legato solo a una maggior autonomia dei sistemi, ma a come quell'autonomia venga regolamentata e controllata. In Europa, tramite l'Ai Act, abbiamo lavorato proprio su questi aspetti e come Fbk collaboriamo con UniTrento per gestire questo sviluppo e mettere a punto sistemi nei quali le decisioni cruciali siano mantenute da operatori umani. Ci sono però circostanze nelle quali una maggior autonomia dei sistemi permette di ottenere risultati migliori in tempi molto più rapidi: per questo non credo lo sviluppo debba essere fermato, ma piuttosto regolamentato”.

La questione, precisa però l'esperto, è che al di fuori del perimetro europeo – e in particolare nei due maggiori poli di sviluppo dei sistemi di Ia al mondo, gli Stati Uniti e la Cina – la regolamentazione è sacrificata di fronte alla necessità di sviluppare per primi i sistemi più potenti ed efficaci, con particolare riferimento al nuovo orizzonte tecnologico della cosiddetta 'agentic Ia'.

“La grande sfida oggi – spiega Traverso – è infatti di arrivare a mettere a punto sistemi che siano in grado, senza la necessità di addestrarli con miliardi e miliardi di esempi, di trovare delle soluzioni a problematiche nuove in contesti sconosciuti. Per questo si parla di 'agenti' Ia, in grado di prendere decisioni e dialogare con nuovi contesti in autonomia. Il rischio che sistemi del genere sfuggano al controllo di chi li ha creati è presente: il modo per evitare questo scenario però esiste, basta implementare un adeguato set di regole. Il problema è che le regole del business e del profitto difficilmente si possono coniugare con questa visione”.

“Proprio per questo – continua – sentire i ceo delle più grandi aziende nel settore a livello mondiale dire che bisogna rallentare può far scappare una risata. Personalmente non dubito della coscienza sul tema dei singoli, da Altman fino ad Amodei, ma credo si tratti anche di una manovra pubblicitaria attraverso la quale presentarsi come più responsabili e cercare, anche, di attrarre nuovi utenti. In Europa abbiamo lavorato concretamente a una regolamentazione, nonostante il rischio di rallentare lo sviluppo dal punto di vista aziendale nel settore”.

Come riporta il Post, secondo l'amministratore delegato di Nvidia Jensen Huang, la mossa dei dirigenti dell'Ia americana potrebbe essere legata a un obiettivo ben preciso: aumentare la richiesta di sicurezza in vista della presentazione di nuovi prodotti per scongiurare attacchi da parte di sistemi di Ia. Per altri, la richiesta di nuove regole potrebbe essere un modo come un altro per tentare di rafforzare la posizione delle stesse aziende Ia attualmente esistenti, che potrebbero così cementare la loro leadership nel settore grazie a un sistema regolatorio favorevole.

Quel che è certo, continua Traverso, è che nel concreto è difficile immaginare oggi un rallentamento della competizione tra aziende di dimensioni enormi, che hanno messo sul tavolo investimenti multimiliardari – con la previsione di quotazioni in borsa da record, in grado di rivaleggiare quella siglata negli scorsi mesi da SpaceX.

“La competizione tra questi soggetti è impressionante – sottolinea l'esperto – come impressionante è il rapidissimo sviluppo che abbiamo osservato negli ultimi anni. In altre parole, non credo stiano rallentando, credo piuttosto che dietro le ultime prese di posizione ci sia molto marketing”.

Come anticipato, inoltre, la competizione non è esclusivamente interna agli Stati Uniti: in particolare tra le fila dell'amministrazione americana, in molti temono che l'introduzione di norme e regole per il mercato dell'Ia possa favorire un sorpasso nel settore da parte della Cina.

“I laboratori cinesi – conclude Traverso – non sono assolutamente da sottovalutare, anzi: credo che in questo contesto Stati Uniti e Cina siano sempre più vicini. In alcuni ambiti, come negli investimenti e nello sviluppo di robot umanoidi, le realtà cinesi sono anche più avanti rispetto a quelle americane. E naturalmente questo complica non poco lo scenario”.