"Intelligenza artificiale e editoria: se non leggeremo più libri interi il settore morirà". Giuseppe Civati: "La minaccia non riguarda solo lo scrivere, ma anche il comprendere"

TRENTO. “La cosa che preoccupa maggiormente è che l'intelligenza artificiale inizi a essere pensata per sostituire l'essere umano e la sua intelligenza. Nel nostro ambito la minaccia non riguarda soltanto lo scrivere, ma anche il comprendere e questo, a dire il vero, mi sembra ancora più grave”.

È uno dei passaggi più netti della riflessione che Giuseppe "Pippo" Civati affida a questa intervista a il Dolomiti e in cui affronta il tema del rapporto tra intelligenza artificiale, editoria e, in senso più ampio, cultura.

Editore, saggista e politico, oggi alla guida della casa editrice People - che collabora con L'Altramontagna nella pubblicazione dell'omonima collana - Giuseppe Civati osserva con attenzione una trasformazione che promette di rivoluzionare il mondo dei libri e della produzione culturale: se da un lato l'intelligenza artificiale offre strumenti capaci di accelerare il lavoro e semplificare molti processi, dall'altro apre interrogativi sempre più profondi sul futuro del lavoro intellettuale, dei diritti d'autore, dello spirito critico e della stessa esperienza della lettura.

Una sfida che, secondo Civati, non è soltanto tecnologica o economica, ma riguarda direttamente il modo in cui costruiremo la nostra cultura e, più in generale, la nostra idea di umanità nei prossimi anni.

Giuseppe Civati, negli ultimi anni l'intelligenza artificiale ha cambiato radicalmente molti settori creativi. Dal punto di vista di un editore, quali opportunità e quali rischi vede oggi nel suo impatto sul mondo dei libri?

Dal punto di vista della produzione, sono strumenti quasi formidabili, perché hanno la capacità di ridurre i tempi in modo molto significativo, questo però rappresenta anche il primo elemento di criticità: si rischia infatti di perdere di vista la qualità, la cura e la gestione dei testi o delle immagini. Faccio un esempio: noi come casa editrice siamo molto scettici sull'uso dell'intelligenza artificiale nella grafica, perché crediamo questo porti alla standardizzazione, a un meccanismo piuttosto omologante, senza contare che la qualità dei risultati, per ora, è ancora discutibile. La cosa che preoccupa maggiormente è che l'intelligenza artificiale inizi a essere pensata per sostituire l'essere umano e la sua intelligenza: questo vale sia nel momento in cui si realizza un libro, sia nel momento in cui ci si aspetta che qualcuno lo legga. Cominciano infatti già a esserci “problemi” con l'abuso di riassunti, recensioni e letture sintetiche dei testi. Mi viene in mente la battuta di Woody Allen: “Ho fatto un corso di lettura veloce. Ho letto 'Guerra e pace' in un quarto d'ora. Parla della Russia”. Ecco, è un po' l'effetto che fanno questi strumenti.

Da quello che dice emerge una forte ambivalenza: l'intelligenza artificiale sembra offrire strumenti sempre più utili, ma allo stesso tempo apre interrogativi importanti sul ruolo delle competenze umane. Come legge questo equilibrio?

Contano entrambi gli aspetti, perché più l'intelligenza artificiale cresce ed evolve, più diventa sia strumento che 'minaccia'. C'è chi sostiene che si potrà gestire in modo consapevole ed equilibrato, ma io sono piuttosto scettico e temo che presto si occuperà di attività svolte oggi dalle persone. Per fare un esempio banale, se un giorno l'IA riuscisse a tradurre bene un intero libro in trenta secondi, il lavoro del traduttore non scomparirebbe certo del tutto, ma probabilmente si ridurrebbe parecchio. E lo stesso vale per molte attività redazionali: pensiamo alle caption sui social, ai sommari, alle sintesi sempre più brevi dei contenuti. Parliamo di lavori che una volta svolgeva un redattore e che oggi temo non faccia quasi più nessuno e il paradosso è che, mentre l'intelligenza artificiale rende la vita più semplice, finirà anche per sostituire il lavoro umano: nel nostro ambito la minaccia non riguarda soltanto lo scrivere, ma anche il comprendere e questo, a dire il vero, mi sembra ancora più grave.

Molti scrittori utilizzano già sistemi di IA per documentarsi, correggere testi o generare idee. Esiste ancora un confine riconoscibile tra l'apporto dell'autore e quello della macchina?

L'unico confine che vedo è rappresentato dalla cautela. Va anche detto che l'intelligenza artificiale non è arrivata oggi all'improvviso: utilizziamo strumenti di questo tipo da molto tempo, penso agli algoritmi dei motori di ricerca e alla loro evoluzione. Noi come casa editrice, a parte interventi minimi, non la utilizziamo e i nostri autori sono invitati a fare altrettanto. Conosco però persone, serie e preparate, che ormai scrivono insieme a questi strumenti, quasi fossero colleghi di redazione o ricercatori: per questo motivo credo che siamo già molto oltre il limite che stiamo cercando di individuare. Poi c'è da dire che siamo di continuo “superati” dall'evoluzione di una tecnologia che si alimenta dei contenuti prodotti ogni giorno da altri: siamo molto preoccupati per la pirateria dei Pdf che circolano online, ma in realtà chi utilizza davvero i nostri contenuti per migliorare i propri strumenti è proprio l'intelligenza artificiale. Altro che pirateria insomma: siamo davanti a qualcosa di molto più grande.

Tocca un altro tema centrale: quello dei contenuti utilizzati per addestrare questi sistemi. Come dovrebbe essere affrontata, secondo lei, la questione dei diritti e della remunerazione di autori ed editori?

È un tema importante, e sono molti i contenziosi già aperti. Non si tratta semplicemente della pirateria tradizionale: qui un testo viene inserito in un enorme sistema che lo utilizza per generare 'valore' e migliorare i propri strumenti. E autori, giornalisti ed editori non sono mai remunerati adeguatamente per questo utilizzo: anche se è difficile immaginare una retribuzione equivalente all'acquisto dell'opera, penso che sarebbe giusto trovare almeno una forma remunerazione. Facciamo un ragionamento: se utilizziamo un libro, lo acquistiamo, lo citiamo e dialoghiamo con il suo contenuto, mentre in questo caso si assorbe tutto senza alcuna restituzione. Credo inoltre che una parte della ricchezza generata da questi sistemi dovrebbe essere destinata a un fondo proprio come i fondi sovrani solitamente legati al petrolio o addirittura a ciò che propone Bernie Sanders, che dividerebbe la proprietà di queste aziende con il Pubblico: perché tutta l'umanità contribuisce inconsapevolmente a migliorare questi strumenti, ma i benefici economici restano concentrati nelle mani di pochi soggetti proprietari.

In un contesto in cui la produzione di contenuti può diventare praticamente illimitata, come cambia il ruolo di chi seleziona, valuta e pubblica i libri?

L'editore potrebbe diventare ancora più importante, ma potrebbe anche essere superato: se nessuno leggerà più un libro intero, e tutti preferiranno affidarsi a strumenti che leggono e sintetizzano al posto loro, rischia di morire l'intero settore. Naturalmente, va detto, chi possiede senso critico e capacità di interpretazione sarà probabilmente tra gli ultimi a essere sostituito, perché non si limita a compilare contenuti ma prende decisioni e individua potenzialità. Assisteremo probabilmente ad una sostituzione progressiva e non immediata e chissà, magari potremmo perfino arrivare a un editore dell'intelligenza artificiale. In sintesi, penso che quasi tutti i lavori intellettuali siano esposti a questa competizione, e che nessuno sia davvero al riparo. Allo stesso tempo chi saprà lavorare con questi strumenti, avrà probabilmente maggiori opportunità professionali.

Una delle capacità che più colpiscono dell'intelligenza artificiale è quella di imitare linguaggi e stili. Fin dove potrà arrivare, secondo lei, questa capacità di replicare la scrittura degli autori?

Questa capacità a qualcuno sicuramente torna utile, e sicuramente nel tempo migliorerà sempre di più: se infatti si chiede a un sistema di scrivere un romanzo nello stile di Dostoevskij, magari in una versione diversa o contaminata da altri generi, questi strumenti sono già in grado di avvicinarsi a quel risultato. Se un giorno saranno anche capaci di gestire enormi quantità di dati e, allo stesso tempo, di replicare tono, stile e punteggiatura di grandi autori, potranno produrre testi sempre più sofisticati e basterà fornire poche istruzioni per ottenere un libro costruito secondo caratteristiche molto precise.

Anche da quest'ultima riflessione emerge che quando si parla di intelligenza artificiale si tende spesso a discutere di capacità tecniche e qualità dei risultati. Ma esistono elementi della scrittura che, a suo avviso, restano legati all'esperienza umana e difficilmente riducibili a un calcolo?

Oggi sì. Esistono infatti elementi personali, punti di vista ed esperienze che non sono riducibili a un semplice calcolo e le emozioni e le sensazioni mantengono un grado di imprevedibilità molto elevato. Quando si scrive un romanzo si cambia insieme alla storia: esistono libri riscritti molte volte, personaggi che mutano seguendo l'evoluzione dell'autore e tutto questo rimane profondamente umano e ora difficilmente replicabile. Per alcune pubblicazioni più semplici, invece, siamo già vicini a una situazione in cui la differenza potrebbe diventare meno evidente.

Al di là della qualità dei testi prodotti, la sua preoccupazione sembra riguardare soprattutto le conseguenze culturali, sociali ed economiche di questa trasformazione. È questo il nodo principale della questione?

La mia preoccupazione riguarda soprattutto ciò che accadrà quando questi contenuti prolifereranno sempre di più: se diventeranno sempre migliori, cresceranno insieme le opportunità e le inquietudini. Non sono contrario al progresso tecnologico, né all'evoluzione di questi strumenti, mi preoccupa però il fatto che vengano immediatamente inseriti in una logica esclusivamente economica. La questione non è soltanto migliorare la scrittura, il problema è come vengono distribuiti lavoro, risorse e opportunità in settori che già oggi non sono particolarmente ricchi, come il giornalismo, la letteratura o l'editoria. L'intelligenza artificiale può liberare le persone da molte attività ripetitive e da molto tempo sprecato e lo sta già facendo ma la vera domanda è un'altra: che tipo di umanità saremo quando a governare sarà questa logica?

Se guardiamo oltre gli aspetti tecnici e professionali, quale sfida pone l'intelligenza artificiale alla letteratura, alla cultura e più in generale alla nostra idea di umanità?

C'è un libro molto importante di Günther Anders che si intitola “L'uomo è antiquato” e credo che il rischio che corriamo sia proprio quello descritto da Anders: essere superati da cambiamenti che non riusciamo a comprendere fino in fondo. La questione non riguarda soltanto i prodotti che realizziamo, ma ciò che siamo e ciò che diventeremo, e la domanda è antropologica prima ancora che tecnologica. Il problema non è soltanto la sostituzione di alcuni lavori o di alcune funzioni, riguarda anche il modo in cui costruiamo la nostra personalità, il nostro spirito critico e il rapporto con gli altri. Se l'intelligenza artificiale ci aiuta a trovare rapidamente un'informazione, ne sono contento, quando però pretende di spiegarmi cosa devo pensare o fare, allora la questione cambia. Lo spirito critico diventerà, insomma, ancora più importante: avremo bisogno di decidere collettivamente quali saranno gli usi sociali di queste tecnologie e quali conseguenze avranno sulla nostra società. La riflessione, culturale e antropologica, è urgente tanto quanto quella economica e sociale perché non stiamo discutendo soltanto di tecnologia, stiamo discutendo del futuro delle persone.