Editoria, intelligenza artificiale ed estesa

Intervento di Gualtiero Carraro alla conferenza Moebius di Lugano – 4 ottobre 2025

Questo è un intervento che riguarda il futuro. Futuro di cosa? il futuro del Moebius, quindi di questa iniziativa e del premio, il futuro dell’editoria, perché è sempre stato questo il tema chiave su cui si è costruito il Moebius, il futuro dell’intelligenza artificiale che è anche un presente, ma direi forse più di tutto il futuro della intelligenza estesa.

Che cosa si intende per intelligenza estesa? La mia accezione di intelligenza estesa è “l’intelligenza umana che viene estesa dall’intelligenza artificiale”, quindi una nuova forma di intelligenza umana che accomuna tutti e tre questi futuri.

Alle radici dell’editoria
Restiamo sul focus della editoria, partendo da un flashback storico, cioè che cos’è l’editoria? L’editoria non è nata nell’età classica, c’è un momento specifico in cui nasce l’editoria ed è legato all’invenzione della stampa a carattere mobili: Gutenberg.

Gutenberg è un inventore, ha inventato una tecnologia che definirei cognitiva nella misura in cui, come l’intelligenza artificiale, impatta sulla conoscenza, ed è al tempo stesso è anche un imprenditore o meglio ancora un editore, più esattamente il primo editore. Nella sua figura si accomunano questi due fattori. In realtà questa tecnologia che ha creato l’editoria ha attivato anche un salto evolutivo dell’intelligenza umana.
In che cosa si è tradotto? La stampa ha prodotto sì l’editoria, ma se vogliamo ha anche influenzato la riforma protestante, cioè una forma di interpretazione del libro – della Bibbia – più personalizzata grazie alla disponibilità dello stesso libro su scala industriale.
Ha prodotto anche il pluralismo democratico, nella misura in cui il proliferare delle idee e della libertà di stampa e quindi ha permesso il confronto, appunto il pluralismo.
Tra l’altro anche nella storia della democrazia in Svizzera si può tracciare questa relazione tra queste rivoluzioni.
Aggiungiamo anche la libertà di pensiero filosofica direi quindi l’Illuminismo, da questo punto di vista, l’esperienza del salotto illuminista. Parliamo quindi dei diritti che noi oggi abbiamo acquisito a livello europeo.

Il giornalismo, la stampa e l’AI

Un fenomeno particolare derivato dalla stampa a caratteri mobili è il giornalismo, quindi anche l’etica del giornalismo, il concetto di verità nella cronaca e il ruolo che questa ha nella democrazia e anche la scolarizzazione di massa, perché se non avessimo avuto i libri non avremmo assistito alla scolarizzazione di massa. Quindi l’invenzione di Gutenberg ha avuto impatti non trascurabili a livello storico e sociale, ma ciò si inserisce in un quadro più generale di cui da tempo mi sto occupando, che è l’analisi storica e teorica di come l’uomo ha compiuto salti evolutivi nella conoscenza, a partire dalle tecnologie cognitive.

La stampa, l’AI, le tecnologie e le rivoluzioni cognitive

Perché ci occupiamo di questo? Perché oggi siamo di fronte a una nuova tecnologia cognitiva, l’intelligenza artificiale, che sta per rivoluzionarci.
Possiamo allora fare tesoro di ciò che è avvenuto nel passato, quindi delle altre precedenti tecnologie cognitive che hanno già prodotto delle rivoluzioni cognitive e quindi da questo fatto storico cominciare a capire cosa potrebbe e cosa succedere.

Dico “potrebbe” perché non è detto che succeda: va detto che Gutenberg era un genio, nel senso che era un inventore originale perché i cinesi avevano inventato la stampa, ma non a caratteri mobili.
Quindi per ottenere un salto evolutivo della conoscenza c’è bisogno per introdurre una mutazione. Noi qui Lugano abbiamo parlato al tempo di editoria mutante, della mutazione di un gene. Gene e genio sono due parole che somigliano molto. Ci vuole una genialità umana, cioè non basta la tecnologia, non basta l’intelligenza artificiale, ci vuole qualcosa che può, diciamo, consentirci di fare un passaggio che non è automatico. E qui è un appello che comincio a allargare a tutti: un invito a cominciare a riflettere su quello può essere il nostro ruolo in questa rivoluzione cognitiva.
E qui propongo una breve rassegna di quelli che sono stati a mio avviso i principali geni delle rivoluzioni cognitive.

Il primo, l’inventore dell’alfabeto fonetico protosinaitico indubbiamente Mosè, che tra l’altro crea il primo libro molto prima dei greci, la Bibbia, e determina una discontinuità che è stata riscontrata poi da molti filosofi. Anche Derrick de Kerkhove ha parlato qui a Lugano di questi argomenti, relativi alla evoluzione della conoscenza umana.

Quando l’alfabeto passa il Mediterraneo e arriva in Grecia, un gruppo di geni, i presocratici, creano la filosofia. Pensate alla differenza che c’è tra il pensiero mitico e Aristotele. L’alfabeto è arrivato anche a Roma, a Fenici e agli Etruschi, ma c’è voluta una genialità umana, quella dei presocratici, perché si potesse tradurre in un salto cognitivo.

Poi abbiamo, per esempio, la macchina prospettica di Brunelleschi che nel Rinascimento crea una nuova visione del mondo e della realtà. Abbiamo la stampa carattere mobili di Gutenberg, abbiamo la rivoluzione di Galileo che con il telescopio comincia a vedere qualcosa che si muove che Dante non poteva vedere. Cioè, abbiamo due geni, Dante, pensate: purgatorio, paradiso, inferno, una genialità enorme, ma il mondo di Dante con Galileo si scontra con la tecnologia cognitiva del telescopio che si traduce nel pensiero scientifico.

Vi racconto una storia bellissima, quella della fotografia e dell’arte moderna.
Assistiamo nell’800 a Parigi all’avvento della fotografia. La incontrano i pittori, ritrattisti, paesaggisti, e dicono “Ma come, in un secondo questa mi fa un’immagine migliore di quella che io sono in grado di fare in un giorno, in due giorni”. Cosa potevano fare? Appendere il pennello al chiodo? No, hanno pensato, “Adesso facciamo un salto evolutivo.” Invece di fare la riproduzione pedissequa della realtà, inventiamo l’impressionismo, l’espressionismo, l’astrattismo e abbiamo fatto un salto evolutivo del pensiero artistico che non è più soltanto riproduzione della realtà, ma è appunto pensiero.

Ci sono altri esempi: le telecomunicazioni Marconi a Turing che inventa l’intelligenza artificiale. Berners Lee che ha parlato in questi giorni, tra l’altro, di nuovo sul web che lui ha inventato e che ha donato l’umanità e che deve essere riscoperto come risorsa.

L’AI: la prossima rivoluzione cognitiva
Quindi arriviamo adesso alla prossima rivoluzione cognitiva, più potente della stampa. Io credo che quello che sta avvenendo adesso abbia come precedente l’invenzione dell’alfabeto fonetico, quindi è circa dal 1200 Avanti Cristo, sono 3 millenni che non assistiamo ad una rivoluzione cognitiva di questa portata. Le altre sono state sì delle invenzioni che riguardano l’arte, la scienza, la comunicazione, però anche Gutenberg industrializza l’alfabeto, non l’ha inventato.
Quindi oggi siamo di fronte a un passaggio drastico, è come se passassimo dal politeismo idolatra egizio alla Thorà. Freud dice che questo è un passaggio dalla dall’inconscio preistorico alla razionalità storica.

La sfida dell’Intelligenza Artificiale all’Editoria

Ma l’editoria potrà sopravvivere a questa trasformazione? Oppure verrà travolta? Anche qua nulla è scontato e qui si si pone la questione anche di evidenziare attraverso il Moebius quelle che potranno essere, diciamo, le future trasformazioni dell’editoria. Intanto ci sono già cose che stanno accadendo sotto gli occhi di tutti che stanno comunque minacciando alla base l’editoria – che tra l’altro è principalmente una invenzione europea – la grande editoria in Europa. Attenzione, il patrimonio letterario dell’umanità è preda dei modelli di ormai l’hanno preso, l’hanno rastrellato, hanno rubato anche dei copyright, poco conta. Quanto è importante per, non so, Amazon, Google o Microsoft una multa da 2 miliardi? Poco rilevante. Quindi il meccanismo è questa predazione. C’è un fenomeno che avete riscontrato tutti, le AI overview di Gemini su Google, che ti fanno una sintesi di ciò che cerchi e quindi non ti porta più a consultare i siti e quindi abbatte il ruolo dei siti editoriali. Questa è un’altra minaccia, in un settore già fortemente compromesso. Abbiamo la generazione automatica di testi che permette a tutti potenzialmente di diventare autori, togliendo spazio anche gli autori.
Abbiamo l’approccio monologico e oracolare del chatbot che minaccia il pluralismo. È un tema importante per il sistema democratico. Si sta verificando un’evoluzione del pluralismo, della libertà di stampa. Avere oggi un oracolo chatGPT o Gemini che mi dà una verità con un effetto veritativo e con un approccio anche, diciamo, un uno standing assertivo, sta ponendo le persone in una condizione di dipendere da questo approccio monologico. Piattaforme social disintermediano gli editori e organizzano informazioni medianti algoritmi. Questo è un meccanismo molto noto, ma che praticamente ha tolto spazio all’editoria, che è sempre media vuol dire anche mediare tra la conoscenza e il pubblico. Oggi questa mediazione è stata distrutta dalla dalle piattaforme che portano ogni singolo di voi a essere iscritto a una piattaforma e relazionarsi direttamente con questa con un effetto apparentemente, diciamo, aperto e democratico. Di fatto queste piattaforme sono private e hanno come unica finalità correttamente il profitto. Quindi questi algoritmi sono finalizzati non a educarci ma a fare profitto con tutte le conseguenze che ciò comporta.
Abbiamo anche il fenomeno delle fake news che stanno inquinando l’infosfera.

Le opportunità per l’editoria nell’era dell’AI
A questo punto veniamo ad affrontare le opportunità per l’editoria e quindi quali potrebbero essere gli aspetti del Moebius dell’anno prossimo.
Assistiamo chiaramente al tentativo, come dire alla tentazione degli editori di ritirarsi nella difesa, nella roccaforte della carta. Cioè gli editori oggi stanno principalmente difendendo per quanto si può e per quanto possibile, per quanto dura il libro La carta, subendo offensive importanti. Quanto può durare una strategia difensiva? Io mi sono occupato di enciclopedie. Oggi l’enciclopedia cartacea non esiste più. Mi sono occupato di directory, Pagine Gialle. Oggi le Pagine Dialle non esistono più. Quindi, in realtà è un territorio che si restringe.
C’è un’altra possibilità, ripensare le forme editoriali potenziandole con l’intelligenza artificiale. Quindi dobbiamo considerare, e qui comincio a introdurre quello che potrebbe essere il premio dell’anno prossimo, che l’editoria può svolgere un ruolo importante nell’estensione dell’intelligenza umana, che non è un effetto scontato dell’intelligenza artificiale, anzi sappiamo tutti che l’intelligenza artificiale ha una grande rischio che è l’atrofia mentale. è stato misurato anche della MIT recentemente in una sperimentazione, ma è ovvio che se voi rinunciate a scrivere, a tradurre, a sintetizzare, prima o poi perdete queste facoltà mentali. Quindi l’intelligenza artificiale di per sé non è automaticamente un’estensione della conoscenza umana, ma può esserne una riduzione. Come può invece, diciamo, tradursi in una estensione?

La curva dell’Innovazione dell’AI

La curva di Garner è uno schema grafico che descrive quella che normalmente è la fase evolutiva delle innovazioni, ciò che avviene in quasi tutte le fasi innovative, per esempio le web economy oppure anche la APP economy oppure il mondo del metaverso. Oggi adesso alla curva di innovazione dell”intelligenza artificiale siamo più o meno nella fase di crescita.

C’è una prima curva innescata, per esempio, in questo caso da Chat GPT. Abbiamo, diciamo, l’ AI generativa che crea una grande aspettativa e enormi anche speculazioni sia finanziarie che mediatiche. In questi giorni, Jeff Bezos a Torino ha detto chiaramente che siamo di fronte a una bolla, una bolla che poi può esplodere e quindi ecco che potrebbe scendere la curva di Gartner. La fase successiva è una disillusione che si traduce nella riduzione degli investimenti, ma anche in disillusione da parte del pubblico e degli utenti. Cosa succede normalmente? Questa può essere anche prodotta dagli effetti delle delle allucinazioni – si scopre che poi è una tecnologia non affidabile – oppure dalle normative che cominciano a ridurre lo spazio di un puro e semplice sfruttamento di questa tecnologia, iniziano a porre anche dei limiti.
Cosa arriva dopo? E qui può arrivare il ruolo della editoria, la consapevolezza, cioè noi dovremmo essere più consapevoli come di fronte a una dialettica hegeliana, tesi, antitesi, sintesi, prima eravamo super ottimisti, poi rischiamo di essere troppo pessimisti. Speriamo di diventare più realisti. Ma sto parlando di uomini, non di intelligenze artificiali. Cioè noi uomini dovremo diventare consapevoli e qui c’è un tema importante che è la formazione. I grandi paesi del mondo stanno pianificando dei grandi progetti di formazione collettiva all’intelligenza, artificiale per poterla introdurre in una fase di produttività. In realtà oggi l’AI è un grande chiacchierone, intelligente, artificiale. Quanto stia realmente introdotta nelle aziende, nei processi produttivi è un punto interrogativo. Dovrà esserlo, ma ci vuole un passaggio intermedio. Noi dobbiamo assumerla e gestirla. Ma ecco che a questo punto il risultato finale non sarà l’intelligenza artificiale, ma sarà l’intelligenza umana estesa dall’intelligenza artificiale. Questo è quello che noi pensiamo e auspichiamo. Quindi che ruolo possono avere gli editori? La nuova mediazione culturale tra le AI e il pubblico. Chi forma il pubblico all’intelligenza artificiale? la stessa intelligenza artificiale? Noi stessi da soli? ci vuole un soggetto. Chiaro che nella scuola può essere la comunità educativa che assume questo ruolo e forma all’intelligenza artificiale. Nella società, i media, gli editori, possono svolgere un ruolo. Ho avuto un incontro importante con i principali conduttori di programmi televisivi di opinione e di attualità in Italia televisivi e abbiamo condiviso la possibilità che la televisione possa per esempio svolgere un ruolo di questo tipo, ma anche i giornali, quindi spezzare quel rapporto diretto che c’è tra voi e CGPT, tra voi e l’intelligenza artificiale, introdurre uno strato di consapevolezza e di senso critico. E quindi, diciamo, creare una AI literacy – si chiama in questo modo – cioè una conoscenza, competenza, consapevolezza dell’intelligenza artificiale. Cosa può nascere nei prossimi anni?

Opere multimodali.
Questo lo viviamo noi, per esempio nel mio studio. Stiamo riuscendo a fare produzioni grazie all’intelligenza artificiale che era impossibile fare prima. Cioè oggi una agenzia può produrre film di livello holiviano con effetti speciali che in passato avrebbero richiesto centinaia di persone, computer graphics, testi, immagini, audio, video, 3D. Quindi in realtà possono nascere nuovi editori, anche piccoli, anche single. Singoli autori possono creare opere di grande rilievo, possono creare dei Kolossal: in realtà anche voi da soli, in realtà tra poco lo potrete fare.

Traduzione automatica.
Oggi l’editoria è molto frenata dalle lingue, cioè un editore che pubblica in italiano, in Svizzera avete per fortuna più lingue, però non tutti gli editori pubblicano in tutte le lingue. Evidentemente avere la traduzione automatica affidabile come quella che sta arrivando ormai può consentire a un editore di essere più globale, ma anche di tradurre film, articoli, serie. Quindi c’è un’opportunità di occupare nuovi mercati.

Reale o Fake?
In questo contesto è molto importante tener presente che esistono queste due sfere, il mondo del reale e il mondo dell’artificiale. Allora, nel mondo reale c’è la fotografia e il video. Che cosa non potrà mai fare l’intelligenza artificiale? fare una vera autentica fotografia di un bambino ferito a Gaza, per esempio, perché la sua sarà sempre artificiale, sarà falsa. Cioè l’intelligenza artificiale ha un limite ontologico, non è reale, è sintetica e quindi crea effetti speciali. Va benissimo per fare synthetic media, videogame, metaverse, generative, tutto il mondo fiction, advertising. Ma se dobbiamo fare un reportage dobbiamo usare tecnologie reali, quindi ci sono anche dei limiti dell’intelligenza artificiale e il giornalismo, la stampa possono giocare questo ruolo, cioè essere i testimoni della realtà. Ci sono centinaia di giornalisti che operano in scenari di guerra, vengono uccisi anche ieri uno. Altri sono dei martiri, se vogliamo, della libertà di stampa e di opinione e questo ruolo non potrà mai essere occupato dall’intelligenza artificiale. Parliamo di Real people in real worlds.

La valorizzazione delle fonti
L’intelligenza artificiale genera mondi e fatti sintetici realizzando anche dei rimescolamenti, delle rielaborazioni, ma in realtà noi dobbiamo pensare che esistono ancora autori, esistono ancora editori, una fonte non equivale all’altra e quindi questo principio di riconoscimento delle fonti autorevoli deve essere mantenuto. Questo è anche il principio anche della trasparenza espresso dall’AI Act europeo che non viene facilmente tradotto in pratica, però dovrebbe in qualche modo rispettare la riconoscibilità delle fonti.

L’Intelligenza Artificiale privata
C’è un’altra sfera dove l’editoria con intelligenza artificiale può espandersi, che è quella del mondo delle AI private. Ad esempio applicazioni per aziende che non vogliono pubblicare su internet i loro cataloghi tecnologici o proprietà intellettuali riservate. Vogliono metterle su un proprio server con un modello AI addestrato, ma che sia ad uso privato. House organ e tutto il mondo, diciamo, delle informazioni, anche istituzioni. Se voi mettete un testo su Open AI, vuol dire che avete addestrato il modello su questo contenuto che sarà condiviso a livello mondiale. avete perso una proprietà intellettuale. Ecco quindi che c’è spazio per tutto il discorso della protezione. RAG vuol dire Retrieval Augmented Generation. E’ una tecnologia che permette di, come dire, creare modelli personali di accesso all’intelligenza artificiale.

I piani nazionali di formazione all’AI e gli editori

Come dicevo, sono in corso dei piani. Questo è un tema politico. in un intervento al Senato della Repubblica in Italia mi sono confrontato su questo tema, cioè come in alcuni paesi del mondo, anzi i più importanti, sono nascendo dei piani nazionali di formazione all’AI. I cinesi hanno il governo e le aziende integrate e stanno facendo il progetto più efficace perché usano le loro tecnologie delle aziende dirette dal governo stesso.
Gli inglesi per me hanno proposto il progetto peggiore: Starmer ha praticamente deciso che la formazione della popolazione intelligenza artificiale sarà affidata alle big tech americane. Come chiedere all’oste se è buono il vino.
Gli americani sono un po’ combattuti perché all’interno sanno sì uno stato importante, ma hanno anche delle aziende molto potenti: confliggono gli interessi tra Stato e aziende.
In Germania, quindi parliamo di Unione Europea, il cancelliere Merz sta pensando a un finanziamento di un ecosistema di intelligenza artificiale che hanno già i cinesi, ma
noi non abbiamo e quindi occorrono importanti finanziamenti. Ne ha parlato ieri anche la Ursula Von del Leyen a Torino: la sfida è tagliare il cordone ombelicale con Silicon Valley e creare un’intelligenza artificiale locale. In questo contesto gli Stati potrebbero decidere di finanziare anche gli editori affinché svolgono un ruolo di mediazione culturale della popolazione, di formazione.
Stiamo sviluppando laboratori e progetti di questa natura anche molto avanzati.

Editoria scolastica e AI
Un altro fronte importante su cui anche noi siamo impegnati è quello dell’editoria scolastica. È chiaro che il libro esiste ancora, io mi auspico che esisterà ancora a lungo, ma può essere non sufficiente. Quindi pensiamo a ambienti immersivi e con intelligenza artificiale che costituiscono il futuro del libro di testo. Ad esempio, noi abbiamo adesso attivato un prodotto che si chiama Microlingua Lab, che serve ad apprendere le lingue specialistiche con l’intelligenza artificiale attraverso esperienze immersive della moda, del design, della logistica, della sanità.
Quindi ci sono ambiti in cui l’editoria non è mai intervenuta. Stiamo creando dei manuali immersivi sull’educazione motoria, per esempio, che il libro non può fare. Ci sono quindi spazi dove l’intelligenza artificiale può creare nuove forme di editoria.

AI Book – Homo Extensus
Per ultimo mi riferisco a un progetto che abbiamo realizzato, si chiama Homo Extensus, lo trovate gratuitamente su Google ed è un sito web che in realtà costituisce il format di un Aibook. cos’è un Aibook? è un libro scritto da uomini, ma potenziato dall’intelligenza artificiale. Per esempio, se voi andate su Homo Extensus trovate un indice adattivo che si adatta a seconda se il lettore è un giornalista, un docente, uno studente o un artista. Abbiamo “Dialogos”, una funzione conversazionale che permette di attivare un chatbot che è stato addestrato solo col contenuto di questo libro. Risponde per conto dell’autore, che sono io tra l’altro, ma comunque diciamo mi ha, devo dire, interpretato molto fedelmente e risponde a domande specifiche che possono essere fatte. Per esempio, non so cos’è e che differenza c’è tra transumanesimo e Homo Extensus. Perché oggi ci sono anche delle filosofie. Conoscete la singularity? È la teoria per cui a un certo punto l’intelligenza artificiale supera l’intelligenza umana. Il transumanesimo invece descrive l’intelligenza artificiale innestata nel cervello. Vi consiglio un libro di Attali: “Conoscenza e barbarie, storia e futuro dell’educazione, in cui si parla di possibile educazione bionica, dove addirittura l’educazione viene inserita nel nostro cervello mediante dei chip.
Queste prospettive sono piuttosto distopiche e inquietanti. Homo Extensus vuole dare una risposta. E propone questa sfida. Qui parlo in qualità di autore, di un autore di un AI book. Ero al Senato della Repubblica Italiana giovedì in un convegno sulla diplomazia culturale dell’Italia e ho detto io sarò all’estero sabato a portare avanti una nuova idea culturale italiana, quindi a fare diplomazia culturale. Sono in questo caso un diplomatico e vi sto introducendo all’idea che possono nascere non solo nuovi formati tecnologici del libro, ma nuovi messaggi culturali. Perché Homo Extensus è un medium -AI book – e anche un message, cioè l’idea dell’intelligenza estesa che rilegge la storia dell’uomo sulla base dei salti evolutivi della cultura, sperimenta l’intelligenza artificiale applicata al libro e punta alla missione collettiva della progettazione dell’intelligenza umana estesa.

Il manifesto dell’Intelligenza Estesa
L’AI Book è quindi anche un manifesto – vi ricordate i manifesti, del futurismo, del Partito Comunista, di Ventotene – un manifesto che invita a tutti noi, le persone dotate di intelligenza e senso critico a progettare le forme future della intelligenza umana estesa, tra queste anche l’intelligenza dell’era editoriale autorale. Questo è un invito che facciamo a tutti. Riteniamo che sia una missione necessaria, tutt’altro che scontata. E’ una partita che potremo perdere, potremmo, intendo dire come Homo sapiens, essere sovrastati dall’intelligenza artificiale oppure potremmo usarla come un trampolino per fare un salto evolutivo, come abbiamo fatto nelle epoche precedenti, compresa quella della stampa e dell’editoria.