L’influenza potenziale dell’AI sui valori etici e sul comportamento socioculturale
Che cos’è l‘intelligenza artificiale? Fino a che punto può raggiungere, superare o sostituire quella umana, e in quali forme?
Ciò dipende anche da cosa intendiamo per intelligenza: è solo conoscenza (sapere che cosa), oppure è anche saggezza (sapere per che cosa)? Per Aristotele la saggezza è «una disposizione vera, accompagnata da ragionamento, che dirige l’agire e concerne le cose che per l’uomo sono buone e cattive». Ma la saggezza è una prerogativa solo dell’uomo? Cosa può succedere se l’Intelligenza Artificiale, in una delle sue forme possibili, l’influenza il comportamento umano e le nostre decisioni?
Non è ancora possibile dare delle risposte, ma è sicuramente urgente e attuale porsi molte domande. Non superficiali.
SANTI, NAVIGATORI O COPILOTI?
Da tempo ci siamo abituati a ricorrere al navigatore GPS per assisterci nella guida, e gradualmente mentre guidiamo colloquiamo con diverse forme di assistenti vocali, per farci leggere messaggi, attivare funzioni o telefonare a qualcuno. Dopo Siri e Alexa, non dovrebbe quindi sorprenderci l’annuncio dei Copilot di Microsoft, o la previsione di Bill Gates che tra pochi anni tutti avremo un assistente personale. In Effetti la killer application dei progetti “Q” – la punta di diamante dello sviluppo AI – è lo sviluppo di assistenti digitali abilitati dall’Intelligenza Artificiale, soprattutto nell’ambito professionale.
Tornando ai navigatori, umani e artificiali, se restiamo nel campo della guida sicuramente possiamo citare sia decisioni umane irresponsabili, come quella del comandante Schettino alla guida della Concordia, sia i casi degli errori dei software di intelligenza artificiale dei voli Boeing che si sono schiantati al suolo.
I dubbi restano, ma tendenza emergente pare a favore degli assistenti artificiali.
Ma fino a che punto saremo disposti a farci assistere?
Dall’assistenza professionale a quella comportamentale, il passo è breve. Non è difficile immaginare assistenti artificiali per la gestione dei nostri patrimoni, per il look personale, o per il bon ton in società. L’evoluzione di Tinder potrebbe sfociare nell’Assistant sentimentale ed erotico.
Il termine Ethos in greco, da cui deriva l’etica, ha un senso piuttosto ampio, non riguardo solo la morale, ma più in generale il comportamento e il vivere. Quindi l’Ethos non è solo il codice etico, ma ha radici comuni con i comportamenti della vita quotidiana. Un ambito in cui, fino a poche generazioni fa (i nostri nonni) il principale supporto era l’etica religiosa, che regolava le nostre azioni fino all’intimità. Gli “spiritual assistant” dell’Europa cristiana erano la Bibbia e i modelli comportamentali dei santi.
Q & Q – DUE SENSI DI UNA LETTERA
I macro progetti globali di intelligenza artificiale del 2023 hanno scelto la lettera Q come chiave e marchio di fabbrica. Il conflitto di Sam Altman con i vertici di Open AI è legato al progetto segreto Q* (Q star), a quanto pare finalizzato ad ulteriore salto di livello dell’AI, per soppiantare le attività economicamente rilevanti dell’Homo Sapiens. Analogamente, anche Amazon ha scelto la lettera Q per nominare il proprio assistente basato su AI generativa, “Amazon Q”.
Ma nella cultura umanistica la lettera Q evoca un altro contesto, molto diverso ma per altri versi significativo. Negli studi biblici, la “fonte Q” è da tempo indicata come un testo, andato perduto, che conteneva i detti originali di Gesù Cristo, sul quale si sarebbero basate le successive stesure dei Vangeli sinottici di Marco, Matteo e Luca. Qual era il contenuto della “fonte Q”, che potrebbe essere definita come la parola originaria del Figlio di Dio? Soprattutto i grandi temi dell’etica e della spiritualità. Per chi frequenta le Sacre Scritture, si tratta soprattutto del discorso della Montagna, che include ad esempio le beatitudini.
Siamo di fronte solo ad una coincidenza inquietante, oppure siamo di fronte ad un Lapsus Linguae dell’inconscio tecnologico globale che tradisce qualcosa di più profondo? In effetti entrambi i sensi descritti della lettera Q – quello tecnologico e quello biblico – riguardano il comportamento umano, le nostre decisioni e azioni, le nostre responsabilità.
La presenza negli store di APP come “Talk to Jesus” è un primo indicatore significativo di un possibile sconfinamento dell’Intelligenza Artificiale nell’ambito spirituale dell’etica e della saggezza.
IDEOLOGIA ARTIFICIALE POLITICALLY CORRECT, CANCEL CULTURE O TRUMPIANA?
L’Intelligenza Artificiale è moralmente neutra? Assolutamente no.
Siamo già di fatto esposti ad un potente filtro etico-politico nell’utilizzo dell’AI generativa. Provate a interrogare ChatPGT su temi moralmente rilevanti, come la parità di genere o il razzismo. Le risposte saranno fortemente connotate dai filtri politically correct. Assistiamo già all’influsso di tendenze emergenti nel sentiment collettivo anglosassone, come il fenomeno cancel culture. Se chiedete di sintetizzare l’opinione di filosofi del passato, naturalmente maschilisti, sul ruolo della donna, avrete risposte del tutto irrealistiche orientate al femminismo. Questo non avviene allo stesso modo nei modelli AI Open Source, o di ispirazione trumpiana. Che possono avere orientamenti diversi.
Esistono quindi già filoni ideologici dell’Intelligenza Artificiale, come avviene d’altra parte negli orientamenti politici dei media, che potrebbero portare gli utenti a scegliere un prodotto rispetto ad un altro. Oppure ad esserne condizionati a loro insaputa.
CONFESSORI, PSICOLOGI E SPIRITUAL ASSISTANT
In una società ormai secolarizzata, abbiamo ancora degli assistenti spirituali ed etici condivisi? In passato l’esigenza di un interlocutore riservato a cui confidare i propri dubbi e problemi era svolto dal confessore. Il ruolo dei preti e dei santi è stato occupato da altre figure, come gli psicologi o gli influencer nei social.
Una delle principali “user experience” dell’AI generativa è l’interazione con interfacce conversazionali. Abbiamo trovato qualcun altro con cui parlare. Le garanzie di privacy non sono ancora tali da definire l’AI un confidente riservato, ma ci potremmo arrivare presto.
Se accetteremo di fidarci dei risultati analizzati dalla visione artificiale per un esame oncologico, sapendo che saranno molto più affidabili della media di un medico umano, perché non potremo estendere questa fiducia ad altri ambiti personali e riservati? Non è quindi del tutto impensabile prevedere l’avvento di “spiritual assistant” alimentati dalla Intelligenza Artificiale.
Ma questo dipende anche da come definiamo la natura stessa della intelligenza, o meglio della sapienza.
SAPERE O SAGGEZZA CONDIVISA?
Umberto Eco definiva l’enciclopedia “il sapere condiviso” di una comunità culturale. Dopo le enciclopedie multimediali degli anni 90, è arrivata l’epoca del motore di ricerca, e in fondo dello stesso Internet, che può anch’esso definirsi “sapere condiviso”. Dopo 20 anni di ricerche su Google, ora l’intelligenza artificiale generativa attinge all’insieme delle fonti digitali disponibili On Line, e si sviluppa quindi anch’essa dal “sapere condiviso” degli anni ’20 del XXI secolo.
Le sentenze oracolari di ChatGPT non esprimono in realtà una intelligenza strettamente artificiale o aliena, ma una sintesi rielaborata in tempo reale del sapere umano, su base probabilistica, in risposta a specifiche richieste (i Prompt). Quindi è in qualche modo una espressione della conoscenza condivisa e pubblicata in rete dell’umanità.
Ma il sapere e la saggezza non sono la stessa cosa. Sapere è potere, senza dubbio. Ma per decidere come usarlo, il potere, non basta la conoscenza o l’intelligenza, serve anche la saggezza. Apparentemente questo è un ambito diverso, tipicamente umano.
Eppure la prossima sfida dell’intelligenza artificiale è assisterci nel prendere decisioni (Decision Making). Quindi la questione etica dell’intelligenza artificiale è molto più profonda: non riguarda solo le leggi con cui serve regolamentare l’impatto dell’AI nella società, attività in cui sono impegnati i governi, la commissione europea, le Nazioni Unite. Riguarda anche un possibile ruolo degli Assistant artificiali nel condizionare o guidare il nostro comportamento individuale. Al posto dell’angelo custode avremo un copilot artificiale? Una questione decisamente delicata sul piano filosofico e religioso.
TECNOLOGIA E SAGGEZZA: L’INVENZIONE DELLA SCRITTURA ALFABETICA
Non è la prima volta nella storia che una tecnologia rivoluziona l’ecosistema cognitivo, religioso ed etico dell’umanità. Un precedente straordinario, che influenza l’umanità da 3000 anni, è l’introduzione della tecnica alfabetica di scrittura.
L’avvento dell’Intelligenza Artificiale ha tutte le caratteristiche di una rivoluzione profonda, destinata a incidere non solo sull’economia, le professioni, la conoscenza, ma anche nella coscienza dell’uomo. Vediamo come l’invenzione dell’alfabeto ha cambiato l’anima (psiche) dell’uomo, per capire che una tecnologia non è neutrale rispetto alla spiritualità e alla saggezza, e cosa potrebbe succedere ai nostri tempi.
IL CASO DI MOSE’ E FREUD: LA NASCITA DELLA COSCIENZA
Nel suo ultimo libro, “l’uomo Mosè e la religione monoteistica”, Freud sostiene che l’avvento dell’alfabeto segna il passaggio dalla preistoria alla storia, dall’inconscio primitivo alla coscienza della civiltà storica.
Per la prima volta un gruppo umano, gli Israeliti sul Sinai, dispone di una tecnologia che permette a tutta la comunità (non solo ad una casta di scribi) di scrivere e leggere rapidamente, trasmettendo per generazioni e millenni un pensiero (quindi possiamo dire una “intelligenza”?) e mantenendolo inalterato.
Il primo effetto della “scrittura di Dio, incisa sulle tavole”, è proprio l’etica. Quella che per i Cristiani è la Bibbia, per gli Ebrei è la Torah, la legge. A partire dai dieci comandamenti, codifica un insieme di norme, fissate e trasmesse grazie alla memoria artificiale della scrittura, che regola ogni aspetto della vita – anche il più intimo – del popolo di Dio. Quindi, in un certo senso, il più importante codice etico della cultura occidentale, la Bibbia, è un effetto dell’invenzione di una tecnica cognitiva, la scrittura alfabetica.
IL SENSO ALFABETICO DEL DIVINO
Ma la tecnica della scrittura non genera solo la legge. Genera anche Dio, o meglio la forma invisibile e monoteistica della divinità, che da allora sarà condivisa dalle tre grandi “religioni del libro” (Ebraismo, Cristianesimo, Islam).
Il primo e il secondo comandamento vietano le immagini e la nominazione verbale, sono prescrizioni mediatiche:
“Io sono il Signore tuo Dio, che ti ho fatto uscire dal paese d’Egitto, dalla condizione di schiavitù; non avrai altri dei di fronte a me. Non ti farai idolo né immagine alcuna di ciò che è lassù nel cielo, né di ciò che è quaggiù sulla terra, né di ciò che è nelle acque sotto terra. Non ti prostrerai davanti a loro e non li servirai” (Esodo 20,7).
Da allora viene bandita l’idolatria, l’utilizzo delle immagini nel culto e nella rappresentazione della divinità (prescrizione ancora valida per Ebrei e Mussulmani). Scrive Freud: “Tra i precetti della religione mosaica se ne trova uno che è più importante di quanto non si riconosca a prima vista. E’ il divieto di fare immagini di Dio, l’imposizione di adorare un Dio che nessuno può vedere. (…) Esso significa infatti posporre la percezione sensoriale alla rappresentazione cosiddetta astratta, un trionfo della spiritualità sulla sensibilità, a rigor di termini una rinuncia pulsionale con le necessarie conseguenze psicologiche.” Freud collega il divieto delle immagini alla invenzione dell’alfabeto: “Se essi erano soggetti al divieto che colpiva le immagini, avevano un motivo per abbandonare la scrittura ideografica dei geroglifici, adattando i suoi segni scritti a esprimere una nuova lingua.”
Ed ecco il secondo comandamento: “Non pronunciare il nome del Signore, Dio tuo, invano; perché il Signore non riterrà innocente chi pronuncia il suo nome invano”. Il divieto di nominare il nome di Dio nel culto colpisce la ritualità e la tradizione orale, quello che per i Greci è stato definito il mito.
Assistiamo sul Sinai ad una guerra dei Media: il vincitore è la scrittura alfabetica, i vinti sono le immagini (gli idoli) e l’oralità (il mito). L’idolo del vitello d’oro (Alef in ebraico) viene distrutto e sostituito dalla lettera alfabetica (Alef, poi Alfa e A).
L’unico media ammesso d’ora in poi è l’alfabeto fonetico, una tecnologia rivoluzionaria che attraverso il libro parla direttamente all’anima. L’alfabeto divide nettamente i sensi e li depotenzia, adottando segni visibili che di fatto non vanno “visti” ma solo riconosciuti come indici convenzionali di suoni; i quali a loro volta non sono “uditi”, ma letti: nel silenzio dell’anima. Nella user experience della lettura alfabetica l’occhio vede un segno in cui riconosce un suono, che le orecchie non odono. Il corpo stesso, con i suoi sensi e le sue pulsioni, viene rimosso. Compresi gli idoli, da Eidos, immagini, ancora oggi proibite nel culto da Ebrei e Mussulmani.
Con l’alfabeto nasce il conscio, l’io consapevole ma anche il Super Io di Freud, o in altri termini l’anima (Psiche, da cui psicologia).
“L’uomo si trovò condizionato in generale a riconoscere potenze ‘spirituali’, tali cioè da non poter essere colte con i sensi, specialmente con la vista (…). Contemporaneamente ci fu la scoperta dell’anima come principio spirituale dell’uomo singolo.”
Oggi, con l’Intelligenza Artificiale, stiamo forse affrontando un passaggio della stessa portata.
Forniamo alcuni approfondimenti sull’origine della tecnica di scrittura alfabetica e il suo impatto sull’intelligenza, il sapere e la religione: il video di un intervento su Ted Talks:
E un saggio di Filosofia Teoretica (l’immagine della Scrittura – Kallir e Derrida)
L’era dell’alfabeto, con le sue forme di norme e divinità dominanti da 3 millenni, sta forse tramontando per condurci in un nuovo mondo sconosciuto?
SUPER IO E FÜHRER ARTIFICIALI?
Per Freud con il monoteismo, l’alfabeto e i 10 comandamenti nasce anche il Super-Io, la componente della psiche che regola il comportamento e presiede alla coscienza morale nella civiltà occidentale. Nella visione Freudiana è l’uomo a creare Dio, come proiezione del Super Io. Si tratta di una forma di alienazione: l’uomo si sottomette a Dio, che presiede alle strutture repressive sia della società che dell’anima.
Non entriamo qui nelle questioni dell’esistenza di Dio e dell’ateismo, ma vogliamo sottolineare il parallelismo tra gli effetti psicologici ed etici di una tecnica cognitiva straordinaria, l’alfabeto, e oggi l’introduzione dell’Intelligenza Artificiale.
Nella forma di Assistant e Copilot, l’AI si sta già ponendo come una struttura esterna creata dall’uomo, che lo guida in una gamma crescente di attività complesse, inizialmente professionali poi sempre più profonde e psicologicamente e moralmente rilevanti.
La tentazione umana di alienare ad altri, divinità e mortali, le proprie decisioni e responsabilità è ampiamente documentata dalla storia.
La traduzione tedesca della parola “guida” è “Führer”, e sicuramente evoca scenari inquietanti. Il Super Io può assumere forme divine, ma anche umane, quando le strutture repressive vengono gestite da dittatori.
I regimi autoritari stanno già avvalendosi dell’Intelligenza Artificiale: il partito comunista Cinese la utilizza per il controllo della popolazione, attraverso il sistema del Credito Sociale. 2.5 milioni di cittadini cinesi hanno già subito sanzioni. La Cina esporta il sistema AISS (Artificial Intelligence Surveillance System) in oltre sessanta paesi, fornendo non solo il sistema di Intelligenza Artificiale, ma anche le videocamere, necessarie per smantellare l’opposizione, monitorare l’estremismo, creare l’infrastruttura necessaria alla sorveglianza civile e politica. Di rilievo anche la dichiarazione di Vladimir Putin: “il leader nell’intelligenza artificiale dominerà il mondo”.
D’altra parte, nella sfera occidentale-capitalista lo sviluppo dell’AI sembra già finalizzato al puro profitto, anche sotto forma di speculazione finanziaria. L’idea di sostituire con l’AI tutte le attività umane economicamente rilevanti è sicuramente attraente dal punto di vista speculativo, ma può avere un impatto sociale devastante. Per questo i leader mondiali si sono ripetutamente incontrati per gestire l’evoluzione imminente, che minaccia di creare conflitti sociali molto profondi se non gestita con equilibrio.
In questo video sintetizziamo la sfida etica per l’AI tra Europa, USA e Cina.
PLATONE: SAPIENZA DELLA TECNICA O DELL’ANIMA?
Torniamo sul rapporto tra il pensiero e la tecnica. Sempre parlando della tecnica della scrittura, Platone la definisce un “Pharmakon” per la memoria, nel doppio senso di veleno e farmaco. Socrate diffida della scrittura, a favore del dialogo che mette a contatto un’anima con un’altra anima, nella comune ricerca della verità. Nella misura in cui dal dialogo può emergere una forma di conoscenza solida, Platone è a favore della forma scritta, che la può fissare e rendere pubblica, e in ultima analisi rendere trasmissibile nel tempo, fino ai giorni nostri.
Assistiamo quindi ad una riflessione aperta sulle due dimensioni del sapere: quella abilitata e fissata dalla tecnica della scrittura, e quella interna all’anima di ogni persona. Prevale comunque in Platone una diffidenza nei confronti della scrittura.
CHE FARE? QUESTIONI APERTE SUL CONTROLLO ETICO DELLA INTELLIGENZA ARTIFICIALE
Dobbiamo anche noi diffidare della nuova tecnica della conoscenza, l’Intelligenza Artificiale?
Possiamo pensare di controllarla, e impedire che nelle varie forme degli Assistant prenda autonomamente il controllo delle nostre decisioni?
In quali ambiti è pensabile fidarsi delle scelte di un Assistant, e in quali applicazioni sarà meglio rinunciare alla comodità di un copilota?
Meglio porre sul tavolo queste domande, soprattutto in ambito educativo, culturale e politico, prima che sia troppo tardi.
Finora abbiamo principalmente svolto la “pars denstruens” della questione, sollevando interrogativi e problematiche potenziali, anche attraverso analisi comparative del passato filosofico, etico e religioso. Occorre ora entrare nella “pars construens”, cioè sulle risposte e proposte costruttive.
- Sul piano educativo, è senza dubbio urgente accelerare sullo studio e sullo sviluppo del senso critico nei confronti dell’Intelligenza Artificiale nei sistemi scolastici.
- Nell’ambito culturale e filosofico è necessario aprire un ampio dibattito, a tutto campo, sulla interazione tra l’AI e l’intelligenza umana.
- Nella politica, è rilevante capire come l’Intelligenza Artificiale può influenzare lo sviluppo del consenso, e quindi sul futuro della democrazia.
DOMANDE TEORICHE E RISPOSTE OPERATIVE: SOLUZIONI DI INTELLIGENZA ESTESA
In questo articolo finora abbiamo posto molte domande teoriche, a cui non abbiamo dato risposte.
L’approccio di Carraro LAB non è solo teoretico, ma principalmente operativo. Le risposte possono essere soluzioni operative, sotto forma di applicazioni e piattaforma tecnologiche orientate da una visione umanistica basata sui valori dell’educazione e del bene comune.
D’altra parte, siamo entrando in un’epoca caratterizzata dal pensiero operativo dei Promt. La distanza tra pensare e fare si sta accorciando. Ecco quindi che le risposte possono diventare rapidamente soluzioni, applicazioni, contenuti, generati con il supporto dell’AI.
Occorre cavalcare la tigre, raccogliere la sfida dell’Intelligenza Artificiale sviluppando progetti e strumenti. Metodi scientifici, concetti filosofici, visioni politiche, strategie pedagogiche devono diventare applicazioni di Intelligenza Artificiale.
L’alternativa ad un utilizzo distorto dell’AI passa attraverso un cambio di paradigma, che può essere definito Intelligenza Estesa. Grazie ad un approccio umanistico, le tecnologie dell’AI vengono intese non come una sostituzione, ma come una estensione della intelligenza umana.
Le tecnologie AI, come quelle della Realtà Estesa, offrono all’umanità dei superpoteri che vanno oltre i limiti dell’intelligenza naturale.
Carraro LAB sta sviluppando una gamma di soluzioni basate sulla Intelligenza Estesa, con significativi aspetti umanistici e cognitivi:
SYMPOSIUM – Sistema di attualizzazione del pensiero filosofico nella didattica. Il pensiero dei filosofi del passato viene riattivato per affrontare i temi del mondo contemporaneo.
COUNCIL – Supporto per le decisioni basato su AI e su un approccio comparativo e consultivo. Si creano diverse esperienze educative per sperimentare il contributo dell’AI nel decision making.
VILEMA (Video Learning Machine) – Applicazione AI per l’analisi interattiva di video conferenze e lezioni. L’utente interagisce con i contenuti delle più autorevoli fonti video di tutto il mondo.
CONVERSA – Interfaccia conversazionale basata sulla metafora del tutor, per interazioni contestuali in ambienti virtuali simulati
FUTURE DECODER – Piattaforma per lo studio del futuro mediante intelligenza artificiale, che permette di attingere alle visioni di esperti, istituzioni, centri di ricerca, aziende innovative, con funzionalità “ask the expert”.
EXTENDED INTELLIGENCE ENVIRONMENT – Soluzione, sottoposta a domanda di brevetto, che integra l’AI con la realtà virtuale e la realtà aumentata, per finalità educative.
APPROFONDIMENTI IN CARRARO LAB
Geopolitica della Intelligenza Artificiale
L’integrazione tra Intelligenza Artificiale e Realtà Virtuale