L’uomo al di sopra dell’Intelligenza Artificiale
Il neologismo OverTheAI indica un principio culturale, metodologico e di User-Interface Design che colloca l’uomo al di sopra della Intelligenze Artificiali.
L’idea di fondo è consentire all’utente umano di mantenere un controllo vigile, critico e consapevole delle applicazioni e dei contenuti dell’AI.
Gli ambiti applicativi sono numerosi, dalla didattica alla produzione di contenuti, dalla ricerca scientifica al marketing, dai servizi professionali fino all’intrattenimento. In tutti questi contesti esiste il rischio che l’utente sia assorbito, inglobato all’interno di singole applicazioni di Intelligenza Artificiale, in particolare generativa, di cui non riesce a percepire la logica, le fonti e le conseguenze. Un ulteriore rischio è la cessione inconsapevole e massiva di dati personali e di proprietà intellettuali.
L’approccio OverTheAI è coerente con il principio etico, indicato dalla Commissione Europea, della esplicabilità dell’AI, secondo il quale un sistema di intelligenza artificiale deve poter essere controllabile, quindi comprensibile e intellegibile per gli esseri umani.
OverTheAI, monopolio e pluralismo
Uno dei rischi delle applicazioni di AI generativa e conversazionale, ad esempio ChatGPT, è di assumere un approccio monologico e monopolistico, creando forme di dipendenza degli utenti, che “pendono dalle labbra” dell’oracolo artificiale facendolo diventare l’unica o principale fonte delle loro informazioni, competenze e conoscenze, e perdendo di vista i criteri e gli orientamenti del modello stesso.
Occorre sviluppare diverse strategie per ottenere il controllo dell’AI. La prima si riconduce al motto cesariano “divide et impera”: è più facile controllare, confrontare e comprendere più intelligenze artificiali divise, piuttosto che una sola integrata e omologata.
Anche questo approccio è coerente con le linee guida etiche dell’UE, contrarie all’affermazione di monopoli privati (già visti peraltro nei motori di ricerca, nei social, nei sistemi operativi…) e favorevoli invece alla presenza competitiva di più soggetti e sistemi, anche realizzati da imprese di piccola o media dimensione.
Dal punto di vista applicativo, l’approccio OverTheAI consente ad esempio di confrontare il risultato di diversi sistemi AI, evidenziando così la presenza di filtri o di limiti al loro interno.
Soluzioni sviluppate da Carraro LAB su questo principio sono ad esempio Symposium e Council, che si basano sulla comparazione critica di diversi punti di vista, elaborati di più modelli di AI generativa che possono essere così analizzati e comparati.
Superare L’AI
L’obiettivo delle applicazioni OverTheAI è consentire all’uomo di superare le Intelligenze Artificiali, nel senso di utilizzarle per raggiungere obiettivi e risultati superiori e più complessi rispetto all’uso puro e semplice e diretto di singoli modelli AI.
Il modello antropologico è quello dell’Homo Extensus, cioè in grado di estendere le facoltà intellettive umane anche grazie all’AI, ma mantenendone il controllo consapevole.
Ad esempio, nella applicazione Startup Generator di Carraro LAB l’utente deve sviluppare la competenza imprenditoriale ed elaborare il progetto di una startup, utilizzando diverse tecnologie AI nelle varie fasi del processo creativo. Ma la combinazione di queste operazioni trova senso solo nella visione generale dell’utente.
Un altro esempio di applicazione OverTheAI che supera i singoli tool AI è Future Decoder, che adotta metodologie di Strategic Foresight per prevedere le tendenze evolutive di settori economici, e per pianificare le azioni necessarie per raggiungere lo scenario futuro preferibile.
Nei processi OverTheAI le soluzioni AI impiegate possono quindi essere tra loro indipendenti, e non avere neppure un controllo dell’intero processo, che spetta all’operatore umano.
L’AI come commodity e materia prima
Il presupposto del principio OverTheAI è la disponibilità di intelligenze artificiali come commodity (merce o bene sostituibile, a prescindere dal suo produttore) o materia prima, plasmabile per raggiungere obiettivi più complessi.
No solo: all’interno di una applicazione OvertTheAI si considera corretto poter sostituire a piacimento un modello AI rispetto ad un altro, semplicemente perché risulta più idoneo, è più avanzato, o offre condizioni d’uso e commerciali migliori.
In realtà l’industria AI non è ancora arrivata ad assumere la forma una commodity, ma lo diventerà presto. Quindi gli utenti avranno a disposizione decine o centinaia di strumenti AI, sia gratuiti che a pagamento, che potranno combinare all’interno di processi OverTheAI.
Una protezione per la privacy e la proprietà intellettuale
Nei sistemi OverTheAI si sviluppa una interfaccia che separa l’utente dai modelli AI impiegati, in modo che l’operatore singolo non deve cedere dati personali sensibili, perché viene schermato da flussi informativi resi anonimi, anche con la mediazione dell’accesso alle API (application programming interface, protocolli che consentono alle applicazioni software di comunicare tra loro per scambiare dati e funzionalità) dei tools AI. Anche la separazione delle procedure e informazioni complesse rende più difficile ai modelli AI acquisire l’idea complessiva elaborata dagli utenti.
La mediazione OverTheAI per le comunità educative
L’applicazione delle Intelligenze Artificiali nella formazione è in fase di sperimentazione. Uno dei principali filoni applicativi è la didattica personalizzata: l’utente viene affidato ad un sistema conversazionale con il quale interagisce individualmente. L’efficacia di questo approccio è plausibile in diverse forme di addestramento individuale, ma pone parecchi problemi nel contesto scolastico, dove il docente non può controllare simultaneamente cosa succede a 20 studenti che seguono percorsi personalizzati. Inoltre i rischi psicologici derivanti dall’abbandono di uno studente ad un sistema automatico, isolato dalla classe, sono tutti da scoprire. Peraltro i danni psicologici nell’età evolutiva legati all’uso degli smartphone, tipici dispositivi personalizzati, sono ormai conclamati, quindi è lecito diffidare di questo approccio che isola lo studente e lo affida a sistemi automatici.
Nell’ambito educativo il vantaggio di OverTheAI è sviluppare soluzioni collettive che possono essere controllate dalla comunità educativa. Anche i contenuti e le attività educative all’interno di interfacce OverTheAI possono ricostruire la mediazione educativa che i sistemi AI dominanti cercano di disintermediare.
Interfacce virtuali OverTheAI
Le parole chiave degli ultimi anni della transizione digitale, il metaverso e l’intelligenza Artificiale, stanno convergendo nella creazione di un “Synthetic World” distinto dal mondo reale. Oltre alle finalità videoludiche, il mondo sintetico della realtà e della intelligenza estesa sta sviluppando funzioni rilevanti nella educazione mediante simulazioni didattiche, nei digital twin industriali, nell’arte e nei “Synthetic Media”, nel marketing, nella medicina, nel militare, nei trasporti.
Le realtà virtuali e aumentate possono quindi diventare una interfaccia sensoriale sovrapposta ad applicazioni di Intelligenza Artificiale, abilitando applicazioni di nuova generazione. Extended Intelligence Environment è un brevetto di Carraro LAB (Patent application pending) che organizza la fruizione di contenuti educativi, culturali e turistici generati da AI attraverso mondi virtuali. Il primo ambito applicativo sono i laboratori di workplace simulation, finalizzati all’apprendimento professionale.
Over-The-AI e Over-The-top
Il termine Over-The-AI trae spunto dal settore delle telecomunicazioni, dove gli Over-The-Top (in acronimo OTT) sono gli operatori che forniscono, attraverso la rete Internet, servizi, contenuti e applicazioni di tipo “rich media”, erogati al di sopra delle infrastrutture dei rete.
Analogamente, opera Over-The-Ai presuppondo l’esistenza di modelli e servizi AI.
Ad esempio, l’applicazione Vidactica utilizza i contenuti di un classico servizio OverTheTop, le piattaforme di videosharing come Youtube, ma introduce una interfaccia superiore, integrata con l’Intelligenza Artificiale.
Non dentro o a fianco, ma sopra l’AI
Una strategia tipica dell’approccio OvertTheAI è legata al posizionamento: è opportuno evitare di essere sottoposti ad una AI oracolare e monologica (come quella di ChatGPT e in generale delle interfacce conversazionali generative), ma è meglio diffidare anche dall’essere “affiancati” da un modello AI che funge da assistente paritario, prima o poi destinato a condizionarci (in questo caso l’esempio è Copilot). Occorre invece collocarci “al di sopra” dell’AI per mantenere una visione generale del processo formativo e delle sue componenti tecnologiche, finalizzate a obiettivi specifici.
OverTheAI come strategia industriale europea
Nello scenario globale dell’Intelligenza Artificiale l’Europa ha maturato un notevole ritardo negli sviluppi delle tecnologie di base, difficilmente colmabile anche a causa della distanza in termini di investimenti rispetto a USA e Cina. Tuttavia il ruolo dell’Europa non può limitarsi alla funzione dell’arbitro regolatore tra i due concorrenti americani e asiatici.
L’approccio OverTheAI può offrire all’Europa una strategia industriale sull’Intelligenza Artificiale, basata su diversi presupposti: in breve tempo le tecnologie AI saranno delle commodity ampiamente disponibili anche in opensource, la bolla speculativa finanziaria esploderà presto mettendo a nudo i limiti dell’attuale modello di sviluppo e di business dell’AI, diversi soggetti socioeconomici – pubblici e privati – andranno alla ricerca di soluzioni più controllabili, sicure, trasparenti, alternative agli attuali approcci che evidenziano rischi sul piano legale, psicologico, educativo, occupazionale.
Il ritardo degli stati e delle aziende europee può trasformarsi in un vantaggio se riusciremo ad occupare una posizione “OverTheAI”, creando applicazioni che garantiscano risultati efficaci mantenendo il controllo umano dei processi di Artificial Intelligence.
Il tutto in linea con i principi europei sul digitale: opposizione ai monopoli privati e alle posizioni dominanti, adozione di standard pubblici e in generale dell’ambito AI come spazio pubblico, rispetto della privacy, del copyright, della concorrenza e in generale dei valori europei, compresa la sicurezza e la tutela delle minoranze, dei soggetti deboli, ma anche educazione, pluralismo e spazio alle piccole e medie imprese europee.
Approfondimenti:
Homo Extensus: il Sapiens nell’era dell’Intelligenza Artificiale
Etica e Intelligenza Artificiale: uno dei primi interventi in Italia sul tema, che risale al 2017.
Intelligenza Artificiale e geopolitica, convegno a Lugano
Saggezza o Intelligenza Artificiale? L’influenza dell’AI sull’etica e sul comportamento
L’artista e l’intelligenza Artificiale
L’impatto dell’AI sui media. Corso per gli operativi televisivi.
Content curation e mediazione culturale digitale
Il translinguismo e il superamento delle barriere linguistiche