Riflettevo: tanto tuonò che piovve.
Ormai non si parla d’altro in ogni luogo, contesto e argomento: la AI o IA “Intelligenza artificiale” la troviamo ovunque e la si cerca di mettere ovunque, anche dove non servirebbe, tipo lo zenzero o il pistacchio in cucina.
Tutti ne parlano, tutti ne discutono, tutti la usano e come sempre accade del mondo dell’informatica tutti sono subito diventati super “esperti”.
Mi occupo di scienze dell’informazione dagli anni 80, da sempre una cosa mi ha colpito e che al contrario, di una lavatrice o di un televisore dove tutti si fermano all’utilizzo e nessuno si sogna di mettersi a smontare per guardarci dentro, quando si parlava di computer, nel caso specifico di PC, tutti ci sapessero mettere le mani smontarli aggiustarli o almeno così dicevano.
Subito dopo sono arrivati i telefoni cellulari e anche lì tutti smanettoni, poi Internet uguale e poi i social con i quali siamo proprio finiti in basso.
Adesso la ‘AI’, c’è gente che sembra ormai la usi nella macchinetta del caffè o nel Bimby.
Io come sempre osservo, rifletto poi cerco anche di leggere e di documentarmi di studiare, il mondo dell’informatica è uno di quelli a più veloce obsolescenza se non ci si aggiorna.
Ricordo i primi studi sulle reti neurali, sul machine learning, sull’auto apprendimento, poi il.fenoneno come accade in informatica è letteralmente esploso e da qualche anno sempre di più gli investimenti della ricerca, di investitori e speculatori e anche di nazioni emergenti e idee monopolistiche, si sono riversati su questa scienza.
Cosa sta succedendo, questa è una scienza più delicata della tecnologia abituale perché racchiude in sé molto software, parti non fisiche ma, concettuali per cui anche gli eventuali utilizzi risentono di questa caratteristica seppure in parte legata all’uomo e quindi può avere ricadute di tipo etico, morale, giuridico.
Ma partiamo dalla definizione di IA o AI:
Lo standard ISO/IEC 42001:2023 Information technology – Artificial intelligence Management System (AIMS) ha definito l’intelligenza artificiale come «la capacità di un sistema di mostrare capacità umane quali il ragionamento, l’apprendimento, la pianificazione e la creatività».
L’intelligenza artificiale è la capacità di una tecnologia, normalmente un sistema informatico o di un sistema di automazione, di simulare una generica forma di intelligenza naturale e di funzioni cognitive umane come: apprendimento, ragionamento, comprensione, risoluzione di problemi (problem-solving), processi decisionali, percezione, creatività e l’autonomia.
Nonostante sembra una scienza giovanissima i suoi concetti di base sono partiti già nel 1950, quindi ben 70 anni fa e da queste basi si sono annidati o derivati i concetti che hanno portato alla IA di oggi.
Per comprendere appieno l’intelligenza artificiale, è importante prima capire le tecnologie su cui si basa.
Il livello più alto e più antico è l’apprendimento automatico il “Machine Learning” ML l’apprendere dall’esperienza, in estrema sintesi una serie di algoritmi tali da mettere in grado il sistema di auto addestrarsi in modo da fare previsioni e, sempre sulla base di dati, prendere anche decisioni e migliorare le prestazioni con l’esperienza.
La successiva tecnologia chiave è il
“Deep Learning” DL questo è un sottoinsieme del machine learning che utilizza “reti neurali” multistrato, dette reti neurali profonde, che simulano in modo più accurato il complesso potere decisionale del cervello umano.
Il deep learning non richiede l’intervento umano, infatti l’apprendimento non supervisionato, consente l’apprendimento automatico su vasta scala, cioè si può automatizzare l’estrazione di funzioni da set di dati di enormi dimensioni, non etichettati e non strutturati, e fare le proprie previsioni su ciò che rappresentano le sintesi di questi dati.
Per cui il DL è adatto all’elaborazione del linguaggio naturale Natural Language Processing (NLP) cioè far interagire i computer con il linguaggio umano (parlato e scritto) con l’obiettivo di comprendere, interpretare e generare il linguaggio umano in modo utile al sistema.
Per fare questo il NLP ha bisogno di un LLM (Large Language Model, Modello Linguistico di Grandi Dimensioni) è un tipo di modello avanzato di deep learning, addestrato su enormi quantità di testo, che applica le tecniche NLP per svolgere compiti complessi come la generazione di testo, la traduzione, il riassunto e la risposta a domande.
In sintesi il LLM (Large Language Model) è un sottoinsieme dell’NLP, un modello di Deep Learning addestrato su quantità massicce di dati testuali (libri, articoli, siti web).
NLP è la disciplina generale, e gli LLM sono lo strumento più potente e recente al suo interno.
Tramite l’elaborazione di enormi quantità di dati grezzi e non strutturati e l’uso di algoritmi avanzati come il Machine Learning e il Deep Learning si permette alle macchine di riconoscere modelli e prendere decisioni come se fossero un cervello umano: adattarsi a nuove informazioni, ragionare, pianificare, risolvere problemi, percepire e comprendere il linguaggio naturale, apprendere schemi e grammatica, svolgere compiti autonomamente, risolvere compiti ripetitivi o che comportano l’identificazione rapida e accurata di modelli e relazioni complesse all’interno di grandi masse di dati.
La simulazione dell’intelligenza umana è un campo dell’informatica che mira a creare sistemi capaci di eseguire compiti che tradizionalmente richiedono l’intelligenza umana.
Le applicazioni e i dispositivi dotati di AI possono vedere e identificare gli oggetti e riconoscere le immagini, come per la computer vision e ad altri compiti.
Possono imparare da nuove informazioni ed esperienze.
Possono agire in modo indipendente, senza la necessità dell’intelligenza o dell’intervento umano
Sono in grado, quindi, di comprendere e rispondere al linguaggio umano, riconoscere e classificare testi, fare traduzioni e riassunti; ed è proprio qui entra in campo una nuova tecnologia spesso confusa e impropriamente chiamata “intelligenza artificiale” questa è “l’intelligenza artificiale GENERATIVA” o AI Generativa (Gen AI), nata come passo successivo della IA e che ha lo scopo di creare testi, immagini, codice, audio, video o altri contenuti originali in maniera autonoma rispondendo alle richieste dell’utente.
Questa è una branca specifica dell’AI focalizzata sulla creazione di contenuti nuovi, sfruttando modelli di base addestrati su vastissime quantità di dati: i Large Language Modeli LLM, (ad esempio ChatGPT, Gemini, Llama) ed è utile per riassunti, traduzioni e generazione creativa, riconoscimento di ambiente e presa di decisioni (come nella guida autonoma),
assistenti virtuali che comprendono e rispondono alla domande poste, anche direttamente dalla voce umana, offrono raccomandazioni, suggeriscono prodotti o contenuti basati sui dati.
Già in questi ultimi anni la maggior parte dei ricercatori e dei professionisti dell’AI, e la maggior parte dei titoli dei giornali dedicati all’intelligenza artificiale, si concentrano sulle scoperte dell’AI generativa (gen AI).
Dopo questo preambolo, mi auguro un minimo esplicativo e spero anche utile a comprendere qualcosa di più sulla intelligenza artificiale, arrivo alla mia riflessione odierna:
“Episteme Vs Epistemia”.
Parto come sempre dalle definizioni:
“Epistème” di l’etimologia greca, è composto dalla preposizione ‘epì-‘ che significa «su», e dal verbo ‘histemi’, che significa «stare», «porre», «stabilire»: quindi l’unione dei due ci porta a dire: «che si tiene su da sé».
Nella Grecia antica ‘Episteme’ identificava, quindi, la conoscenza vera, solida, verificabile, fondata su principi certi, incontrovertibile dalle cause e degli effetti del divenire.
In definitiva quel sapere che si stabilisce su fondamenta solide, certe e al di sopra di ogni possibilità di dubbio.
Il termine episteme viene spesso anche tradotto più semplicemente come “scienza” o “conoscenza”, in epoca moderna con il termine epistemologia viene inteso lo studio storico e metodologico della scienza sperimentale e delle sue correnti.
L’epistemologia (dal greco antico ‘epistème’, “conoscenza certa ossia scienza” e ‘logos’, “discorso”) è quella branca della filosofia che studia la conoscenza, specialmente quella scientifica, indagandone i fondamenti, i limiti, i presupposti, i metodi, le condizioni per raggiungerla, occupandosi anche delle implicazioni filosofiche delle scoperte scientifiche.
“Epistemia” invece è un neologismo molto recente che descrive l’illusione di sapere le cose, generata dall’Intelligenza Artificiale Generativa (gen AI).
Indica cioè una finta conoscenza, una illusione di conoscenza che nasce dalla lettura di testi plausibili, ben scritti e fluidi tali da sembrare scientifici ma, invece creati dall’IA, non sulla base di conoscenze fondate e verificabili ma, soltanto generati da algoritmi, complessi che si muovono su enormi moli di dati frutto di una elaborazione semplicemente “probabilistica”.
Viene confusa quindi, la fluidità linguistica e la plausibilità con l’affidabilità, minando la vera e autentica conoscenza dell’informazione e creando una crisi del valore della conoscenza stessa.
È un fenomeno delicato, fin pericoloso perché con lui avviene il crollo dei criteri tradizionali: viene meno la ricerca e lo studio della verità, portando le persone a credere di sapere, senza prima aver verificato e trasformando il sapere in una condizione ambientale di semplice apparenza, il sembrare di sapere.
Un’illusione di conoscenza!
Un’illusione di sapere!
Si pensa di conoscere un fatto solo perché l’IA lo presenta in modo autorevole e completo, con tono assertivo, fluido, offrendo risposte alle domande coerenti e convincenti, spiegando concetti complessi, producendo testi articolati; eppure, dietro questa apparente competenza, si nasconde un rischio sottile ma, rilevante.
Queste risposte “errate” da parte dell’AI, possono essere di due tipologie:
– “L’allucinazione dell’IA” che è la generazione involontaria di informazioni false o insensate presentate come fatti,
– “l’inganno (o comportamento ingannevole)” si riferisce a un’azione intenzionale da parte di un sistema di IA progettata per fuorviare un utente o un altro sistema per raggiungere un obiettivo.
In entrambi i casi i nostri meccanismi cognitivi vengono messi in crisi: questa è l’epistemia che noi utenti viviamo: siamo portati a credere che l’IA “sappia” davvero ciò che dice, quando in realtà si limita a generare solo linguaggio plausibile, coerente dal punto di vista sintattico e stilistico, risultato che può anche essere anche pilotato dolosamente dai sistemisti e programmatori.
I modelli linguistici di ultima generazione, gli LMM descritti in precedenza sono progettati sull’individuazione di pattern statistici all’interno di enormi quantità di testi: parole che seguono altre parole, frasi che “suonano giuste” nel contesto; il loro funzionamento è produrre risposte sulla base di probabilità ma, questo tentativo di coerenza può produrre anche inganno.
Questi modelli non sono agenti razionali, né strumenti conoscitivi in senso proprio, sono macchine statistico-computazionali, seppur molto potenti e compresse, addestrate a generare sequenze linguistiche coerenti sulla base di enormi quantità di testo ma, non hanno comprensione, intenzionalità, referenza, non sono un soggetto competente e capace di conoscenza.
In pratica, al momento attuale, il modello non possiede intenzionalità, né consapevolezza né una struttura concettuale del mondo, non conosce il mondo, ma imita e simula i suoi discorsi.
I modelli LMM operano secondo un principio elementare ma, potente: la “plausibilità predittiva”, una probabilità, un’abilità formale che non implica una comprensione autentica dei contenuti.
L’inganno perfetto dell’intelligenza artificiale: scrive bene ma non sa nulla!
A differenza dell’episteme degli antichi greci, che consiste nella vera conoscenza, l’epistemia rappresenta un’illusione cognitiva, ovvero la convinzione di sapere qualcosa solo perché un’IA ce lo comunica in modo convincente.
L’epoca in cui viviamo è già affollata di falsità, anche dolose, per i più svariati motivi.
Ecco perché oggi il punto non è più solo cosa sappiamo dell’IA.
È come lo sappiamo.
Chi verifica l’IA, con quali strumenti e con quali criteri.
Entra in campo l’etica, la morale, perché esiste anche un rischio latente per la stessa democrazia e la scienza.
Viene messa in discussione la capacità di distinguere informazione e conoscenza, il fenomeno solleva interrogativi cruciali sul rapporto tra forma, verità e comprensione.
Ben diversa la conoscenza all’epoca dei filosofi dell’antica grecia: Platone ne “La Repubblica” suddivide la conoscenza in livelli:
– conoscenza sensibile o opinione,
– immaginazione,
– credenza,
– conoscenza intelligibile o scienza,
– pensiero discorsivo,
– intellezione.
L’epistème per Platone rappresenta la forma più certa di conoscenza, che assicura un sapere vero e universale.
Questo può essere ottenuto in due modi:
– tramite ragionamento (diànoia),
– tramite intuizione (noesis).
In entrambi i casi, che sono tra loro complementari, si tratta di un sapere interiorizzato, quasi non trasmissibile e per questo accessibile a pochi.
Come per Platone, anche per Aristotele l’epistème rappresenta la forma di conoscenza più certa e più vera, contrapposta all’opinione (doxa).
Anche Aristotele distingue due percorsi conoscitivi:
– l’intuizione intellettuale (a livello più alto),
– la logica formale.
Il primo è la capacità di “astrarre” l’universale dalle realtà empiriche, infatti l’intelletto umano, non si limita a recepire passivamente le impressioni sensoriali dagli oggetti ma, svolge un ruolo attivo che gli consente di coglierne l’essenza in atto.
Aristotele collocava l’intelletto al di sopra della stessa razionalità sillogistica: solo l’intelletto infatti è in grado di fornire dei principi validi e universali, da cui il sillogismo trarrà soltanto delle conclusioni coerenti con le premesse.
La logica da sola non può dare l’epistème, perché non dà garanzia di verità (infatti, se le premesse sono false, anche la conclusione sarà falsa).
Da questi passi emerge, come i princìpi
su cui si fonda la conoscenza, non sono ricavabili solo dall’esperienza, né da un ragionamento dimostrativo, ma solo dall’intelletto e dalla logica deduttiva.
Al vertice dell’episteme dunque si trova soltanto “l’intuizione intellettuale”!
La conoscenza della IA, come abbiamo visto, è invece solo simulata, quando una risposta appare completa e ben argomentata, l’utente tende a fermarsi lì, rinunciando a confronti, cercare fonti esterne e usare spirito critico.
Il rischio dell’epistemia non sta tanto nell’errore occasionale, quanto nella normalizzazione da parte di tutti gli utenti ma, soprattutto dai giovani e studenti, dell’uso dell’IA come fonte di sapere, tendendo a sovrastimarne l’affidabilità delle risposte.
Quindi, in altre parole, non è solo l’IA a “ingannare” ma, anche i nostri meccanismi cognitivi, il nostro comportamento, la nostra mancanza di responsabilità e consapevolezza ne sono complici.
È qui che l’epistemia diventa un fenomeno non solo tecnologico, ma sociale, umano, diventa fondamentale educare gli utenti a riconoscere i limiti epistemici di questi sistemi.
L’etica dell’intelligenza artificiale è una disciplina discussa tra scienziati e filosofi, che presenta numerosi aspetti sia teorici che pratici.
Molti hanno messo in guardia riguardo ai pericoli dell’intelligenza artificiale, considerandola una minaccia per la sopravvivenza dell’umanità; altri l’hanno vista come un’opportunità per incrementare il benessere
Il rischio non è essere ingannati, ma non accorgersi più cosa significhi davvero conoscere.
In questa epoca di testi perfettamente scritti ma, senza significato, la vera intelligenza sarà nell’imparare a dubitare della forma, come sempre e in tutte le cose della vita, per cercare invece, con il nostro intelletto, il vero fondamento.
Buona riflessione
