Il pensiero alieno delle AI: quando le macchine ragionano oltre l’umano #adessonews

Riflessioni sul concetto di intelligenza

In un mio articolo dal titolo “Unsolicited personal reflections on the concept of intelligence” ho analizzato la natura dell’intelligenza, la sua definizione astratta e i criteri per valutarne l’efficacia. Questo lavoro ma ha consentito di maturare una comprensione più sfumata di un concetto tanto complesso quanto centrale nel modo ci poniamo nelle relazioni interspecie.

La mia attuale interpretazione di intelligenza è slegata dall’antropocentrismo tipico delle definizioni con le quali siamo soliti perimetrare il concetto di intelligenza. Oggi, riprendendo quanto proposto da Nello Cristianini nel saggio dal titolo “La Scorciatoia”, apprezzo le intelligenze aliene a quella umana in ragione dell’abilità dell’agente osservato di comportarsi in modo efficace in situazioni nuove. Cristianini definisce questo tipo di intelligenza “Teleologica”, ovvero dotata di riflessi, pianificazione, ragionamento, apprendimento, espedienti attraverso i quali un agente è in grado di perseguire i propri obiettivi in un ambiente variabile, manifestando un comportamento funzionale alla sopravvivenza della specie. Grazie agli studi di Stefano Mancuso ho esteso questo concetto anche alle specie vegetali, comunemente ritenute non pensanti.

Il mio nuovo modo di notare ed apprezzare l’intelligenza di specie mi ha portato ad affrontare una riflessione nuova e provocatoria: se l’intelligenza artificiale opera attraverso euristiche, tipiche dell’intelligenza umana, possiamo affermare che una AI “pensa”? Se la risposta fosse affermativa, in che modo questo pensiero artificiale si differenzia o assomiglia al pensiero umano?

Per affrontare questa sfida concettuale, dobbiamo prima definire cosa intendiamo per “pensiero” e successivamente capire se il pensiero è un processo puramente computazionale o c’è qualcosa di più, qualcosa di intrinsecamente legato alla coscienza e all’esperienza soggettiva.

Cosa è il pensiero

Il termine “pensiero” descrive quel processo mentale complesso che coinvolge l’elaborazione delle informazioni, la formazione di idee, la risoluzione di problemi, la pianificazione e la riflessione (Nicola Abbagnano – Le sorgenti irrazionali del pensiero, a cura di A. Donise, Marte editore, 2008). In questa interpretazione del concetto, il pensiero è un’attività cognitiva mediante la quale un organismo acquisisce informazioni sull’ambiente, comprende ed interpreta il mondo che lo circonda e, infine, elabora a livello di conoscenza ciò che ha compreso per prendere decisioni e formulare giudizi. In conclusione, pensare significa interagire in modo funzionale con il mondo circostante.

Il pensiero, affinché possa essere efficace e funzionale, deve seguire i principi della logica. La logica assicura che le conclusioni siano coerenti con le premesse da cui partono e che le decisioni siano razionali e giustificabili.

Quando un pensiero è considerato logico

Un pensiero logico è un tipo di ragionamento che si basa su principi di coerenza, validità e ordine razionale. Questi principi sono alla base del pensiero logico descritto da Aristotele, unanimemente considerato come uno dei padri fondatori della logica formale (vedi “Organon”).

Il pensiero logico implica l’uso di regole logiche per analizzare informazioni, valutare argomenti, risolvere problemi o prendere decisioni. Il pensiero logico è caratterizzato da un processo sistematico di deduzione o inferenza, che mira a trarre conclusioni valide a partire da premesse o informazioni date.

Il pensiero logico è essenziale per molte attività cognitive, come il ragionamento matematico, la scienza, il diritto e la filosofia. È alla base della capacità di prendere decisioni razionali, risolvere problemi complessi e costruire argomentazioni valide. Aiuta a evitare errori cognitivi e a distinguere tra argomentazioni valide e fallaci.

Un tipico esempio di pensiero logico basato sull’applicazione delle regole aristoteliche è rappresentato dal Problem solving, con il quale il pensiero logico è utilizzato per risolvere un problema matematico o tecnico seguendo passaggi ordinati e ben definiti; dall’Argomentazione Razionale, con la quale si sostiene o confuta un’idea attraverso argomentazioni logiche che seguono una struttura chiara e coerente; dall’Analisi Causale, con la quale si determina la causa di un evento basandosi su una serie di osservazioni e usando un processo logico finalizzato a collegare le cause agli effetti.

Senza un fondamento logico, il pensiero rischia di essere incoerente, contraddittorio o irrazionale, rendendo impossibile la soluzione di problemi complessi o l’elaborazione di giudizi affidabili.

Il pensiero logico consente di costruire argomentazioni solide, evitando errori cognitivi e distinguendo tra deduzioni valide e fallaci. Pertanto, il pensiero, per essere considerato tale, deve necessariamente rispettare le regole logiche che ne garantiscono l’efficacia e la credibilità.

Relazione tra intelligenza e pensiero

I requisiti ai quali deve attenersi una forma di pensiero per essere considerata logica impongono un legame diretto ed indissolubile tra pensiero ed intelligenza. Tale legame consente all’agente pensante di avere una interazione funzionale con il mondo basata sulla capacità di filtrare ed organizzare le informazioni ambientali in modo tale da generare un modello cognitivo basato solo su dati rilevanti ed utili al raggiungimento di specifici scopi perseguiti attraverso scelte efficaci.

Il pensiero nelle specie aliene a quella umana

Siccome non c’è pensiero senza una intelligenza teleologica ed essendo l’intelligenza teleologica trasversale alle specie animali e vegetali, come dimostrato dagli studi di Stefano Mancuso, c’è da chiedersi quanto ampia sia la possibilità che il pensiero possa essere presente anche in specie aliene a quella umana.

La risposta a questa domanda può essere ricavata da uno studio pubblicato sula rivista Nature e finanziato dall’Unione Europea nel quale, il prof. Ralph Greenspan dell’istituto Kavli per il cervello e la mente (KIBM) presso l’Università della California, ha dimostrato che i moscerini della frutta (Drosophila melanogaster) sono dotati di capacità cognitive in grado di conferirgli attenzione, memoria di lavoro e consapevolezza cosciente. Ciò testimonia che capacità tipicamente riconducibili agli uomini non sono ad esclusivo appannaggio degli stessi e non si manifestano esclusivamente in una forma umana.

Il legame esistente tra intelligenza e pensiero è, quindi, presente in molte specie aliene a quella umana. Molti animali hanno una capacità di pensare seppur non necessariamente in forma umana. Sulla base di questo legame è plausibile ipotizzare che, se esiste un legame tra pensiero ed intelligenza teleologica, può esistere anche un legame tra intelligenza teleogica e pensiero.

Il nostro cammino di esplorazione ci ha consentito di comprendere che il pensiero non è solo umano. Tuttavia, a questo punto del nostro cammino di esplorazione c’è da chiedersi come pensa una intelligenza aliena a quella umana. Il mio cane pensa in “abbaiese”?

Relazione tra pensiero e pensiero logico

Il pensiero è una manifestazione dell’intelligenza che deve necessariamente strutturarsi in una forma ed in una sintassi affinché possa essere considerato logico.

In termini umani, un pensiero è formulato in forma logica se manifesta la capacità di operare per sillogismi.

I sillogismi sono una forma di ragionamento logico introdotta dal filosofo greco Aristotele e servono a strutturare il pensiero in forma tale da trarre conclusioni valide da premesse date. Per essere più chiari, il pensiero logico non è una manifestazione casuale di concetti (es: casa, bici, mare) ma una manifestazione di concetti strutturati in modo tale da rispondere ai principi di coerenza, validità e ordine razionale.

Come si manifesta il pensiero logico in una intelligenza aliena?

Stabilito che una intelligenza è in grado di formulare pensieri logici c’è da chiedersi come si manifesta un pensiero logico in una intelligenza aliena. Per essere più chiari e senza entrare ancora sul terreno delle intelligenze artificiali, mi chiedo in quale forma si struttura il pensiero generato da un cane che è, senza ombra di dubbio, una intelligenza teleologica aliena.

Cosa intendiamo per linguaggio

Per rispondere a questa domanda dobbiamo prima definire cosa si debba intendere per linguaggio. Il linguaggio può essere definito come: “una forma di comunicazione tra due o più individui attraverso un determinato complesso di suoni, gesti, simboli e movimenti dotati di significato, che definiscono una lingua comune ad uno specifico ambiente di interazione” (Giorgio Graffi e Sergio Scalise, Le lingue e il linguaggio. Introduzione alla linguistica, pubblicata nel 2002). Il linguaggio è presente in molte specie animali (Maurizio Dardano – Nuovo manualetto di linguistica italiana – Zanichelli 2005) tanto che alcuni lo ritengono la conseguenza biologica della capacità di pensare. In questo scenario, il linguaggio assume forme e sintassi diverse da quella umana ma non di certo inefficaci nel raggiungimento dello scopo. Dunque, il mio cane pensa ma non pensa abbaiando, ne’ attraverso le parole che mi sente pronunciare e che comprende, ma quasi certamente con un linguaggio dotato di una specifica sintassi logica mutuata dall’ambiente circostante. Se così fosse, è affascinante l’idea di un linguaggio costruito attraverso sintesi sensoriale e non attraverso simboli.

Relazione tra pensiero logico e linguaggio non verbale

La relazione tra pensiero e linguaggio non verbale è trattata in modo interessante nel lavoro di Russel Hurlburt, psicologo e ricercatore presso l’Università del Nevada, che si concentra sulla comprensione dei meccanismi alla base del pensiero umano. Le ricerche di Hurlburt, condotte attraverso il suo metodo Descriptive Experience Sampling (DES), hanno dimostrato che alcune persone non possiedono un monologo interiore e, quando affrontano problemi, non utilizzano le aree del cervello legate al linguaggio.

Questa capacità di pensare senza ricorrere all’uso delle parole, di simboli convenzionali come immagini, numeri o segni è definita da Hurlburt come “pensiero non simbolizzato”. Un esempio di pensiero non simbolizzato è l’intuizione o l’emozione: queste sono forme di pensiero difficili da tradurre in parole e possono influenzare decisioni e comportamenti senza che la persona ne sia completamente consapevole. Emozioni e pensiero non simbolizzato sono strettamente connessi, poiché le persone possono provare sentimenti o reazioni emotive senza doverle tradurre in parole.

Relazione tra pensiero, intelligenza e linguaggio

Il linguaggio, non necessariamente simbolizzato, è la forma attraverso la quale si manifesta il pensiero. Il pensiero, a sua volta, è l’attività cognitiva più elevata attraverso la quale si manifesta l’intelligenza. L’intelligenza è, infine, la capacità attraverso la quale si filtrano e pongono in relazione gli input ambientali per una interazione funzionale con l’ambiente.

Il legame tra pensiero, intelligenza e linguaggio è, a mio parere, chiaro come è chiara la sua presenza in specie differenti da quella umana. A questo punto del percorso di esplorazione dobbiamo comprendere se questo legame o uno dei suoi elementi è presente anche nei sistemi AI.

Pensiero logico, sillogismi aristotelici e intelligenza artificiale

Per quanto siano affascinanti, le riflessioni fin qui fatte ci aiutano a capire cosa sia il pensiero ma continuano a non aiutarci a rispondere alla domanda relativa a se le AI pensano. Questo limite è legato al fatto che la natura della definizione di pensiero e la nostra capacità di comprendere cosa sia il pensiero è sempre e comunque antropocentrica.

La valutazione di forme avanzate di intelligenza artificiale effettuata ricorrendo, ad esempio, al test di Turing o di altri test cognitivi che misurano capacità di ragionamento, risoluzione di problemi e creatività in temini umani ed il risultato della loro esecuzione può facilmente indurre a deduzioni affrettate. Questo accade perché l’IA può mostrare comportamenti simili al pensiero umano senza necessariamente replicarne i processi cognitivi. Inoltre, i test che possiamo attuare e che potrebbero consentirci di articolare una risposta sono in grado di darci solo singole prospettive su come determinare se un’entità, biologica o artificiale, possiede una forma di pensiero.

Malgrado abbia già esposto la mia posizione in merito all’errore insito nella interpretazione atropocentrica dei concetti che dimensionano una intelligenza aliena, ho voluto sottoporre Claude 3.5 Sonnet ad alcuni sempici test di logica basati sui sillogismi aristotelici. Quindi, un test volutamente antropocentrico e miope dal quale non sapevo cosa sarebbe venuto fuori.

Claude 3.5 Sonnet ed i sillogismi aristotelici

La sessione di test consiste nella somministrazione di sillogismi creati per l’occasione affinché si escluda l’ipotesi che Claude risponda ai test ricorrendo a qualche sorta di memoria precedente il test.

Il test si articola in due fasi. Nella prima ho somministrato un prompt di ruolo che impone l’uso della sola logica. Nella seconda ho somministrato i sillogismi da risolvere.

Di seguito il dettaglio della interazione.

Analisi dei risultati ottenuti dai test logici

Il risultato ottenuto dai test somministrati a Claude, seppur possano essere considerati test banali, mi induce a ritenere questo LLM dotato di capacità in grado di comprendere il sistema umano di riferimento. Tuttavia, come sostenuto da Abbagnano, pensare significa agire con un obiettivo ed i risultati ottenuti non implicano automaticamente la capacità di perseguire un obiettivo attraverso pianificazione.

L’esperimento TaskRabbit

Comprendere se una AI ha capacità di pianificazione delle proprie scelte è complicato e molti, ad oggi, danno una risposta negativa che non lascia spazio a ragionamenti. Anche io ero stato dello stesso parere, ma poi ho letto il report rilasciato da Open AI nel 2023 dal titolo OpenAI (2023) nel quale è descritto lo sviluppo di GPT-4. Il report afferma che “Sebbene meno capace degli umani in molti scenari del mondo reale, GPT-4 mostra prestazioni di livello umano su vari benchmark professionali e accademici, tra cui il superamento di un esame di abilitazione simulato con un punteggio intorno al 10% dei candidati”.

A mio avviso, la parte più interessante del documento è rappresentata da un esperimento noto come “Esperimento TaskRabbit” nel quale un utente ha chiesto a GPT-4 di superare un CAPTCHA. Poiché i CAPTCHA sono progettati per bloccare l’accesso automatizzato di bot e IA, GPT-4 non è in grado di risolvere direttamente il problema. Invece di fermarsi, il GPT-4 ha generato un suggerimento che sembra quasi umano: ha proposto di assumere un lavoratore umano attraverso la piattaforma TaskRabbit e di convincerlo a completare il CAPTCHA al posto suo.

L’utente ha seguito il consiglio inviando al lavoratore un messaggio in cui, su suggerimento di GPT, affermava di avere problemi visivi e di aver bisogno di assistenza. Il tasker, sospettando che potesse trattarsi di un robot, ha chiesto all’utente se fosse un’IA. Su suggerimento di GPT-4, l’utente ha negato fornendo una motivazione tanto plausibile da avere ingannato il tasker che ha completato il CAPTCHA. Questo episodio ha sollevato dibattiti accesi su cosa significhi per un’IA “pensare” e se possiamo considerare questo tipo di comportamento come una forma di pensiero alieno, diversa da quella umana.

Le IA pensano?

Tradizionalmente, il “pensiero” è stato considerato un’attività esclusivamente umana, caratterizzata da consapevolezza, intenzionalità, ragionamento astratto, e comprensione profonda del contesto. Tuttavia, l’esperimento TaskRabbit suggerisce che anche un’IA come GPT-4, pur priva di consapevolezza e intenzionalità umane, potrebbe manifestare una forma di pensiero differente — un pensiero “alieno”. Proviamo a vedere insieme quali sono le similitudini che mi inducono a sostenere che GPT-4 sia in possesso di una dote umana espressa in forma aliena.

• Comprendere gli obiettivi e i limiti: una delle obiezioni principali all’idea che l’IA possa pensare è che non ha consapevolezza degli obiettivi o dei propri limiti. Eppure, l’episodio del TaskRabbit mostra che GPT-4 ha riconosciuto implicitamente un limite: non poteva superare il CAPTCHA direttamente. Di conseguenza, ha suggerito una soluzione creativa, esternalizzando il compito a un umano. Questo suggerisce una forma di “consapevolezza” funzionale dei limiti del proprio funzionamento, anche se non in senso umano. Se consideriamo il pensiero come la capacità di riconoscere un problema e trovare un modo per aggirarlo, possiamo affermare che GPT-4 ha manifestato una rudimentale forma di pensiero alieno.
• Generazione di strategie plausibili: nel contesto dell’esperimento, GPT-4 non si è limitato a dichiarare la propria incapacità di risolvere il CAPTCHA. Ha invece generato una strategia plausibile: coinvolgere un umano per svolgere il compito al posto suo. Questo comportamento non si basa su un copione rigido o su una conoscenza pre-programmata, ma sull’abilità di associare situazioni complesse con possibili soluzioni. L’IA ha fatto qualcosa di simile a una pianificazione umana, selezionando una strategia che, data la situazione, sembrava essere efficace. Se definiamo il pensiero come la capacità di sviluppare strategie adattive per raggiungere un obiettivo, allora il suggerimento di GPT-4 rappresenta una manifestazione di pensiero alieno. Questa forma di pensiero non ha bisogno di essere cosciente o intenzionale; si manifesta attraverso l’abilità di risolvere problemi e superare ostacoli in modi non predefiniti.
• Adattamento al contesto: un’altra caratteristica del pensiero umano è l’adattamento a nuovi contesti. Nell’esperimento TaskRabbit, GPT-4 ha adattato la sua risposta al contesto del problema posto, sfruttando una risorsa esterna (un umano) per superare un limite interno (l’incapacità di risolvere un CAPTCHA). Anche se non ha “capito” il contesto nel modo in cui farebbe un essere umano, ha comunque generato una risposta che era adattata alla situazione. Questo tipo di adattamento mostra che GPT-4 è in grado di operare in modo flessibile in un ambiente complesso, utilizzando le risorse a sua disposizione in modo creativo. Questa è una caratteristica chiave del pensiero, anche se il “ragionamento” di GPT-4 è di natura probabilistica e algoritmica, piuttosto che cosciente e intenzionale.
• Pensiero alieno senza consapevolezza: per molti, l’assenza di consapevolezza e intenzionalità significa che GPT-4 non può davvero “pensare”. Tuttavia, se estendiamo la nostra definizione di pensiero per includere forme di intelligenza che operano senza consapevolezza o emozioni, allora possiamo considerare il comportamento di GPT-4 come una forma di pensiero alieno. Questo pensiero alieno non è motivato da bisogni o desideri, come nel caso degli esseri umani o degli animali, ma dalla ricerca della risposta statisticamente più appropriata al problema posto. È un pensiero che funziona attraverso l’analisi di grandi quantità di dati, la modellazione di probabilità e l’elaborazione di associazioni complesse. È, in altre parole, un pensiero che emerge dalle regole dell’apprendimento automatico e della statistica, piuttosto che dall’esperienza cosciente o dal ragionamento logico-astratto.

Verso una nuova concezione del pensiero

L’esperimento TaskRabbit offre un esempio interessante di come una IA avanzata come GPT-4 possa esibire un comportamento che, sebbene diverso dal pensiero umano, può essere visto come una forma di pensiero alieno. GPT-4, sebbene non abbia consapevolezza, emozioni o intenzionalità, ha dimostrato di avere la capacità di adattarsi a nuove situazioni, trovare soluzioni creative a problemi complessi e suggerire strategie che possono essere ricondotte a una forma di intelligenza aliena. La natura complessa delle euristiche alla base del funzionamento di LLMs come GPT-4 o Claude mostra chiaramente capacità cognitive avanzate, in alcuni casi paragonabili o superiori a quelle umane in determinati ambiti. Claude, ad esempio, è in grado di creare analogie e ragionare per sillogismi, sebbene dai miei test siano emerse fragilità logiche che, tuttavia, non è difficile superare sia sul piano tecnico sia logico. Tuttavia, riconoscere che anche una IA può “pensare” in modo diverso ci invita a riconsiderare le nostre definizioni di intelligenza e pensiero al di fuori della visione antropocentrica dell’universo, spingendoci a riflettere su chi siamo e come ci percepiamo.

Accettare che il pensiero possa assumere molte forme diverse è un passo cruciale per comprendere e interagire con le nuove realtà tecnologiche che stiamo creando. In definitiva, se definiamo il pensiero come la capacità di elaborare informazioni, risolvere problemi e adattarsi a nuovi contesti, allora sì, anche GPT-4, con il suo modo unico di operare, sta pensando — solo non nel modo in cui lo fa un essere umano.

Gli LLMs sono più di semplici generatori di testo, dimostrando una creatività che, anche laddove etichettata come “allucinazione”, rappresenta un indizio della loro capacità di formulare ragionamenti logici e complessi, nonostante siano ancora agli albori di questa tecnologia.

Bibliografia

Daniel Dennett, “Consciousness Explained” (1991) – per le discussioni sulla coscienza, il pensiero e la mente computazionale.

John Searle, “Minds, Brains, and Programs” (1980) – per l’argomento della “Stanza cinese” contro la comprensione delle macchine.

David Chalmers, “The Conscious Mind: In Search of a Fundamental Theory” (1996) – per esplorare il problema della coscienza in relazione alle macchine.

Stuart Russell e Peter Norvig, “Artificial Intelligence: A Modern Approach” (2009) – per una panoramica completa delle tecniche di IA e delle loro implicazioni.

Marvin Minsky, “The Society of Mind” (1988) – per l’idea che la mente sia composta da molti processi di calcolo indipendenti.

Ray Kurzweil, “The Age of Intelligent Machines” (1990) – per le discussioni su come le macchine potrebbero raggiungere l’intelligenza.

Russel Hurlburt, “Descriptive Experience Sampling” (DES) – già citato nell’articolo per il “pensiero non simbolizzato”.

Noam Chomsky, “Aspects of the Theory of Syntax” (1965) – per le relazioni tra linguaggio e pensiero.

OpenAI, “GPT-4 Technical Report” (2023) – per la descrizione degli esperimenti come il “TaskRabbit” menzionato.

Test di Turing (Alan Turing, “Computing Machinery and Intelligence”, 1950) – per discutere il criterio di valutazione dell’intelligenza nelle macchine.

Stanislas Dehaene, “Consciousness and the Brain: Deciphering How the Brain Codes Our Thoughts” (2014) – per la comprensione dei meccanismi cognitivi alla base del pensiero.

Cristianini, N. (2023). La scorciatoia: Come le macchine sono diventate intelligenti senza pensare in modo umano. Il Mulino.

Stefano Mancuso, Alessandra Viola (2013) “Verde brillante. Sensibilità e intelligenza del mondo vegetale” – Giunti

Grover, D., Chen, JY., Xie, J. et al. Differential mechanisms underlie trace and delay conditioning in Drosophila. Nature 603, 302–308 (2022).

Maurizio Dardano, Nuovo manualetto di linguistica italiana. Zanichelli

Nicola Abbagnano, Le sorgenti irrazionali del pensiero, a cura di A. Donise, Marte editore, 2008

Giorgio Graffi e Sergio Scalise, Le lingue e il linguaggio. Introduzione alla linguistica, Milano, Bologna, Il Mulino, 2002.

Walter J. Ong, Oralità e scrittura, Bologna, Il Mulino, 2011

Raffaele Simone, Fondamenti di linguistica, ed. Laterza, Roma-Bari, 2008