GPT non sa pensare, ma persino il tostapane ha la sua intelligenza

GPT sa pensare? I riduzionisti rispondono di sì, gli anti-riduzionistici lo escludono. Gli uni e gli altri concordano tuttavia su un punto: l’equivalenza fra intelligenza e pensiero. Mettiamo qui in discussione questa equivalenza e definiamo l’intelligenza come l’uso accorto della ragione. Un uso che, almeno dall’invenzione della scrittura, incorpora artefatti tecnologici e coinvolge tutto il nostro corpo. Possiamo così riconoscere l’intelligenza della macchina, senza attribuirle per forza la capacità pensare.

[Questo articolo è stato pubblicato originariamente su Paolo Costa | Media Arte Tecnologia]

Il problema con il dibattito recente sull’intelligenza artificiale, nel quale talvolta capita anche a me di essere invischiato, è che sovente esso postula una premessa non fondata: l’idea che l’intelligenza artificiale si possa astrarre dalla realtà fenomenica e possa incarnarsi in una realtà per sé sussistente; una realtà nella quale si materializzano di volta in volta utopie, incubi e costrutti ideologici poco coerenti, che non trovano riscontro nello stato delle cose. Si tratta, in breve, di una forma di ipostatizzazione: una fallacia epistemologica consistente nell’associare un costrutto mentale a una parola magica – intelligenza artificiale, nel nostro caso – e nell’attribuire esistenza reale a tale costrutto.

L’ipostatizzazione dell’intelligenza artificiale

È così che quella artificiale diventa una nuova forma di intelligenza (ecco l’ipostatizzazione), esibita dalle macchine e diversa dall’intelligenza umana. Rispetto a tale nuova forma di intelligenza, ovviamente, tutti si sentono in dovere di prendere posizione.

La prima domanda che anima il dibattito è se quella artificiale sia una vera forma di intelligenza. Le risposte sono eterogenee. Semplificando, ne possiamo riconoscere quattro:

• Sì, quella artificiale è una nuova forma di intelligenza, che ha già superato o supererà presto l’intelligenza umana, contribuendo al progresso della società in moltissimi campi.
• Sì, quella artificiale è una nuova forma di intelligenza, così potente che si rivolterà contro il suo creatore, novello Prometeo.
• No, non siamo di fronte a una nuova intelligenza, in quanto quella artificiale non esprime alcuna forma di coscienza e quindi di consapevolezza di sé e del mondo, per cui non ha senso temerla, ipotizzando che possa sfuggire al nostro controllo o comunque mettere in discussione il primato umano.
• No, non siamo di fronte a una nuova forma di intelligenza, per le ragioni di cui al punto 3), ma proprio per questo, se vogliamo restare umani, dobbiamo combattere la retorica delle big tech, interessate a sostenere una prospettiva riduzionistica – l’intelligenza ridotta a calcolo – più o meno corrispondente alla posizione espressa al punto 1).

Una definizione operativa di intelligenza artificiale

Spiacerà agli infoiati dell’uno e dell’altro partito, ma muovo da una premessa diversa. Rielaborando la definizione ufficiale di Gartner, faccio mia una chiave di lettura forse più prosaica, che non si presta a nutrire teologie in un senso né nell’altro, ma che mi sembra corrispondere meglio alla realtà dei fatti: l’intelligenza artificiale consiste – semplicemente – in un eterogeneo insieme di applicazioni nelle quali tecniche avanzate di analisi e di logica, compreso l'apprendimento automatico, sono utilizzate per interpretare gli eventi, supportare e automatizzare le decisioni e intraprendere azioni.

Che conseguenze porta con sé una simile definizione? Per procedere nel mio ragionamento, ho bisogno di trovare con chi mi legge un consenso sul significato da attribuire a determinate parole. Nel caso specifico, dovremmo forse disaccoppiare il valore di termini che in modo incauto sono spesso usati in modo interscambiabile: intelligenza e pensiero. Riconoscere che le macchine incorporino una forma di intelligenza non equivale a dire che esse sappiano pensare. A meno che non si pretenda di invertire il rapporto tra proxy e mondo, ossia tra quella forma di intelligenza consistente in un insieme di calcoli (vedi Gartner) e la ricchezza metafisica di ciò che quell’insieme di calcoli rappresenta.

La scuola riduzionista, da Leibniz a Turing

Il tentativo di ridurre la ragione (ratio) a calcolo (reor) ha padri nobilissimi. Il più importante dei quali è sicuramente Gottfried Leibniz, il grande filosofo tedesco che, nella Dissertatio de arte combinatoria (1666) giungeva ad augurarsi un mondo nel quale la perfezione matematica avrebbe reso superflua ogni discussione: « quando sorgeranno controversie fra due filosofi, non sarà più necessaria una discussione, come [non lo è] fra due calcolatori. Sarà sufficiente, infatti, che essi prendano in mano le penne, si siedano di fronte agli abachi e (se così piace, su invito di un amico) si dicano l’un l’altro: calcoliamo!»

Il sogno di Leibniz è si riflette in quello di tanti pensatori contemporanei ed è, in fondo, il sottostante della grande stagione dell’intelligenza artificiale, inaugurata dal famoso articolo di Alan Turing Computing Machinery and Intelligence (in «Mind», LIX, 236, ottobre 1950, pp. 433–460). Ma pensare non significa solo svolgere calcoli. Il pensiero umano consiste anche nella formulazione di giudizi. Esso è perciò spassionato e riflessivo, fondato sull'impegno etico e sull'azione responsabile. Dunque, mentre neghiamo che il pensiero si riduca a calcoli, escludiamo che le macchine calcolatrici possano pensare (Brian Cantwell Smith, The Promise of Artificial Intelligence: Reckoning and Judgment, Cambridge, The MIT Press, 2019).

L'autoriflessività del pensiero

Ovviamente non basta definire riduzionista la posizione di chi esaurisce il pensiero nel calcolo, inteso come la determinazione di una verità in base a operazioni matematiche. Occorre anche cercare di chiarire che cosa ci sia di ulteriore, rispetto al calcolo, nel pensiero. Forse questa ulteriorità consiste nella dimensione autoriflessiva del pensiero, nella sua capacità di mettersi in discussione, interrogandosi sul proprio fondamento e sui propri limiti.

È ciò che, in modo molto diverso, mi sembrano suggerire due filosofi capitali come Immanuel Kant e Martin Heidegger. Kant lo fa abbracciando una prospettiva criticista, ovvero istituendo un tribunale nel quale la ragione è giudice di sé stessa: «In una specie delle sue conoscenze la ragione umana ha il particolare destino di esser tormentata da questioni che non può respingere, perché le sono imposte dalla sua stessa natura, ma alle quali tuttavia non è in grado di dare risposta, perché oltrepassano ogni potere della ragione umana» (Kritik der reinen Vernunft, 1781). Heidegger, d’altro canto, vede nel pensiero un processo dinamico, che possiamo comprendere solo continuando a interrogarlo e metterlo alla prova: «Il pensiero stesso è un cammino. Corrispondiamo a questo cammino soltanto restando in cammino» (Was heißt Denken?, 1954).

Agentività senza intelligenza, o intelligenza senza pensiero?

Quanto all’abilità computativa delle macchine, resta da decidere se essa sia – pur senza darsi come capacità pensante – una forma di intelligenza. Recentemente Luciano Floridi ha formulato un’ipotesi che sembra escluderlo (AI as Agency Without Intelligence: on ChatGPT, Large Language Models, and Other Generative Models, in «Philosophy and Technology», 36, 15, 2023). Il sospetto è che tale ipotesi, in fondo, postuli a sua volta la coincidenza di intelligenza e pensiero. Siccome non si può dire che le macchine pensino, sembra suggerire Floridi, allora dobbiamo escludere che essere siano intelligenti. D’altra parte, le macchine sanno fare tante cose in cui siamo propensi a riconoscere capacità intellettuali di ordine superiore, che emulano quelle umane (la capacità di produrre espressioni linguistiche coese e coerenti, dialogando con un essere umano, per esempio).

Per uscire da un simile cul-de-sac, Floridi escogita una definizione brillante: quella artificiale è una forma di «agentività priva di intelligenza» («agency without intelligence»). Tuttavia, per quanto brillante, tale definizione non sarebbe necessaria, qualora accettassimo di disaccoppiare i significati delle espressioni intelligenza e pensiero. Potremmo addirittura riformulare nel modo seguente: quella artificiale è «intelligence without thinking».

Polpi e galline

Resta il fatto che gli esseri umani amano definirsi intelligenti. L’etologia animale è inoltre pronta a riconoscere manifestazioni intelligenti anche presso altre specie, il che ha curiosamente alimentato una forma di razzismo applicato al mondo extraumano. Un mio amico è disposto a cibarsi di pollame (perché, si sa, la gallina non è un animale intelligente), mentre si rifiuta di mangiare carne di polpo (le cui abilità cognitive sono ben note: il polpo è capace di risolvere problemi non banali, anche servendosi di utensili, ama giocare ed è dotato di una memoria notevole). Ora, che relazione possiamo istituire fra l’intelligenza artificiale ridefinita come sopra e l’intelligenza naturale?

È chiaro che, per proseguire nel ragionamento, occorre formulare un’ipotesi anche sull’intelligenza naturale. Essa – sostengo – andrebbe intesa come un insieme di processi mentali, ma che si esprimono sempre con il coinvolgimento del corpo e con l’ausilio di qualche artefatto. L’intelligenza non è qualcosa di puramente mentale e dunque che sta «dentro». Essa si manifesta in comportamenti di volta in volta osservabili e che dunque stanno «fuori». Comportamenti che hanno natura sociale (si è intelligenti con gli altri e attraverso gli altri) e che incorporano oggetti, artefatti, utensili.

L’intelligenza si manifesta con la tecnologia…

Una delle prime manifestazioni dell’intelligenza della specie umana è consistita nella capacità di maneggiare una pietra per difendersi e per offendere. Cui è seguita la capacità di lavorare tale pietra, per renderla più appuntita e tagliente e dunque più adatta allo scopo.

Circa 5000 anni fa la nostra intelligenza si è evoluta attraverso l’introduzione di due tecnologie speculari: la scrittura e la lettura. Ma la pratica di scrivere e leggere – è questo il motivo conduttore delle mie lezioni sulla storia del libro – non è un’«invariante antropologica» (Roger Chartier, Storia della lettura nel mondo occidentale, Roma-Bari, Laterza, 1995). Esse si sono incarnate nel corso dei secoli in esperienze di volta in volta molto diverse, connesse all’impiego di specifiche tecnologie (la tavoletta di argilla, il rotulus di papiro, il codex prima di pergamena e poi di carta, il libro tipografico, il personal computer, l’e-reader, lo smartphone), ciascuna delle quali implica un peculiare coinvolgimento del corpo.

… e con il corpo

Lo ripeto: scrivere e leggere non sono attività puramente mentali. Sono cose che facciamo con il corpo, o – per essere più precisi – comportamenti intelligenti che si manifestano attraverso il coordinamento e la cooperazione di due elementi: corpo e tecnologia. Quando parlo del corpo, non alludo solo alla componente cerebrale (il cervello, che possiamo anche chiamare mente, se la cosa ci fa stare più tranquilli). Mi riferisco proprio a tutto il corpo.

Pensiamo a quante parti del corpo sono coinvolte nell’atto di scrivere. E pensiamo a come questo coinvolgimento possa variare, a seconda della tecnologia impiegata. Ricordo ancora vividamente il mio passaggio dalla prima alla seconda elementare, nel 1968, che coincise con la decisione della scuola di dotare tutti i bambini di una biro, in sostituzione del penna stilografica da intingere nel calamaio. Per me, che sono mancino e dunque somaticamente svantaggiato, fu una svolta. La biro mi consentì di riorganizzare i miei processi mentali e mi rese, per così dire, più intelligente. Più avanti, all’università, fu la volta di passare al computer. E mi fu subito chiaro che scrivere con il word processor invocava movimenti del corpo e processi mentali inediti.

L’artificio della scrittura e della lettura

Vale la pena di aggiungere che nessuna esperienza di scrittura può esistere, in assenza di un dispositivo tecnico. Scrivere è, strettamente parlando, un artificio. La tecnologia è parte di questa esperienza, la rende possibile e al tempo stesso la limita e circoscrive. Dunque ci domandiamo: quando finisce l’esperienza naturale e comincia quella artificiale?

Specularmente, anche la lettura è una pratica nella quale impegniamo il nostro corpo. Sulla circostanza si sofferma Italo Calvino, non senza una certa ironia, nel prologo di Se una notte d’inverno un viaggiatore (Torino, Einaudi, 1979). Lo stesso Calvino, sia detto per inciso, che preconizzava l’avvento di macchine letterarie. In più, la lettura è una pratica sociale, anche se la modernità ci ha insegnato a consumarla in solitudine (cosa che non accadeva nel mondo antico e nel Medioevo). Il che equivale a dire che l’intelligenza del lettore procede attraverso un altro «artificio»: l’uso strumentale dell’intelligenza altrui. Di questo uso strumentale ci avvantaggiamo in tante circostanze, tutto sommato banali. Lo facciamo ogni volta che consultiamo un’enciclopedia o un dizionario (ci tornerò), una carta geografica o una ricetta di cucina, oppure ci appoggiamo al consiglio di un amico. L’intelligenza è l’uso accorto della ragione, che prevede il ricorso a qualche artefatto.

Una teoria letteraria per robot

Questa ipotesi mi sembra vicina all’idea suggerita da Dennis Yi Tenen nel suo provocatorio saggio Literary Theory for Robots. How Computers Learned to Write (New York NY, Norton & Co., 2024). Di Tenen ho avuto modo di apprezzare, qualche anno fa, un altro lavoro di un certo interesse per chi si occupa delle questioni a cavallo fra linguaggio e computazione: Plain Text. The Poetics of Computation (Stanford CA, Stanford University Press, 2017). Anche in Literary Theory for Robots Tenen concentra la sua riflessione su quelle che egli stesso definisce «tecnologie testuali», fra le quali include chatbot, traduttori automatici, sistemi di named entry recognition o NER (capaci di identificare categorie predefinite di oggetti all’interno di un corpus testuale), tecnologie di speech recognition, filtri enti-spam, motori di ricerca, funzionalità di autocompletamento, correttori automatici, generatori di testi o riassunti di testi.

Siamo insomma nel capo dell’NLP (natural language processing), che, per quanto vasto, esclude molte altre categorie di tecnologie oggi classificate come sistemi di intelligenza artificiale. In ogni caso Tenen introduce la sua «teoria» (dobbiamo riconoscere che, di fatto, è molto meno di una teoria) proponendo un’idea di intelligenza come «artificio» o «abilità». È la virtù che in latino si chiama ars e in greco antico τέχνη (téchne). Disaccoppiando l’intelligenza dal pensiero, Tenen consegue un duplice risultato. Da un lato, può parlare di intelligenza artificiale senza bisogno di attribuire alle macchine la capacità di pensare. Dall’altro lato può qualificare come «intelligenti» anche tecnologie con un potere suggestivo senza dubbio inferiore a quello – quasi magico – di ChatGPT; un potere, però, riconducibile al medesimo principio: assumere su di sé e quindi automatizzare delle decisioni basate su calcoli.

L’intelligenza del cambio automatico

Pensiamo, per fare un esempio, al cambio automatico che equipaggia oggigiorno la maggior parte delle automobili. Si tratta di un sottosistema che «decide» quando cambiare marcia in funzione di una serie di parametri (velocità, accelerazione, assetto della vettura e condizioni della superficie stradale) sui quali è costantemente informato tramite appositi sensori. Possiamo affermare che si tratta di un comportamento intelligente, per certi versi più intelligente di quello umano, senza dover postulare che il cambio della nostra auto sia capace di pensare. Ma consideriamo anche, banalizzando ulteriormente, il più elementare dei numerosi elettrodomestici smart di cui riempiamo le nostre case: il tostapane «intelligente». Esso monitora il progressivo riscaldamento delle fette di pane e «decide» di interrompere tale processo al momento giusto, consegnandoci le fette di cui sopra fragranti senza essere bruciate. Non è anche questa, se vogliamo, una forma di intelligenza artificiale?

Fra metafora e antropomorfizzazione

L’uso insistito, da parte mia, delle virgolette sta a marcare il valore in qualche modo metaforico di attributi come intelligente e di predicati come decidere. D’altra parte, nell’introduzione al suo saggio, lo stesso Tenen parla di «intelligenza come metafora». Insomma: lasciate che le macchine siano intelligenti, senza immaginare che essere pretendano di pensare. In realtà siamo noi che, antropomorfizzando la tecnologia, le attribuiamo tale pretesa. Il mio è un appello rivolto in particolare a tre categorie di interlocutori con i quali mi capita sovente di confrontarmi da un po’ di tempo a questa parte. Ci sono coloro che danno per scontata la capacità di pensare delle macchine, almeno in prospettiva, assumendo che tale capacità sia l’esito inesorabile della loro intelligenza. Poi ci sono coloro che denigrano l’intelligenza artificiale o la snobbano, dato che non esprime alcuna forma di pensiero e dunque non merita il nostro interesse. E infine ci sono coloro che preconizzano scenari distopici, in cui una forma deteriore di pensiero – quale? mi domano io – soppianterà il pensiero umano.

Zairjah, Ars Magna e chatbot

Tenen nota come alcuni dispositivi concepiti già nel Medioevo per generare idee in modo meccanico presentino interessanti analogie concettuali con i moderni chatbot. È il caso della zairjah (زايرجة), la ruota descritta da Ibn Khaldûn nel capitolo 6, sezione 28 della sua Muqaddimah (مقدّمة, «introduzione»), uno dei più importanti trattati di storia, geografia, teoria politica e protosociologia della cultura islamica. L’opera, che risale al 1377, è parzialmente disponibile in italiano nell’edizione moderna Antologia della Muqaddimah, a cura di Francesca Forte, traduzione di Laura Pasina (Milano, Jaca Book, 2020) e integralmente in inglese (The Muqaddimah: An Introduction to History - Abridged Edition, a cura di Nessim Joseph  Dawood, traduzione di Franz Rosenthal, Princeton NJ, Princeton Classics, 2015). La zairjah era utilizzata, secondo Ibn Khaldûn, per generare la risposta virtualmente a qualunque domanda, sulla base delle connessioni esistenti fra le lettere contenute nel testo della domanda stessa. Il dispositivo trovava impiego – sempre secondo Ibn Khaldûn, che non nasconde un certo scetticismo a riguardo – nelle pratiche divinatorie.

Una evoluzione della zairjah, che ha avuto maggiore influenza nella cultura occidentale, è l’Ars Magna del catalano-maiorchino Ramon Llull. Talvolta indicata come il primo calcolatore meccanico, l’Ars Magna è di fatto una struttura tabellare concepita per ricavare – nelle parole del suo autore – una ratio (noi diremmo il «senso», ma anche la «relazione quantitativa fra due dimensioni») da ciascuna cella (in latino camera). In sostanza, l’Ars Magna è una macchina che produce postulati significativi sul mondo attraverso un meccanismo combinatorio. Un po’ come ChatGPT, verrebbe da dire. Non è un caso che l’«invenzione» di Llull trovi un posto importante nel lavoro dello psicologo Bruce H. Hinrichs, Mind as Mosaic: The Robot in the Machine (Minneapolis MN, Ellipse Publishing Company, 2007), il quale si iscrive alla scuola di quanti vedono nella mente umana nient’altro che una macchina deterministica.

Tutta la magia di una tabella

Più in generale, non v’è alcun bisogno di professarsi riduzionisti per riconoscere in qualunque struttura tabellare, concettualmente, una «macchina» per pensare. Che cos’è la tabella, se non un dispositivo che presenta determinate informazioni in modo sistematico? Ogni tabella – osserva Tenen – fonda la sua funzione sulla limitazione delle possibilità di interpretazione. A tale scopo applica una tassonomia, ossia uno schema che esprime specifiche relazioni fra gli oggetti del mondo in esso menzionati.

Recentemente c’è chi ha insistito su un’altra proprietà «intelligente» dei modelli linguistici più evoluti, basati su predittori, come GPT-4: la capacità di determinare il valore di taluni stati mentali – credenze, intenzioni, desideri e conoscenze – per trarne conclusioni riguardo alla verità/falsità di specifiche proposizioni nelle quali tali stati mentali si esprimono (Michal Kosinski, Evaluating Large Language Models in Theory of Mind Tasks, 4 febbraio 2023 - 17 febbraio 2024, in «Arxiv»).

Si tratta della stessa capacità che i test sulla teoria della mente cercano di misurare negli esseri umani, intesa in questo caso come la capacità di attribuire stati mentali a sé stessi e agli altri, e di comprendere che gli altri hanno stati mentali diversi dai propri (David Premack e Guy Woodruff, Does the chimpanzee have a theory of mind?, in «Behavioral and Brain Sciences», numero speciale: Cognition and Consiousness in Nonhuman Species, 1, 4, dicembre 1978, pp. 515–526).  Ma, ancora una volta, non vedo la necessità di riconoscere in questa capacità una forma di pensiero, né – di contro – di ridurre il pensiero a questa capacità.

Dal congestorium al cloud

Forse le tecnologie testuali che, più di altre, ci aiutano a comprendere la differenza fra pensiero e macchina intelligente sono i vocabolari e le enciclopedie. A ben vedere, anche in questo caso abbiamo a che fare con dispositivi tecnici, ovvero «artifici» che consentono di automatizzare alcune operazioni insite nel ragionamento. Vi è però una differenza sostanziale fra l’accumulo di dati della macchina e l’enciclopedia. Il cloud computing e l’intelligenza artificiale fondano la loro potenza sul trasferimento della conoscenza in uno spazio virtualmente illimitato (anche se poi a fissare un limite intervengono ragioni di ordine economico). Il congestorium («granaio») della memoria, evocato nel XVI secolo dal teologo domenicano Johannes Romberch nel suo manuale Congestorium artificiosae memoriae (1520) e divulgato in Italia nella traduzione di Lodovico Dolce del 1562 col titolo Dialogo nel quale si ragiona del modo di accrescere e conseruar la memoria, scolorisce al cospetto dell’incontenibile dimensione dei big data.

Oggi – osserva Carlo Ossola, neo presidente della Treccani – «assistiamo sempre di più a un trasferimento di dati, di operazioni, di competenze e di memoria dalla nostra mente ad altri corpi a noi esterni, database, il cui governo è delegato» (in «Domenica - Il Sole 24 Ore», 1° settembre 2024, III). Altra cosa è l’enciclopedia, la quale – etimologicamente – circoscrive, ossia definisce la misura di ciò che è conoscibile. L’espressione greca ἐγκύκλιος παιδεία (enkyklios paideia) indica infatti una «somma di conoscenze raccolta in cerchio». Questo cerchio include uno spazio limitato e a nostra misura, ma per ciò stesso non delegabile.