Un discorso da vecchi sull'intelligenza artificiale

Dicono che uno dei primi sintomi dell'invecchiamento sia la resistenza alle novità, specie quelle tecnologiche. Sono sempre stato un tecnoentusiasta, fin da quando programmavo in Basic sul Commodore 64, e istintivamente ho sempre visto nelle nuove tecnologie più le potenzialità che i rischi. Per questo sospetto di essere precocemente invecchiato, dal momento che nei confronti dell'AI il mio approccio si è ribaltato. Forse complice la lettura di Nick Bostrom (Superintelligenza), per la prima volta guardo con sospetto e timore a uno sviluppo tecnologico che mi sembra sostanzialmente diverso da tutti quelli che lo hanno preceduto.

Gli strumenti sono sempre esistiti, la loro creazione ci definisce come specie, e sta alla base del dominio dell'homo sapiens sul pianeta. Ma quello che gli strumenti - tutti gli strumenti, dal bastone al computer - hanno fatto fino a questo momento è stato "soltanto" estendere e potenziare le competenze proprie dell'uomo. Gli strumenti consentono all'uomo di fare cose che altrimenti non potrebbe fare, o dovrebbe fare con molto più tempo e fatica. Ma si tratta sempre di estensioni della competenza umana, è sempre l'uomo che usa lo strumento. Con l'AI siamo per la prima volta di fronte a uno strumento che evolve in modo autonomo, che sfugge alla comprensione del suo ideatore. Nel deep learning nessuno sa esattamente che cosa accada all'interno della macchina. Si definiscono delle regole e dei parametri di partenza, ma poi la macchina, in modo autonomo, scrive i propri algoritmi. Sappiamo cosa entra, vediamo cosa esce, ma non abbiamo idea di cosa accada nel mezzo. Questa è una novità sostanziale, per la prima volta un manufatto non si limita a svolgere processi disegnati, previsti e controllati dall'uomo. Per la prima volta un nostro strumento sfugge, nei suoi meccanismi, al pieno controllo di chi lo ha ideato.

Oltre a questa inquietante differenza sostanziale, che apre scenari futuri colmi di incognite, l'AI si caratterizza già in questo momento per una prassi d'uso che non riesco a guardare senza sospetti. Stiamo infatti chiedendo all'AI di sostituire le nostre competenze. Non si tratta più soltanto di fare ciò che l'utente non può, ma di fare ciò che l'utente non sa. Restando nell'ambito che mi è più familiare: se chiedo all'AI di scrivere un testo al posto mio, e l'AI riesce a farlo meglio di me, potrei arrivare a non acquisire mai quelle competenze che delego all'AI. Questo, a lungo andare, produrrà un impoverimento delle competenze generalizzato. Lo studio delle lingue straniere, per esempio, ha già iniziato una parabola di questo tipo, e sospetto che fra qualche anno vedremo effetti devastanti anche sulla capacità di comporre un testo scritto.

Il problema serio è che scrivere bene significa pensare bene. L'atto della scrittura costituisce la base di quasi ogni attività complessa, che deve essere "scritta" per passare dal pensiero all'esecuzione. La scrittura è innanzitutto disciplina del pensiero, governo della complessità. Delegare la scrittura significa delegare il pensiero. Impoverire il lessico, non padroneggiare le strutture sintattiche, non saper strutturare un'argomentazione, significa indebolire drammaticamente la capacità individuale di maneggiare le proprie idee e, di conseguenza, la propria realtà. Anche il mondo della scuola, da sempre "in rincorsa" degli sviluppi tecnologici, si sta rendendo conto di come la tecnologia possa essere non solo un potente alleato, ma anche un pericoloso nemico dell'educazione, e sta iniziando a fare qualche prudente passo indietro, come suggerisce l'Unesco.

Mi si dirà che, per una competenza che si perde, se ne acquisiscono altre. Ma io proprio non riesco a pensare che saper "guidare" l'AI nella stesura di un testo possa mai compensare la capacità di scriverlo in prima persona. E forse è proprio qui che denuncio la mia età, nella pervicace difesa di competenze che ritengo indispensabili ma che potrebbero essere presto superate: probabilmente i miei bisnonni avrebbero ritenuto impensabile che un loro discendente non avesse la più vaga idea di come coltivare un campo o accendere un fuoco. Eppure, ho la forte sensazione che qui siamo di fronte a qualcosa di radicalmente nuovo, una sorta di punto di non ritorno, oltre il quale si potrebbe avviare una parabola involutiva dell'uomo uguale e contraria a quella evolutiva della tecnologia.