Melanie Mitchell “Intelligenza Artificiale, una guida per esseri umani pensanti”
Oggi vi consiglio il volume di Melanie Mitchell “Intelligenza Artificiale, una guida per esseri umani pensanti” perché se da un lato illustra il funzionamento di macchine che imitano l'apprendimento, la percezione, il linguaggio e persino la creatività e il buon senso umani, dall’altro ci rassicura sostenendo che la ricerca nel campo dell’intelligenza artificiale è ancora molto lontana dal raggiungere un’intelligenza artificiale generale pari a quella umana. Con questo libro la Mitchell vuole aiutare i lettori a farsi un’idea dello stato attuale di questa fiorente disciplina, inclusi i suoi molti problemi irrisolti, i rischi potenziali e i benefici delle sue tecnologie, stimolando l’attenzione delle persone ai quesiti scientifici e filosofici che essa solleva per permettere la comprensione di cosa sia la nostra intelligenza. L’autrice descrive l’evoluzione della ricerca scientifica nel campo dell'intelligenza artificiale in modo ironico ed equilibrato inserendo nella narrazione vari episodi della propria vita personale al fine di indicare quelli che sono i limiti invalicabili dalle macchine “intelligenti” e le sfide future che ci aspettano, spiega inoltre come le convinzioni che gli scienziati avevano sull’incapacità delle macchine di compiere determinate attività ritenute tipicamente umane siano ormai crollate con l’evoluzione della tecnica. Prende ad esempio quanto sostenuto da Douglas Hofstadter nel libro “Geb” ove l’autore si domandava: “come fanno l’intelligenza, la coscienza e il senso di autoconsapevolezza, che ogni essere umano prova in modo cosí fondamentale, a scaturire dal substrato non intelligente, non cosciente delle cellule biologiche? E in che modo l’intelligenza e la consapevolezza di sé potrebbero essere prima o poi realizzate dai computer?” Ebbene l’avvento di Deep Blue negli scacchi, di Emi nell’ambito musicale e la teoria della singolarità sostenuta da Ray Kurzweil avevano gettato Hofstadter in uno stato d’inquietudine poiché quest’ultimo, convinto che le caratteristiche della mente umana derivassero dall’interazione del corpo con il mondo fisico, non ammetteva la possibilità in un futuro prossimo della riproduzione della complessità della mente umana tramite un chip, e, qualora si fosse effettivamente riusciti nell’intento, avrebbe visto crollare la sua idea di essenza umana. L’autrice rimane perplessa sulla possibilità che entro trent’anni si possa arrivare all’intelligenza artificiale generale, dichiara quindi di aver scritto il volume nel tentativo di capire come stanno effettivamente le cose riguardo all’intelligenza artificiale – indagando cosa sanno fare oggi i computer, e che cosa possiamo aspettarci da loro nei prossimi decenni. Il libro si articola in 5 sezioni nelle quali la Mitchell ha riassunto l’evoluzione degli studi relativi all’intelligenza artificiale ed ha illustrato i suoi disparati – e talvolta discordanti – obiettivi. Al contempo ha analizzato il funzionamento di alcuni tra i sistemi di IA piú in vista illustrandone successi e limiti; ha spiegato in quale misura i computer oggi sanno fare cose che richiedono – a nostro avviso – livelli d’intelligenza elevati, come sconfiggere l’uomo nei giochi intellettualmente piú impegnativi, tradurre da una lingua all’altra, rispondere a domande complesse, guidare veicoli su strade tortuose; ed esaminato i casi in cui le macchine sono state programmate per svolgere attività per noi scontate come riconoscere volti e oggetti nelle immagini, comprendere la lingua parlata e un testo scritto e usare il senso comune più elementare. Interessante inoltre è la parte in cui la Mitchell cerca di dare risposte a domande oggetto di ampi dibattiti quali: che cosa intendiamo per intelligenza «generale umana» o addirittura «superumana»? Questo libro è un’esplorazione dettagliata di alcuni metodi dell’IA che probabilmente già influenzano la vostra vita, o che presto la influenzeranno; un’esplorazione dei tentativi dell’IA che forse non si limiteranno a mettere in discussione la percezione che abbiamo dell’unicità umana. La Mitchell dichiara che il suo obiettivo è la condivisione con il lettore della sua esplorazione al fine di permettere a ciascuno di ricavare un’idea piú chiara di che cosa questo campo ha già realizzato e di quanta strada resta da percorrere prima che le nostre macchine rivendichino una loro “propria umanità.” Il volume si conclude con una serie di domande a cui la Mitchell dà precise risposte in continuità e citando il capitolo “Dieci domande con tentativi di risposte “ del libro di Hofstadter sulla natura generale dell’intelligenza artificiale oltre che sulla possibilità del pensiero nelle macchine.
Domanda 1: tra quanto tempo le auto a guida autonoma saranno la norma? Dipende da che cosa s’intende per «a guida autonoma». La U.S. National Highway Traffic Safety Administration ha definito sei livelli di autonomia per i veicoli. Eccoli.
– LIVELLO 0 : Il guidatore umano ha il controllo totale della guida.
– LIVELLO 1: Il veicolo può assistere talvolta il guidatore umano al volante o nella velocità del veicolo, ma non le due cose simultaneamente.
– LIVELLO 2: Il veicolo può controllare sia il volante sia la velocità del veicolo simultaneamente in certe circostanze (di solito sulle grandi strade). Il guidatore umano deve continuare a prestare piena attenzione («monitorare l’ambiente di guida») in ogni momento e fare qualsiasi altra cosa relativa alla guida, come cambiare corsia, uscire agli svincoli, fermarsi ai semafori e accostare quando si è fermati da un’auto della polizia.
– LIVELLO 3: Il veicolo può gestire tutti gli aspetti della guida in certe circostanze, ma il guidatore umano deve prestare costantemente attenzione ed essere pronto ad assumere il controllo in qualsiasi momento il veicolo lo richieda al guidatore.
– LIVELLO 4: Il veicolo può assumere il controllo della guida in certe circostanze. In quelle circostanze non è necessario che il guidatore umano presti attenzione.
Consigliati da LinkedIn
– LIVELLO 5: Il veicolo può assumere il controllo della guida in tutte le circostanze. Gli occupanti umani sono soltanto dei passeggeri e non è mai necessario che essi intervengano nella guida.
La Mitchell precisa che al momento “buona parte delle automobili circolanti si colloca tra il livello 0 e il livello 1 – hanno il regolatore di velocità di crociera (cruise control) ma non il controllo della direzione di marcia o di frenata. Alcuni recenti modelli di autoveicoli – quelli con il «cruise control adattativo» – sono considerati di livello 1. Le Tesla sono tra il livello 2 e 3 ma hanno ancora bisogno del safety driver pronto ad assumere il controllo in qualsiasi momento. Al momento non ci sono modelli di livello 5, perché? I principali ostacoli sono le situazioni rispetto alle quali il veicolo non era stato addestrato, e che potrebbero singolarmente accadere di rado, ma che accadranno frequentemente quando i veicoli autonomi si moltiplicheranno. Per guidare in modo affidabile in tutte le circostanze, un guidatore deve comprendere le motivazioni, gli obiettivi e persino le emozioni degli altri guidatori, dei ciclisti, dei pedoni e degli animali che incontra lungo la strada in sintesi esaminare situazioni complesse e reagire tempestivamente. Un altro problema che si profila per i veicoli a guida autonoma è la possibilità dei più disparati attacchi fraudolenti. Essendo sotto il pieno controllo del software, le auto a guida autonoma saranno potenzialmente ancora piú vulnerabili ad attacchi di pirati informatici. Sviluppare adeguate misure di cyber-security per i veicoli a guida autonoma sarà un elemento importante ai fini di un uso più sicuro di questa tecnologia. Vi sono poi importanti questioni giuridiche che andranno risolte nel caso dei veicoli pienamente autonomi. Quindi, dice la Mitchell, è difficile prevedere se e quando i predetti problemi saranno risolti, tuttavia, la tecnologia di livello tre esiste già, ma come più volte è stato dimostrato, le persone in genere gestiscono davvero male l’autonomia parziale. I guidatori umani, pur consapevoli di dover prestare attenzione in ogni momento, talvolta se ne dimenticano; e poiché le auto non sono capaci di gestire ogni eventuale situazione, gli incidenti capitano. Che fare allora? Realizzare l’autonomia completa nella guida richiede in sostanza un’AI generale, che verosimilmente non sarà tra noi in tempi brevi. Le auto ad autonomia parziale esistono già, ma sono pericolose, perché chi le guida, talvolta, si distrae. La soluzione più probabile al dilemma è cambiare la definizione di completa autonomia, limitando la circolazione delle auto autonome esclusivamente in aree specifiche, dotate di un’infrastruttura atta a garantire la sicurezza delle vetture. Una versione in uso di questa soluzione si chiama geofencing (recinzione virtuale) ovvero lo spazio recintato in cui si muove il veicolo a guida autonoma è capillarmente mappato quindi è molto più semplice prevedere gli eventi che possono accadere all’interno del medesimo, l’unico problema che rimarrebbe è la componente umana, i pedoni infatti andrebbero opportunamente educati a muoversi con prudenza in detto spazio al fine di rendere la circolazione prevedibile e sicura.
Domanda 2: l’IA causerà la disoccupazione di massa? L’autrice dice di non saperlo, afferma inoltre che non succederà a breve. I sistemi di IA sostituiranno indubbiamente l’uomo in alcune mansioni, e già l’hanno fatto, spesso procurando grandi vantaggi alla società, ma nessuno sa ancora quali saranno le ricadute complessive dell’AI sull’occupazione, perché nessuno è in grado di prevedere le capacità future delle tecnologie di AI. Incertezze a parte, la questione del rapporto tra tecnologia e occupazione fa (giustamente) parte delle discussioni sull’etica dell’AI. Diverse persone hanno sottolineato che, storicamente, le nuove tecnologie hanno creato tanti nuovi lavori quanti ne hanno sostituiti, e che l’AI non farebbe eccezione. In base alle prove di cui disponiamo quindi attualmente, non è possibile fare previsioni specifiche pertanto i decisori politici devono prepararsi ad affrontare un ventaglio di esiti possibili.
Domanda 3: un computer potrebbe essere creativo? Sul punto la Mitchell sostiene che questa idea che un computer non possa per definizione essere creativo, perché sa fare solo ciò che è esplicitamente programmato a fare, sia sbagliata. Molti sono i modi in cui un programma informatico può generare cose che il suo programmatore non aveva mai nemmeno pensato. Secondo la Mitchell, in linea di principio, sarebbe possibile per un computer essere creativo; tuttavia, poiché la creatività implica la capacità di comprendere e di valutare l’oggetto creato e, secondo questa accezione di creatività, oggi nessun computer al mondo può dirsi creativo. Ragionando in questi termini, è lecito chiedersi se un programma informatico possa generare una bella opera d’arte o musicale, ma la bellezza è una valutazione soggettiva, inoltre esistono diverse opere d’arte generate al computer che sono belle tuttavia, la creatività scaturisce solamente dalla collaborazione con un essere umano, che presta la propria capacità di comprendere che cosa rende bella l’arte o la musica, e che esprime quindi un giudizio sulla produzione del computer. Come osservava lo studioso di letteratura Jonathan Gottschall: “l’arte è senza dubbio ciò che più distingue gli esseri umani dal resto del creato. È la cosa che ci rende più che mai orgogliosi di essere ciò che siamo”. Ma, dice la Mitchell: “aggiungerei che a renderci fieri di noi stessi è, oltre alla generazione dell’arte, la nostra capacità di apprezzarla, di comprendere che cosa la rende toccante, e di afferrare ciò che essa ci comunica. Questa comprensione e questo apprezzamento sono essenziali tanto per il pubblico quanto per l’artista. In mancanza di ciò, non mi sento di definire “creativa” una creazione”. Tuttavia la Mitchell ritiene che un giorno un pc potrà essere creativo, sebbene la cosa non accadrà molto presto.
Domanda 4: a quando la creazione di un’IA generale di livello umano? Secondo la Mitchell siamo davvero molto lontani dal raggiungere questo obiettivo; nella lunga scommessa fatta tra Ray Kurzweil e Mitchell Kapor - sulla possibilità che un programma strutturato ad arte superi il test di Turing - la Mitchell concorda con Kapor secondo il quale: “L’intelligenza umana è un fenomeno meraviglioso, sottile e poco compreso. Non esiste il pericolo di duplicarla da qui a breve”.
Domanda 5: quanto dovremmo essere terrorizzati dall’IA? L’autrice sostiene che molte sono le ragioni per temere la corsa sfrenata della nostra società all’adozione incondizionata della tecnologia legata all’AI quali: la possibilità di una perdita enorme di posti di lavoro, il possibile uso improprio dei sistemi di AI, e l’inaffidabilità e la vulnerabilità di questi sistemi all’hackeraggio fraudolento. Queste sono solo alcune delle legittime preoccupazioni di chi teme l’impatto delle tecnologie sulla vita umana. Noi umani sopravvalutiamo i progressi nell’AI e sottovalutiamo la complessità della nostra intelligenza. L’AI dei giorni nostri è lontana dall’intelligenza generale, e, secondo l’autrice la «superintelligenza» delle macchine non è assolutamente all’orizzonte. Se l’AI generale dovesse mai arrivare, è pronta a scommettere che la sua complessità se la giocherà alla pari con quella dei nostri cervelli. In qualsiasi classifica delle preoccupazioni a breve termine relative all’AI, la superintelligenza dovrebbe trovarsi in fondo alla lista. Il vero problema è in realtà il suo contrario. Secondo l’autrice infatti i sistemi di AI piú avanzati sono fragili, ossia commettano errori quando il loro input si discosta troppo dagli esempi sui quali li abbiamo addestrati, pertanto a breve termine, l’aspetto più preoccupante relativo ai sistemi di AI è che rischiamo di concedere loro troppa autonomia senza essere pienamente consapevoli dei loro limiti e dei loro punti deboli. L’autrice teme la mancanza di affidabilità dell’Ai e l’uso che se ne farà. Si domanda infine: dobbiamo avere paura dell’AI? “Sí e no. Le superintelligenti macchine coscienti non sono all’orizzonte. Gli aspetti della nostra umanità che ci stanno piú a cuore non saranno eguagliati da «qualche trucchetto» informatico. O perlomeno, io non lo credo. Tuttavia assai preoccupanti sono i possibili usi pericolosi e fraudolenti degli algoritmi e dei dati. È spaventoso. Mi rincuora però la notevole attenzione che questo tema sta ricevendo dentro e fuori la comunità dell’IA. Fra i ricercatori, nelle multinazionali e in ambito politico si sta facendo strada l’idea della necessità di farsi carico di questi problemi e risolverli”.
Domanda 6: quali appassionanti problemi nell’IA restano da risolvere? Quasi tutti. Le domande piú appassionanti nell’ambito dell’IA non si concentrano solo sulle potenziali applicazioni. I suoi fondatori erano motivati da quesiti scientifici sulla natura dell’intelligenza e dal desiderio di sviluppare nuove tecnologie. In realtà, l’idea che l’intelligenza sia un fenomeno naturale, che si può indagare al pari di molti altri fenomeni costruendo modelli informatici semplificati, fu la motivazione che attirò molte persone (inclusa la Mitchell) in questo ambito. L’impatto dell’AI continuerà a crescere per tutti noi pertanto, in quanto esseri umani pensanti, occorre avere una idea precisa dello stato attuale di questa fiorente disciplina, inclusi i suoi molti problemi irrisolti, i rischi potenziali, i benefici delle sue tecnologie ed i quesiti scientifici e filosofici che essa solleva per la comprensione della nostra intelligenza umana. “E se qualche computer sta leggendo queste righe, e può dirmi a cosa si riferisce «essa» nella frase precedente, lo accoglieremo a braccia aperte nella discussione”.