Stiamo veramente per scoperchiare il vaso di Pandora con i nuovi agenti AI autonomi in arrivo?

Ho sempre sostenuto con entusiasmo la rapida evoluzione dell'intelligenza artificiale. Fin da quando iniziai nel 2016 i primi corsi di Stanford sul Machine learning e le reti neurali, capii che stavamo per entrare in un nuovo corso rivoluzionario, così come avvenuto già 20 anni prima con l'avvento di Internet. Non posso dimenticare quegli anni fantastici di passaggio tra adolescenza e maturità, quando tra il 1990 e 1995 il mondo stava per cambiare completamente grazie alla rete.

Ho vissuto momenti incredibili e trepidanti quando al gracchiare dei primi modem da 4.800 bps provavo a connettermi per le prime volte alle bbs e poi tramite i primi browser, al WEB, il tutto solo per poter vedere comparire online lentamente qualche documento e le prime immagini a bassa definizione. Anche allora immaginavo chiaramente il potenziale positivo di quella rivoluzione e fu per quello che a differenza di molti dei miei amici del tempo, fui uno dei primi a lanciarmi alla scoperta di quel nuovo mondo, facendo i primi passi nell'Era della prima rivoluzione Digitale, avvenuta a seguito dell'introduzione dei primi personal computer e console da gioco degli anni 80.

Negli ultimi due anni, abbiamo invece assistito a progressi incredibili delle AI, che grazie al rilascio nel novembre 2022 di ChatGpt, hanno trasformato il modo in cui interagiamo con la tecnologia e di riflesso come viviamo la nostra realtà. Anche in questo caso, come allora, dopo aver ampiamente sperimentato di persona quanto più possibile fino ad oggi, letto e partecipato ad eventi sul team, non ho dubbi, ci troviamo davanti ad un nuovo passaggio, che come allora, pochi forse hanno veramente compreso 😊

Nonostante però la mia incrollabile positività nei confronti delle tecnologie, naturalmente se adottate nel giusto modo, mi trovo a riflettere con una certa inquietudine sull'introduzione forse troppo semplicistica di agenti AI capaci di agire autonomamente dai nostri computer personali.

È infatti risalente a fine ottobre la prima introduzione di questi sistemi da parte di #Anthropic con una nuova funzionalità, denominata "computer use". Non è passato poi molto dai seguenti proclami anche da parte di #OpenAI, che prevede di lanciare "Operator" come anteprima di ricerca e strumento per sviluppatori entro gennaio 2025 e di Google, che ha recentemente annunciato lo sviluppo di "Project Jarvis", un sistema di intelligenza artificiale progettato per assistere gli utenti nell'esecuzione di compiti quotidiani attraverso il suo browser web Chrome.

Immaginate un software che può agire in tutto e per tutto al posto nostro, eseguendo compiti senza la nostra supervisione diretta. Sembra affascinante, vero? Eppure, in questo momento non riesco a fare a meno di pensare ai potenziali rischi se il tutto dovesse avvenire in modo troppo semplicistico come mi sembra stia accadendo. Stiamo infatti mettendo nelle mani di questi agenti un accesso senza precedenti alle nostre vite digitali. Per chi come me, oltre ad essere un appassionato, è anche un addetto ai lavori, se dovessi fare una metafora, è come se decidessimo di passare “dai permessi in sola lettura, a quelli in scrittura” e tutti noi sappiamo quanto nell’informatica questo passaggio sia estremamente delicato e potenzialmente rischioso.

La mia preoccupazione non riguarda tanto in primis le versioni controllate e distribuite ufficialmente dai big player, ma piuttosto, le possibili alterazioni malevole. Cosa succederebbe se questi agenti fossero manipolati attraverso virus o malware? Potrebbero rubare i nostri dati personali, accedere ai nostri conti bancari, sabotare il nostro lavoro e quello delle nostre aziende, o persino pubblicare informazioni private o false sui social media, con conseguenze devastanti per le nostre vite.

Facendo un’altra metafora, questa volta più classica, è come se stessimo scoperchiando il vaso di Pandora senza essere veramente pronti a gestirne le conseguenze. Credo fermamente che dovremmo procedere con cautela. Perché introdurre questi agenti senza farlo in ambienti veramente controllati, come ad esempio sandbox limitate o tramite controlli più vigili, come una serie di conferme necessarie da parte nostra per le azioni più operative, potrebbe realmente generare danni potenzialmente enormi.

L'innovazione è fondamentale e, se analizziamo la storia senza "bias cognitivi", è innegabile che la nostra evoluzione sia stata fortemente sostenuta da essa. Tuttavia, non dovrebbe mai mettere completamente a rischio la sicurezza degli individui e della società. È anche normale che possano verificarsi effetti collaterali, poiché l'innovazione rimane frutto della creatività umana, intrinsecamente "soggetta e assoggettata" al suo utilizzo.

Ad ogni modo, io penso che, filtrando temporaneamente alcuni grandi temi ancora irrisolti come gli effetti del cambiamento climatico e le guerre, spesso amplificati da dinamiche sociali e umane, quali l'avidità e la ricerca del potere, si possa affermare che, ad oggi, il "bicchiere sia ancora mezzo pieno". Ovvero, i benefici derivanti dall'innovazione tecnologica, nel lungo termine, si sono dimostrati finora superiori alle conseguenze negative su scala globale, sebbene non ancora redistribuiti equamente in tutto il pianeta.

Ma potremmo dire che la stessa cosa sarà vera anche nel futuro? La mia preoccupazione questa volta non si basa soltanto sul rischio che abbiamo sempre avuto a causa dei limiti della natura umana, ma soprattutto al fatto che negli ultimi 50 anni abbiamo accellerato cosi tanto con le innovazioni, che facendo un parallelo con il movimento stiamo viaggiando alla "velocità di un meteorite".

Per chiarire meglio il concetto, se paragonassimo la velocità dell'innovazione a quella dei mezzi, potremmo vedere come ci abbiamo messo circa 4800 anni dall'utilizzo della prima ruota a scopi di spostamento (Mesopotamia 3000 A.C), per arrivare a velocità di circa 100 km\h solo con treni a vapore solo a metà del 1800.

Successivamente sono bastati poco più di 100 anni per decuplicare la velocità e raggiungere attorno al 1950 i 1000km\h grazie ai primi aerei supersonici (Il Bell X-1 rompe la barriera del suono nel 47).

Per decuplicare ulteriormente le velocità, bastarono circa 20 anni. Nel 1969, riuscimmo a mandare razzi orbitali nello spazio, facendoli viaggiare a più di 11.000 Km\h.

Il tutto per arrivare quasi ai giorni nostri, quando nel 2018, la sonda solare Parker della NASA ha stabilito un record storico di velocità, raggiungendo circa 586.000 km/h. Ovvero circa 50 volte la velocità di quanto fatto circa 50 anni prima...

Quello che voglio dire è che se fino a inzio del secolo scorso, viaggiavamo a velocità tutto sommato ancora controllabili per poter intervenire (salvo il nucleare per cui siamo stati fortunati fino ad oggi), ora siamo lanciati a velocità per cui ogni azione fatta potrebbe non essere più corretta per tempo, facendoci andare di molto fuori strada con gravissimi danni a livello globale.

In analogia ad un famoso detto del celebre slogan pubblicitario degli anni 90 della Pirelli “La potenza non è nulla senza controllo”, in questo caso anche se posso definirmi certamene un “Techno-optimists”, mi viene da dire che “oggi la Tecnologia può essere davvero devastante senza controllo”. 

È quindi un momento cruciale in cui dobbiamo bilanciare l'entusiasmo per il progresso tecnologico con una riflessione profonda sulle implicazioni etiche e pratiche.

cosa ne pensate? Siamo davvero pronti per questo salto? Io penso che sia il momento di chiederci: come possiamo garantire che l'avanzamento dell'AI diventi un alleato e non un boomerang per il futuro dell'umanità?"

#ArtificialIntelligence #AutonomousAgents #FutureOfAI

Davide Ciliberto - 16 nov 2024

P.s. per gli amanti dei dati come me :-)