Post di Ugo Pilia

🌟 E se la prossima minaccia nucleare fosse scatenata dall'intelligenza artificiale? 📝 È ciò su cui riflette il paper "Escalation Risks from Language Models in Military and Diplomatic Decision-Making", che rivela come cinque diversi modelli di intelligenza artificiale dimostrino, nelle simulazioni di guerra condotte, comportamenti imprevedibili e propensione all'escalation. 🔍 Nel paper, ancora in pre-print, gli autori osservano come i LLMs utilizzati (parliamo dei modelli "base", sottostanti le versioni commerciali di modelli quali ChatGPT, ovvero spogliati delle relative restrizioni di sicurezza), posti in simulazioni di conflitto ma senza essere consapevoli di esserlo, sviluppino dinamiche belliche tendenti all'escalation militare. In alcuni casi giungendo addirittura alla scelta di ricorrere ad armi nucleari, anche in contesti neutrali e privi di conflitti iniziali. 🛡️ Scenario troppo fantascientifico? Eppure, considerando l'attuale utilizzo dell'IA nel campo militare, non è così lontano dalla realtà. Bloomberg ha riportato, nel luglio 2023, che il Dipartimento della Difesa degli Stati Uniti stava testando cinque differenti modelli di IA per valutarne le capacità di pianificazione militare in scenari di conflitto simulati. Il colonnello della US Air Force Matthew Strohmeyer ha persino dichiarato che potrebbero essere impiegati dalle forze armate in un futuro molto prossimo. Qui il link al paper: https://lnkd.in/dJUy57qh

C’è un conflitto con le norme Ue. E la soluzione italiana è percorribile Ilaria Sacchettoni - Corriere della Sera - 21 Oct 2024 Vedi anche il sito ilcorriereblog.it La mossa del governo e la necessità di scelte europee uniformi Esperto di diritto penale il professor Vittorio Manes dell’università di Bologna, direttore della rivista Diritto di Difesa dell’unione delle camere penali ci guida nella ricognizione sul tema dell’immigrazione e delle norme. 1 Si può disapplicare una legge interna come avvenuto in questi giorni sui migranti in Albania? La questione giuridica non è semplice, ma i giudici non hanno disapplicato la legge interna, l’hanno piuttosto integrata alla luce della interpretazione data dalla Corte di giustizia: la Corte Ue ha chiaramente detto che un Paese per essere considerato sicuro deve esserlo in ogni sua parte rimettendo al giudice la valutazione del caso concreto. Su queste basi i giudici italiani hanno ritenuto di non convalidare il trattenimento ai fini di reimpatrio in Albania ritenendo Bangladesh ed Egitto non sicuri. Difficile negarlo, del resto, se solo si pone mente al caso Regeni, in Egitto, o al fatto che in Bangladesh sono perseguitate minoranze etniche e religiose, o che in Turchia sono puniti con il carcere rapporti omosessuali. 2 I giudici hanno applicato la normativa europea che riguarda i Paesi sicuri. C’è un contrasto tra leggi europee e norme italiane? C’è una situazione di incertezza giuridica, dietro alla quale affiora la possibilità che l’applicazione della disciplina italiana sui trasferimenti all’estero metta a rischio i diritti fondamentali degli individui, esponendoli alla possibilità di essere rimpatriati in Stati che non li garantiscono, o ai quali possano addebitarsi atteggiamenti persecutori verso talune categorie di soggetti, come oppositori politici, omosessuali, attivisti di diritti civili. Di questo rischio si sono fatti carico doverosamente i giudici. Questa posizione ha trovato la condivisione dell’unione delle Camere penali, dunque dell’associazione più rappresentativa dei penalisti italiani, che non può essere tacciata di antipatie politiche antigovernative e men che meno di difese aprioristiche pro magistrati. 3 È possibile aggirare quella sentenza europea? In linea di principio, le sentenze della Corte di giustizia sono vincolanti, anche per una consolidata giurisprudenza della Consulta. Quindi l’aggiramento rappresenterebbe un inadempimento rispetto agli obblighi sovranazionali, che vincolano, in base alla Costituzione, tanto il giudice quanto, a monte, il legislatore. 4 L’esecutivo propone un decreto legge sui Paesi sicuri, una norma che verrebbe aggiornata periodicamente alle realtà politiche dei vari Paesi da cui provengono migranti. È percorribile? Potrebbe esserlo, specie se la normativa interna si fonda sulle più accreditate fonti sovranazionali, facendo rimando a queste anche per l’aggiornamento della lista (...) Continua la lettura sulla pagina facebook de Il giornale dei giornali

Green light per l'#AI #Act pervenuto dal Consiglio dell'Unione Europea (Council of the European Union) ENTE NAZIONALE per l'INTELLIGENZA ARTIFICIALE - E.N.I.A.®Valeria Lazzaroli Fabrizio Degni Sergio Pillon Rivista.AI Antonio Dina Attesa ora la pubblicazione in Gazzetta 👇 Qui il testo del Regolamento

#Lavender, l'AI usata da #Israele per colpire #Gaza ______________________________________________________ L’intelligenza artificiale impiegata da Israele per colpire i palestinesi è stata denominata “Lavender”. Questo sistema, noto per la sua scarsa supervisione umana, ha contrassegnato oltre 37.000 palestinesi come obiettivi militari. Le conseguenze sono state gravi: una politica estremamente permissiva e non proporzionata ha portato a un elevato numero di vittime collaterali. Lavender funziona incrociando informazioni su persone ritenute vicine alle milizie palestinesi. Nonostante non sia un elenco di miliziani confermati, è stato utilizzato per selezionare gli obiettivi da bombardare. Il processo di autorizzazione per colpire i target segnalati dall’AI stabilisce che siano accettabili tra 15 e 20 vittime collaterali per ogni miliziano di Hamas o della Jihad islamica palestinese ucciso, e fino a 100 vittime civili collaterali per ogni alto funzionario colpito. Il report di +972 Magazine, (https://lnkd.in/duwzPwNy) condotto in collaborazione con il giornale di lingua ebraica Local Calls (https://www.mekomit.co.il/) e riportato dal The Guardian, si basa sulle testimonianze dirette di sei membri dei servizi segreti israeliani, noti come unità 8200, che hanno sviluppato e utilizzato Lavender. I militari impiegano 20 secondi per approvare ogni obiettivo indicato dal sistema di intelligenza artificiale. In particolare, Lavender è stato utilizzato per identificare target considerati di “basso rango”. L’uso di Lavender ha modificato i processi di autorizzazione degli attacchi, soprattutto per quanto riguarda le vittime civili. Le fonti sentite da +972 hanno raccontato di aver subito una pressione costante: “Ci dicevano: ora dobbiamo distruggere Hamas, a qualunque costo. Bombardate tutto quello che potete”. #IntelligenzaArtificiale #AI #Tecnologia #Palestina #Israele #Pace #DirittiUmani #Sicurezza #Conflitto 

Registrati al nostro webinar per vedere come l'uso della Threat Intellingece Armis ti consente di prevenire gli attacchi e prioritizzare le attività di patching e fixining in base a dati reali

La Convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale e i diritti umani, la democrazia e lo stato di diritto (CETS n. 225) è stata resa disponibile per la firma durante un incontro dei ministri della giustizia del Consiglio d'Europa tenutosi il 5 settembre 2024 a Vilnius. Questo trattato rappresenta il primo accordo internazionale legalmente vincolante che mira a garantire che l'utilizzo dei sistemi di intelligenza artificiale sia pienamente in linea con i principi dei diritti umani, della democrazia e dello stato di diritto. I firmatari iniziali della Convenzione quadro includono: Andorra Georgia Islanda Norvegia Repubblica di Moldavia San Marino Regno Unito Israele Stati Uniti d'America Unione Europea Il trattato fornisce un quadro giuridico che copre l'intero ciclo di vita dei sistemi di intelligenza artificiale. Promuove il progresso e l'innovazione dell'IA, gestendo al contempo i rischi che possono rappresentare per i diritti umani, la democrazia e lo stato di diritto. Per resistere alla prova del tempo, è tecnologicamente neutrale. https://lnkd.in/df3yDFUd

Si sa che ogni tecnologia non è né buona né cattiva, lo è semmai l'utilizzo che se ne fa. Le applicazioni dell'AI in ambito militare è uno dei casi più emblematici a riguardo. In questo interessante articolo, oltre alle ovvie considerazioni riguardo gli effetti negativi dell'impiego dell'AI in guerra, l'ICRC traccia anche uno scenario che dà un po' più di speranza, sottolineando i possibili vantaggi umanitari dell'impiego di queste nuove tecnologie. 🦾 Con sistemi basati su AI e machine learning le operazioni militari potrebbero infatti essere potenzialmente più conformi al diritto internazionale umanitario, con valutazioni di proporzionalità e decisioni di targeting più accurate. 👉 Potrebbero quindi essere ridotte le guerre “non vincibili” a prescindere, portando così a strategie più misurate e meno soggette a errori umani. Ovviamente, non serve ribadirlo, i rischi dall'altro lato, non sono da sottovalutare: opportunismo bellico, desensibilizzazione alla violenza, discriminazioni e attacchi più accurati delle minoranze, danni potenzialmente più estesi alle infrastrutture civili, e molto - troppo - altro. #AI #GenAI #ICRC #warfare #techplomacy

Questo articolo presenta un riassunto dei punti principali della legge Artificial Intelligence Act europea, selezionando le parti più importanti del documento.

Mi piacerebbe condividere un articolo letto questa sera inerente ad un tema molto delicato sull’intelligenza artificiale, un tema con il quale (secondo me) l’essere uomano dovrà fare i conti primo o poi. Riassumo i punti salienti dell’articolo e che repunto anche più rilevanti: La notizia pubblicata da +972 Magazine (una rivista israelo-palestinese) fa emergere delle verità relative alla guerra in Palestina. Alcuni generali israeliani coinvolti nel conflitto hanno dichiarato di aver utilizzato un sistema di intelligenza artificiale durante le prime fasi della guerra, sistema chiamato “Lavender”. “Lavender” è un algoritmo capace di etichettare un insieme di persone che si ipotizzano essere sostenitori di Hamas ed aggiungerli alla lista dei “target”. Far parte della lista vuol dire essere eliminato. Ciò è possibile tramite un’analisi fatta dall’algoritmo su un grande quantitativo di dati. 37’000 i palestinesi target. Per ogni target il tempo mediamente speso per determinare se l’individuo fosse valido o meno è di solamente 20 secondi, principalmente per essere sicuri che la persona fosse di sesso maschile (questo perchè le donne tendenzialmente non fanno parte delle forze armate). Per ognuno dei target si è utlizzato un altro sistema chiamato “Where’s Daddy?” (il nome mi fa rabbrividire) che consente di effettuare un traking della persona per permettere di capirne il rientro nella rispettiva abitazione (ed effettuare nella notte il bombardamento) L’algoritmo ha una percentuale di errore del 10% circa, ciò vuol dire che 1 persona su 10 verrà fatta fuori per nessuna ragione valida. Dato che il “targeting” classifica anche militanti “junior”, per risparmiare economicamente viene deciso di utilizzare le bombe meno precise che causano esplosioni irregolari, capaci di distruggere interi palazzi con altri possibili civili. Per ogni junior, è tollerabile uno scarto di 15 ai 20 civili innocenti eliminati involontariamente. 100 se il target è un generale di Hamas. L’articolo contiene un sacco di altre informazioni relative a quanto detto sopra e alla situazione di Gaza. Non voglio trattare il tema del conflitto in Palestina, non è la piattaforma per parlarne. Vorrei sottolineare più l’aspetto morale della questione. Primo poi altre nazioni utilizzeranno (forse già lo fanno) sistemi simili per operazioni militari, ma.. Qual’è la legittimità di usare questi sistemi in situazioni come queste? Quanto l’essere umano può affidarsi ai risultati di un algoritmo? Si sta parlando di permettere ad un sistema di decidere chi può vivere e chi no.. a fronte di calcoli statistici su dei parametri determinati da un piccolo gruppo di persone. Personalmente penso sia una questione molto importante, sicuramente meno eccitante di “ChatGPT non è più l’AI migliore!”. Spero se ne inizi a parlare, perchè non stiamo parlando di futuro, sta succedendo adesso. Sta succedendo ora. https://lnkd.in/dQpKz-c7

🔹 L'Assemblea generale delle Nazioni Unite ha compiuto un passo storico adottando la prima risoluzione globale sull'intelligenza artificiale, che mira a promuovere la protezione dei dati personali, monitorare i rischi associati all'IA e difendere i diritti umani. Proposta dagli Stati Uniti e copatrocinata dalla Cina insieme ad altri 121 paesi, questa risoluzione non vincolante è il frutto di tre mesi di negoziati e riflette un consenso globale sulla necessità di bilanciare lo sviluppo tecnologico con la protezione dei diritti fondamentali. In un contesto di crescenti preoccupazioni per possibili abusi dell'IA, questo documento sottolinea l'importanza di una sorveglianza e regolamentazione adeguate per prevenire danni, promuovere la sicurezza e assicurare il rispetto della dignità umana. Trova maggiori informazioni su questa notizia qui 👉🏼 https://lnkd.in/dG6CBiBA #techtitute #ONU #IA #IntelligenzaArtificiale