Considerato n. 44 del Regolamento UE 2024/1689: Una Riflessione Critica sui Sistemi di Intelligenza Artificiale e il Rilevamento delle Emozioni

Diritto delle Imprese e Intelligenza Artificiale - Avv. Emiliano Cerro

Il Considerando n. 44 del Regolamento UE 2024/1689 (IAact) solleva preoccupazioni significative riguardo all'uso di sistemi di intelligenza artificiale (IA) destinati a identificare o inferire le emozioni degli individui. Questo articolo analizza le principali problematiche legate a tali tecnologie, offrendo esempi pratici per evidenziare le implicazioni giuridiche e sociali.

1. Preoccupazioni sulla Base Scientifica dei Sistemi di IA

Il Considerando n. 44 sottolinea che esistono serie preoccupazioni sulla solidità scientifica dei sistemi di IA utilizzati per identificare o inferire le emozioni. La variabilità culturale e situazionale dell'espressione emotiva, e persino la variabilità tra le stesse persone, solleva dubbi sull'affidabilità di tali tecnologie.

Esempio Pratico 1: Ambito Lavorativo

Immaginiamo un'azienda che utilizza un sistema di IA per monitorare il livello di stress dei dipendenti tramite analisi delle espressioni facciali. La ricerca ha dimostrato che le espressioni facciali possono essere influenzate da fattori culturali. Un dipendente originario di una cultura che tende a mantenere un'espressione neutra durante i momenti di stress potrebbe essere erroneamente interpretato come meno impegnato o disinteressato dal sistema di IA. Questo potrebbe portare a valutazioni sbagliate delle prestazioni e influenzare negativamente la carriera del dipendente.

2. Limitata Affidabilità, Specificità e Generalizzabilità

Le carenze dei sistemi di IA nel rilevamento delle emozioni si manifestano in tre aree principali: affidabilità, specificità e generalizzabilità.

Esempio Pratico 2: Ambiente Educativo

Consideriamo un sistema di IA implementato in un contesto educativo per valutare il coinvolgimento degli studenti durante le lezioni. Questo sistema potrebbe avere difficoltà a distinguere tra l'attenzione genuina e una risposta emotiva neutra dovuta a fattori esterni (ad esempio, sonno insufficiente o preoccupazioni personali). Se un sistema di IA giudica erroneamente uno studente come non coinvolto, potrebbe influire negativamente sul suo rendimento scolastico e sulla sua valutazione, senza considerare le circostanze individuali.

3. Rischio di Discriminazione e Invasività

Il Considerando n. 44 evidenzia anche il rischio di discriminazione e violazione dei diritti fondamentali associati all'uso di tali sistemi. Il contesto di lavoro e istruzione, caratterizzato da uno squilibrio di potere, amplifica il potenziale di abuso.

Esempio Pratico 3: Selezione del Personale

Un datore di lavoro potrebbe utilizzare un sistema di IA per analizzare le emozioni dei candidati durante i colloqui. Se il sistema identifica emozioni di ansia o nervosismo, potrebbe penalizzare i candidati, considerandoli meno idonei per il ruolo. Questo approccio potrebbe essere particolarmente problematico per persone con ansia sociale o altri disturbi emotivi, che non riflettono necessariamente la loro capacità lavorativa ma solo una risposta emotiva a una situazione stressante.

4. Eccezioni per Usi Medici e di Sicurezza

Il Regolamento UE 2024/1689 prevede che il divieto di utilizzo non si applica ai sistemi di IA destinati a motivi medici o di sicurezza. Questi sistemi, come quelli per uso terapeutico, hanno una finalità diversa e sono progettati per trattare specifiche esigenze cliniche senza comportare le stesse problematiche etiche e legali.

Esempio Pratico 4: Uso Terapeutico

Un esempio è un sistema di IA sviluppato per il monitoraggio dei pazienti con disturbi emotivi come la depressione. Questo tipo di sistema, sebbene utilizzi tecnologie simili per analizzare le espressioni facciali o il tono della voce, è progettato per fornire supporto clinico e non per fare valutazioni normative o di performance. L'utilizzo di questi sistemi è regolamentato da norme etiche e legali più specifiche, e il loro scopo è orientato al miglioramento della salute e del benessere del paziente.

Conclusione

Il Considerando n. 44 del Regolamento UE 2024/1689 IAact mette in luce questioni cruciali riguardanti l'affidabilità, la specificità e il rischio di discriminazione dei sistemi di IA volti a rilevare emozioni. Le preoccupazioni sollevate giustificano un'attenta regolamentazione e, in alcuni casi, un divieto totale dell'uso di tali sistemi in contesti lavorativi e educativi. Tuttavia, è importante mantenere un equilibrio tra la protezione dei diritti individuali e l'uso di tecnologie avanzate per scopi medici e terapeutici, dove le applicazioni sono giustificate e le misure di protezione sono adeguate.