AI, dubbi e preoccupazioni di aziende e clienti

C’era da aspettarselo, dopo lo stupore e l’euforia iniziale, cominciano a sorgere le prime preoccupazioni sull’uso dell’AI generativa. Sia sul fronte delle aziende, sia sul fronte dei clienti. Quest’estate sono stati pubblicate alcune ricerche che offrono degli utili spunti di riflessione. 

Il The Global State of CX 2024 di CX Network ha messo in evidenza che 2 clienti su 5 (43%) sono preoccupati per l'uso etico dell'IA. Una ricerca di Proofpoint ha rilevato che il 45% dei CISO italiani intervistati considera l’AI generativa un rischio per la sicurezza aziendale. Gartner ha diffuso una ricerca dalla quale emerge che i clienti non sono soddisfatti dell’AI nel customer service.  Insomma, siamo in quel momento del ciclo di qualsiasi innovazione di prodotto (Gartner docet) dove emergono scetticismi e paure. Che sembrano tanto più grandi tanto più il momento dell’euforia è stato alto e diffuso.

Le preoccupazioni delle aziende

Dal citato studio di Proofpoint, emerge che i sistemi di AI presentano nuove vulnerabilità. Il rischio è che nella frenesia dell’adozione si sottovalutino questi rischi e non si curi a sufficienza lo sviluppo sicuro e responsabile. Nello stesso sondaggio si sottolinea però che l’AI può essere un valido alleato  per proteggersi dall'errore umano e dalle minacce informatiche avanzate incentrate sull'uomo. Tanto che  l'80% dei CISO italiani intervistati intende implementare funzionalità che permettano di ridurre l’errore umano. C’è anche da considerare che  l'IA avvantaggia anche i criminali informatici, rendendo i loro attacchi più facili da scalare, e che tecniche impiegate solo da criminali informatici esperti e ben finanziati sono ora disponibili anche ad hacker meno qualificati. 

Un’altra preoccupazione, che le aziende esprimono quando valutano progetti di intelligenza artificiale, riguarda la protezione e la sicurezza dei dati. Il timore che il patrimonio informativo aziendale possa essere utilizzato per addestrare intelligenze artificiali a beneficio di concorrenti è piuttosto diffuso, come quello che riguarda il rispetto delle normative sulla privacy. Non sono solo per le conseguenze legali, ma anche perché la fiducia digitale si sta confermando come un fattore particolarmente delicato. Comprometterla  vuol dire mettere a rischio la reputazione e la capacità attrattiva dell’azienda. 

Sfide dell'adozione dell’ai generativa

Un recente studio condotto da Coleman Parkes Research Ltd, promosso da SAS, ha evidenziato i diversi ostacoli che stanno affrontando gli early adopter dell’intelligenza artificiale generativa. 

Il primo riguarda la mancanza di una chiara strategia. I numeri non sono molto confortanti: solo il 9% dei partecipanti al sondaggio afferma di essere estremamente familiare con l'adozione di AI generativa da parte della propria organizzazione. Nove senior decision maker su 10 del mondo tecnologico ammettono di non comprendere appieno l’AI generativa e il suo potenziale impatto sui processi aziendali. Nonostante un evidente gap di comprensione, la maggior parte delle organizzazioni intervistate (75%) ha dichiarato di aver stanziato dei budget da investire nell’AI generativa per il prossimo anno finanziario.

La seconda sfida riguarda i dati: quando si inizia a utilizzare l’AI generativa ci si rende conto di non avere sufficienti dati di qualità per mettere a punto i modelli LLM.  Oltre, come già detto, dover far fronte a numerose preoccupazioni per la data privacy e la messa in sicurezza dei dati. 

Il terzo ostacolo riguarda la regolamentazione: un terzo delle organizzazioni che hanno implementato completamente l'IA afferma di poter rispettare le normative. Solo il 7% fornisce un alto livello di formazione sulla governance dell’AI. E solo il 5% dispone di un sistema affidabile per misurare i rischi di bias e privacy nei LLM.

Ma... chi è riuscito a superare queste sfide afferma che i benefici ripagano gli investimenti fattii: l'89% riferisce di aver migliorato l'esperienza e la soddisfazione dei dipendenti; l'82% afferma di aver risparmiato sui costi operativi e sempre l'82% dichiara una maggiore customer retention.

I dubbi dei clienti

La ricerca The Global State of CX 2024 di CX Network ha rilevato che 2 clienti su 5 (43%) sono preoccupati per l'uso etico dell'IA e sono sempre più attenti all’uso dei dati, come per altro aveva già evidenziato McKinsey lo scorso maggio nel report Digital trust: Why it matters for businesses. Secondo il sondaggio di McKinsey, il 50% dei clienti intervistati ha preso spesso in considerazione un altro brand quando quello abituale non è stato chiaro sull'utilizzo e la protezione delle informazioni personali fornite. Il 14% ha cambiato marchio perché in disaccordo con le modalità adottate e addirittura il 10% perché ha appreso di una violazione dei dati, anche se non lo aveva toccato direttamente. Inoltre, i consumatori considerano i principi di fiducia digitale quasi altrettanto importanti quanto il costo e i tempi di consegna. 

L’indicazione che si trae da questi studi è quella di essere più trasparenti possibili sull'impiego delle tecnologie AI, su le modalità di raccolta, analisi e utilizzo dei dati e sulle finalità dell'azienda. Questa trasparenza si ottiene con una comunicazione chiara, con il  coinvolgimento attivo dei clienti nello sviluppo di soluzioni AI e con l’ascolto delle loro preoccupazioni e preferenze. 

Ai timori sulle implicazioni che l’uso dell’AI può avere sulla propria privacy, si aggiunge spesso l'insoddisfazione verso le relazioni con agenti virtuali e servizi self service. Lo dice un sondaggio di Gartner diffuso questa estate che approfondiremo nel prossimo editoriale.