Gestire i rischi dell'intelligenza artificiale non è solo un obbligo di legge: è una condizione per fare buon business e per proteggere l'azienda. L'AI Act ha messo al centro, giustamente, i diritti fondamentali delle persone. Ma un chatbot che dà informazioni sbagliate, un modello che sbaglia previsioni o un dipendente che incolla dati riservati in un servizio AI pubblico possono costare molto, anche quando i diritti fondamentali dei cittadini non vengono violati.
Per questo il rischio AI non si governa con la sola compliance: servono insieme competenze di compliance, risk management, organizzazione, formazione e tecnologia.
In questo articolo esaminiamo le tre facce del rischio AI (diritti, business e sicurezza), perché conviene governarle insieme e come Planetica ha tradotto questa visione in un metodo operativo intelligente ed efficace: il framework ARIA.
Primo: i diritti dei cittadini, come chiede l'AI Act
Il Regolamento (UE) 2024/1689, l'AI Act, segue un approccio basato sul rischio: più un sistema può incidere sulla vita e sui diritti delle persone, più le regole sono stringenti. Alcune pratiche sono vietate, come il social scoring o la manipolazione di persone vulnerabili. Altre sono ad alto rischio e richiedono controlli rigorosi: tra queste il credit scoring, il pricing delle assicurazioni vita e salute e la selezione del personale.
Chi utilizza sistemi di credit scoring o di pricing assicurativo vita e salute, e chi eroga servizi pubblici, ha un obbligo in più: la valutazione d'impatto sui diritti fondamentali (FRIA, art. 27), da fare prima di mettere in uso il sistema. Le sanzioni arrivano a 35 milioni di euro o al 7% del fatturato mondiale per le pratiche vietate, e a 15 milioni o al 3% per gli obblighi sui sistemi ad alto rischio.
Già questo basterebbe a giustificare un presidio serio. Ma fermarsi qui significa guardare solo una parte del problema.
Secondo: il business, che l'AI può aiutare o danneggiare
Nel 2024 un tribunale canadese ha condannato Air Canada a risarcire un cliente. Il chatbot della compagnia gli aveva descritto in modo sbagliato le tariffe per lutto familiare. L'azienda ha sostenuto che il chatbot fosse «un'entità separata», ma il tribunale ha risposto che una società è responsabile di tutto ciò che compare sul proprio sito. Il risarcimento era modesto, ma il danno di reputazione ha fatto il giro del mondo.
Il caso mostra che i rischi di business dell'AI esistono anche fuori dal perimetro dell'AI Act. Un chatbot di customer care è a «rischio limitato» per la norma, eppure può creare impegni contrattuali, reclami e perdita di fiducia. Altri esempi tipici:
- Errori e allucinazioni dei modelli generativi, presentati come informazioni certe.
- Decisioni sbagliate su prezzi, scorte o approvvigionamenti quando un modello perde precisione nel tempo.
- Costi fuori controllo per l'uso delle piattaforme e dipendenza da un unico fornitore.
- Contenuti non allineati ai valori e al tono dell'azienda.
Terzo: la sicurezza, perché l'AI apre nuove porte
L'AI amplia la superficie di attacco. Secondo il rapporto IBM Cost od a Data Breach 2026, oltre il 20% delle organizzazioni ha subito una violazione di un modello o di un'applicazione AI, contro il 13% dell'edizione precedente. Tra chi ha subito una violazione legata all'AI, il 92% non aveva controlli di accesso adeguati. Circa un'organizzazione su cinque ha collegato una violazione all'uso di AI non autorizzata (shadow AI), con un costo medio superiore di 670.000 dollari.
I rischi concreti sono noti: istruzioni malevole nascoste nei documenti che l'AI legge (prompt injection), dati riservati che escono dall'azienda, agenti AI con troppi permessi, fornitori e modelli di terze parti poco trasparenti.
E l'AI è anche un'arma per chi attacca. Un attacco malevolo su quattro sfrutta l'AI, con un costo medio di 6 milioni di dollari per violazione, e la quota più ampia è fatta di impersonificazioni con deepfake. La maggior parte di questi attacchi colpisce infrastrutture critiche, con la concentrazione più alta nei servizi finanziari e nell'energia, dove una violazione costa in media rispettivamente 6,3 e 5,2 milioni di dollari. Il caso Arup lo mostra bene: nel 2024 un dipendente a Hong Kong ha trasferito circa 25 milioni di dollari dopo una videochiamata con un falso CFO ricreato con un deepfake.
Perché serve un approccio integrato
Diritti, business e sicurezza non sono tre problemi separati: nascono dagli stessi sistemi, dagli stessi dati e dalle stesse decisioni. Un modello di scoring addestrato su dati sbilanciati discrimina i clienti, espone l'azienda a sanzioni e porta a decisioni di credito peggiori. Un agente AI con troppi permessi è un rischio di sicurezza e, insieme, un rischio operativo.
Gestirli in silos, con la compliance da una parte, l'IT dall'altra e il business che corre avanti, produce lacune e doppioni. Serve invece un unico processo che segua ogni caso d'uso dall'idea al monitoraggio in produzione, con controlli proporzionati al rischio reale e non uguali per tutti.
Per banche, assicurazioni e utility il quadro è ancora più fitto. L'AI Act si somma a DORA, che regola la resilienza operativa digitale e i fornitori ICT del settore finanziario, alla NIS2, che impone misure di cybersicurezza a energia, acqua e rifiuti, e alla ISO/IEC 42001, lo standard certificabile per i sistemi di gestione dell'AI. Sono cornici che toccano gli stessi sistemi e gli stessi fornitori: gestirle in silos moltiplica controlli e lacune.
L'approccio Planetica: il framework ARIA
Governare il rischio AI richiede competenze che raramente stanno nella stessa stanza. Planetica le ha messe insieme in un approccio multidisciplinare che armonizza cinque ambiti:
- Compliance, per tradurre AI Act, GDPR e normativa di settore in obblighi chiari.
- Risk management, per misurare il rischio e renderlo confrontabile tra casi d'uso.
- Trasformazione organizzativa, per definire ruoli, responsabilità e processi decisionali.
- Formazione, perché le persone usino l'AI con consapevolezza, senza fidarsi ciecamente.
- ICT, per presidiare architetture, dati, integrazioni e sicurezza.
Da questa esperienza nasce ARIA (AI Risk Intelligence & Assessment), il framework con cui Planetica accompagna i clienti nei settori Financial Services, Insurance e Multi Utility. Il principio è semplice: non si valuta «l'AI» in astratto, ma il singolo caso d'uso.
Cinque dimensioni, due livelli di approfondimento
Ogni caso d'uso viene letto su cinque dimensioni:
- il modello: come è costruito e quanto è affidabile;
- i dati: provenienza, qualità e riservatezza;
- il sistema: architettura, integrazioni e permessi;
- il contesto: chi è coinvolto e con quali conseguenze;
- la governance: ruoli, controlli e documentazione.
La materialità si valuta in due fasi. Una prima analisi rapida stabilisce quanto il caso d'uso è rilevante e come lo classifica l'AI Act. Solo i casi materiali passano alla valutazione approfondita. Così l'impegno si concentra dove il rischio è reale, e i casi a basso impatto non vengono appesantiti da controlli inutili.
Il riferimento è una tassonomia di 75 rischi che copre insieme diritti, business e sicurezza; ogni rischio è collegato ai propri controlli. Oltre all'AI Act, ARIA integra riferimenti internazionali come le linee guida della Convenzione 108+ del Consiglio d'Europa sui modelli linguistici e l'handbook MindForge sviluppato con l'Autorità monetaria di Singapore. Una libreria di casi d'uso settoriali permette di partire da profili di rischio già mappati, invece che da un foglio bianco.
Il framework si articola in sette moduli operativi, a cui si aggiunge un modulo autonomo dedicato alla FRIA (art. 27 AI Act). La valutazione segue il caso d'uso per tutto il ciclo di vita: prima dello sviluppo, prima della messa in produzione e poi periodicamente in esercizio.
Un esempio: torniamo al chatbot
Prendiamo un assistente virtuale di customer care di una utility. Per l'AI Act è a rischio limitato: l'obbligo principale è dire all'utente che sta parlando con un'AI. ARIA invece lo esamina su tutte e cinque le dimensioni:
- Modello: il rischio che inventi informazioni su tariffe e condizioni contrattuali, lo stesso errore costato caro ad Air Canada.
- Sistema: il rischio di prompt injection, se legge documenti caricati dai clienti o accede ai dati dei contratti.
- Contesto: l'impatto sui clienti vulnerabili e sul volume dei reclami.
L'esito non è un semplice «conforme / non conforme», ma un insieme di controlli proporzionati: risposte vincolate alle fonti ufficiali, passaggio a un operatore sui temi economici, accesso ai soli dati necessari, monitoraggio periodico delle conversazioni. I controlli vengono definiti prima della messa in produzione e verificati periodicamente in esercizio.
Il risultato
Ne nasce una governance proporzionata e documentata, pronta per audit e autorità. L'AI si adotta più in fretta perché si sa dove sono i rischi e come vengono presidiati.
Da dove cominciare
Il primo passo è sapere quali sistemi AI sono già in uso, inclusi quelli integrati nei software dei fornitori e quelli adottati spontaneamente dai dipendenti. Da lì si classifica ogni caso d'uso, si individuano le priorità e si costruiscono i controlli dove servono davvero. Gli obblighi per i sistemi ad alto rischio dell'Allegato III scattano il 2 dicembre 2027, secondo il calendario aggiornato dal Digital Omnibus: il tempo per organizzarsi c'è, ma non è molto.
Se vuoi capire a che punto è la tua organizzazione, il team Planetica può partire da un assessment iniziale con ARIA e restituirti una mappa chiara di rischi, priorità e prossimi passi.