La crescente integrazione dell’intelligenza artificiale nei processi aziendali sta creando nuove esposizioni che possono coinvolgere cyber risk, frodi, responsabilità civile e interruzione dell’attività. È quanto emerge dal rapporto “Building Resilient AI: Managing AI risk through governance, security and resilience”, pubblicato da AXA XL e S-RM, società di consulenza specializzata in intelligence e sicurezza informatica.
Il punto di partenza è la velocità con cui l’AI sta entrando nelle attività operative. Secondo la ricerca “2026 State of AI” di McKinsey & Company citata nel rapporto, l’88% delle organizzazioni utilizza ormai l’intelligenza artificiale in almeno una funzione aziendale.
Governance, sicurezza e capacità di risposta agli incidenti non stanno però procedendo allo stesso ritmo. AXA XL e S-RM individuano così cinque aree sulle quali intervenire: attribuzione delle responsabilità sull’utilizzo dell’AI, protezione dei dati e controllo degli accessi, gestione del rischio lungo l’intero ciclo di vita dei sistemi, verifica dei fornitori e preparazione a possibili sinistri.
Tra le minacce esaminate figurano la fuga di dati, la manipolazione dei modelli, la prompt injection, risultati inaffidabili, l’utilizzo non autorizzato di strumenti di AI e un’eccessiva autonomia degli agenti artificiali.
“L’intelligenza artificiale sta passando dalla fase sperimentale a quella di integrazione nei sistemi e nei processi su cui le organizzazioni fanno affidamento quotidianamente, ma la governance non sempre riesce a tenere il passo”, afferma Jonathan Salter, Head of Risk Consulting di AXA XL. Un problema che riguarda anche i rapporti con soggetti esterni. Il rapporto richiama infatti la necessità di sottoporre i fornitori di soluzioni AI e le altre terze parti critiche a procedure di governance e due diligence.
“I rischi legati all’AI raramente si manifestano in modo isolato”, osserva Rebiah Bardot-Girard, Head of Cyber Risk Consulting Services di AXA XL, secondo cui questi rischi possono amplificare debolezze già presenti nella gestione delle identità, dei dati, dei fornitori e degli incidenti. Le imprese stanno comunque aumentando i controlli.
In base ai dati del World Economic Forum riportati nello studio, il 64% delle organizzazioni valuta la sicurezza degli strumenti di intelligenza artificiale prima della loro introduzione, contro il 37% dell’anno precedente. Per AXA XL e S-RM, la verifica iniziale deve però essere accompagnata da un monitoraggio continuo, soprattutto quando i sistemi possono accedere a dati sensibili, applicazioni aziendali e processi decisionali.