Oggi, in moltissime Aziende, i settori Marketing, commerciale, amministrazione, IT, risorse umane, customer service e funzioni legali hanno già adottato strumenti di AI generativa per scrivere, sintetizzare, analizzare documenti, generare codice e accelerare attività ripetitive.
Ma quando l’AI viene adottata senza una governance, attraverso account personali, strumenti non autorizzati e procedure definite autonomamente dai singoli dipendenti, potrebbe rappresentare un problema serio.
È il fenomeno della Shadow AI: l’uso di sistemi di intelligenza artificiale all’interno dell’Azienda senza che il loro impiego sia stato formalmente approvato, censito o governato dall’azienda, una dinamica apparentemente innocua può trasformarsi in un problema di sicurezza informatica, compliance e protezione della proprietà intellettuale.
Che cos’è la Shadow AI?
Il termine Shadow AI riprende il concetto, già noto in cybersecurity, di Shadow IT: tecnologie e servizi utilizzati dai dipendenti senza il coinvolgimento o la supervisione dell’IT aziendale.
Nel caso dell’intelligenza artificiale, il fenomeno assume caratteristiche particolarmente delicate perché l’interazione con questi strumenti avviene prevalentemente attraverso prompt, file caricati e contenuti generati.
Un dipendente potrebbe, ad esempio, utilizzare un chatbot pubblico per:
- correggere un contratto;
- sintetizzare un report finanziario;
- analizzare un database esportato da un gestionale;
- tradurre una documentazione tecnica;
- migliorare una proposta commerciale;
- analizzare il codice sorgente di un’applicazione;
- preparare una risposta a un cliente;
- elaborare informazioni relative a un progetto ancora riservato.
Dal punto di vista dell’utente, si tratta semplicemente di “chiedere una mano all’AI”, per l’Azienda, invece, potrebbe significare trasferire informazioni aziendali verso un servizio esterno senza una preventiva valutazione del rischio.
Il vero rischio: il Data Leakage attraverso il prompt
Uno dei principali rischi della Shadow AI è il data leakage, ovvero la divulgazione non autorizzata di informazioni riservate.
Il rischio non riguarda esclusivamente password o dati personali, per un’azienda, le informazioni più sensibili possono essere proprio quelle che costituiscono il patrimonio informativo e competitivo dell’Azienda:
- documentazione tecnica;
- codice sorgente;
- architetture software;
- algoritmi e metodologie proprietarie;
- listini e condizioni commerciali;
- business plan;
- informazioni finanziarie;
- contratti;
- offerte e gare;
- dati relativi a clienti e fornitori;
- roadmap di prodotto;
- strategie di marketing;
- informazioni relative a ricerca e sviluppo;
- documentazione interna;
- credenziali e segreti applicativi.
Un prompt apparentemente banale può quindi contenere informazioni che l’Azienda non consentirebbe mai di inviare a un servizio esterno attraverso un canale non autorizzato.
Il prompt non è soltanto una domanda. Può diventare un canale di trasferimento dei dati aziendali.
Un esempio concreto:
Immaginiamo un’azienda che stia sviluppando un nuovo prodotto.
Un project manager vuole utilizzare un modello generativo per migliorare una presentazione e inserisce nel prompt:
“Analizza questo documento e rendi più efficace la nostra proposta commerciale.”
Nel documento sono presenti:
- caratteristiche tecniche ancora riservate;
- prezzi negoziati con i fornitori;
- nomi di clienti strategici;
- tempistiche di sviluppo;
- informazioni sul posizionamento del prodotto.
L’utente potrebbe non percepire alcun rischio perché non sta “pubblicando” il documento ma sta “semplicemente” utilizzando uno strumento di produttività.
Dal punto di vista della governance, però, la domanda corretta è un’altra:
l’azienda ha autorizzato quel servizio a ricevere quelle informazioni?
Se la risposta è negativa, il problema non è l’intelligenza artificiale in sé. È l’assenza di un processo che stabilisca quali dati possono essere utilizzati, con quali strumenti e in quali condizioni.
Proprietà intellettuale: il rischio meno visibile
Quando si parla di AI e sicurezza, l’attenzione tende a concentrarsi sui dati personali.
Per molte aziende, tuttavia, il rischio strategico più importante riguarda la proprietà intellettuale.
Codice sorgente, specifiche tecniche, formule, documentazione, procedure interne e know-how possono rappresentare anni di investimenti e costituire un vantaggio competitivo.
Inserire queste informazioni in uno strumento di AI senza adeguate garanzie può creare una serie di interrogativi:
- chi può accedere ai dati?
- dove vengono trattati?
- quali sono le condizioni contrattuali del servizio?
- quali impostazioni di conservazione sono applicate?
- quali controlli sono disponibili per l’Azienda?
- esistono meccanismi di audit?
- il trattamento è coerente con le policy aziendali?
- quali informazioni vengono effettivamente trasmesse al servizio?
Per scegliere uno strumento AI, quindi, bisogna valutare l’attività che si deve svolgere e considerare la categoria di dati.
Shadow AI e codice sorgente
Il fenomeno assume una particolare rilevanza nei dipartimenti IT e software engineering.
Un programmatore può utilizzare un sistema generativo per svariate azioni, come ad esempio correggere un errore o fare il refactoring di un codice. Sono attività potenzialmente ed estremamente produttive.
Ma cosa succede se il codice contiene dati sensibili come credenziali, API key, token, configurazioni infrastrutturali, informazioni proprietarie o componenti non ancora pubblicati?
L’AI può diventare uno strumento di produttività oppure un nuovo punto di esposizione della supply chain informativa, a seconda di come viene governata.
Per questo motivo, le policy aziendali sull’AI dovrebbero essere integrate con le procedure già esistenti di Secure Software Development, Data Loss Prevention e Information Security.
Non è utile vietare l’AI
Di fronte al fenomeno della Shadow AI, una misura di sicurezza frequente presa dalle Aziende consiste nel vietare semplicemente l’utilizzo degli strumenti generativi.
È una strategia che può risultare difficile da applicare efficacemente, perché l’AI è ormai integrata in numerosi strumenti di produttività e collaborazione e, soprattutto, offre vantaggi concreti in termini di efficienza.
Il rischio è che un divieto assoluto sposti semplicemente l’utilizzo fuori dal perimetro visibile dell’Azienda.
Un approccio più strutturato consiste, invece, nel creare una AI Governance Framework aziendale, l’obiettivo non dovrebbe essere impedire l’utilizzo dell’AI, ma rendere l’utilizzo sicuro, tracciabile e coerente con gli obiettivi dell’Azienda.
La governance parte dalla classificazione dei dati
Una delle prime misure consiste nel collegare l’utilizzo dell’AI alla classificazione delle informazioni.
Un modello semplice potrebbe prevedere quattro categorie:
|
Categoria |
Esempi |
Utilizzo con AI |
|
Pubblico |
informazioni già pubblicate |
Generalmente consentito |
|
Interno |
procedure e documentazione interna |
Consentito secondo policy |
|
Riservato |
dati commerciali, tecnici e strategici |
Solo strumenti approvati |
|
Critico |
segreti industriali, credenziali, dati altamente sensibili |
Divieto o controlli specifici |
La classificazione deve naturalmente essere adattata alla realtà dell’Azienda e al relativo quadro normativo e contrattuale, il principio, però, è semplice: non tutti i dati devono essere trattati allo stesso modo.
Dalla policy alla tecnologia
Una policy efficace non dovrebbe limitarsi a stabilire ciò che i dipendenti non possono fare, ma deve fornire indicazioni operative chiare per consentire un utilizzo dell’intelligenza artificiale sicuro e consapevole.
È fondamentale, innanzitutto, definire quali strumenti AI sono autorizzati dall’organizzazione, quali categorie di dati possono essere condivise e quali informazioni, invece, non devono essere inserite nei sistemi generativi. Allo stesso modo, occorre stabilire quali account utilizzare, quali controlli di sicurezza applicare e come gestire gli output prodotti dall’AI, soprattutto quando contengono informazioni aziendali riservate o vengono integrati in documenti, applicazioni e processi interni.
La governance deve inoltre individuare con precisione le responsabilità legate all’approvazione degli strumenti, alla gestione di eventuali incidenti o violazioni e allo svolgimento di audit e revisioni periodiche. In questo modo, l’adozione dell’AI non viene lasciata all’iniziativa dei singoli, ma si inserisce in un quadro organizzativo definito, verificabile e aggiornabile nel tempo.
Sul piano tecnologico, le Aziende possono supportare questo modello attraverso l’adozione di soluzioni e controlli specifici, come sistemi di Identity and Access Management (IAM) e Single Sign-On (SSO), strumenti per la gestione centralizzata degli account e tecnologie di Data Loss Prevention (DLP). A questi si possono affiancare soluzioni CASB per il controllo dei servizi cloud e SaaS, sistemi di logging e monitoring, meccanismi di classificazione automatica dei dati e piattaforme di AI Gateway, utili a governare l’accesso ai modelli e a definire regole di utilizzo coerenti con le policy aziendali.
Ulteriori misure, come l’impiego di ambienti enterprise dotati di controlli amministrativi, la segregazione dei dati e l’utilizzo di sistemi di secret management, contribuiscono a ridurre le possibilità di esposizione involontaria di informazioni sensibili e proprietà intellettuale.
La tecnologia, tuttavia, da sola non è sufficiente. Per essere realmente efficaci, questi strumenti devono essere integrati in processi aziendali strutturati, accompagnati da responsabilità chiaramente assegnate, procedure operative condivise e attività di formazione continua. Solo attraverso questa integrazione è possibile trasformare la policy da semplice documento formale a un concreto strumento di prevenzione e gestione del rischio.
Le normative di riferimento: NIS 2 e AI ACT
Un riferimento particolarmente importante in merito al rischio cyber è la Direttiva NIS 2 (UE 2022/2555), recepita in Italia con il Decreto Legislativo 4 settembre 2024, n. 138, che introduce un quadro di obblighi in materia di gestione del rischio per la sicurezza informatica e di notifica degli incidenti per i soggetti rientranti nel relativo perimetro.
La NIS 2 richiede, per i soggetti interessati, l’adozione di misure tecniche, operative e organizzative proporzionate ai rischi, includendo aspetti quali la gestione degli incidenti, la continuità operativa, la sicurezza della catena di approvvigionamento, la sicurezza nello sviluppo e nella manutenzione dei sistemi, oltre alla formazione e alla consapevolezza del personale.
In questo contesto, lo Shadow AI può rappresentare un rischio da considerare all’interno del più ampio processo di gestione della sicurezza: quando un dipendente utilizza autonomamente un servizio di AI generativa e vi inserisce informazioni aziendali, documentazione tecnica, codice sorgente, dati relativi ai clienti o informazioni commercialmente riservate, l’azienda può perdere visibilità su dove tali dati vengano trattati, quali condizioni contrattuali si applichino al servizio e quali soggetti terzi possano avere accesso alle informazioni.
È importante precisare che la NIS 2 non è una normativa specificamente dedicata allo Shadow AI, né ogni azienda che utilizza strumenti di AI rientra automaticamente nel suo campo di applicazione. Per le organizzazioni soggette alla normativa, l’utilizzo incontrollato di strumenti e servizi digitali può diventare una componente del più generale risk management cyber e dovrebbe quindi essere valutato nell’ambito delle politiche e delle procedure di sicurezza aziendali. Il decreto italiano individua, infatti, specifici obblighi di gestione del rischio e di notifica degli incidenti per i soggetti a cui si applica.
L’AI Act
Accanto alla NIS 2, va considerato il Regolamento europeo sull’intelligenza artificiale (AI Act). Il suo ambito è diverso: non disciplina genericamente l’uso aziendale dell’AI come farebbe una normativa di cybersecurity, ma introduce un quadro basato sul rischio per lo sviluppo e l’utilizzo dei sistemi di IA. Il regolamento prevede, tra l’altro, specifici requisiti di gestione del rischio e di cybersecurity per i sistemi classificati come ad alto rischio.
Per lo Shadow AI, quindi, il tema centrale è conoscere quale strumento di AI sta utilizzando il dipendente ma anche quali dati sta trasferendo a quel servizio, con quale autorizzazione e secondo quali regole aziendali. Una strategia efficace dovrebbe prevedere almeno un inventario degli strumenti AI utilizzati, regole chiare sui dati che possono essere inseriti nei servizi generativi, valutazione dei fornitori, procedure di autorizzazione e formazione del personale.
Il fattore umano rimane centrale
La Shadow AI non nasce necessariamente da comportamenti negligenti, molto spesso nasce da una necessità operativa reale.
Un dipendente scopre che un’attività richiede trenta minuti invece di tre grazie a un sistema generativo e inizia a utilizzarlo regolarmente.
Se l’azienda non fornisce uno strumento approvato, una policy chiara e indicazioni pratiche, l’utente tenderà naturalmente a utilizzare ciò che ha a disposizione.
Per questo la sensibilizzazione non dovrebbe essere impostata come una campagna contro l’AI ma dovrebbe insegnare alle persone a riconoscere il rischio.
Una policy efficace non dovrebbe limitarsi a stabilire ciò che i dipendenti non possono fare, ma deve fornire indicazioni operative chiare per consentire un utilizzo dell’intelligenza artificiale sicuro e consapevole. È fondamentale, innanzitutto, definire quali strumenti AI sono autorizzati dall’organizzazione, quali categorie di dati possono essere condivise e quali informazioni, invece, non devono essere inserite nei sistemi generativi. Allo stesso modo, occorre stabilire quali account utilizzare, quali controlli di sicurezza applicare e come gestire gli output prodotti dall’AI, soprattutto quando contengono informazioni aziendali riservate o vengono integrati in documenti, applicazioni e processi interni.
La governance deve inoltre individuare con precisione le responsabilità legate all’approvazione degli strumenti, alla gestione di eventuali incidenti o violazioni e allo svolgimento di audit e revisioni periodiche. In questo modo, l’adozione dell’AI non viene lasciata all’iniziativa dei singoli, ma si inserisce in un quadro organizzativo definito, verificabile e aggiornabile nel tempo.
Sul piano tecnologico, le Aziende possono supportare questo modello attraverso l’adozione di soluzioni e controlli specifici, come sistemi di Identity and Access Management (IAM) e Single Sign-On (SSO), strumenti per la gestione centralizzata degli account e tecnologie di Data Loss Prevention (DLP). A questi si possono affiancare soluzioni CASB per il controllo dei servizi cloud e SaaS, sistemi di logging e monitoring, meccanismi di classificazione automatica dei dati e piattaforme di AI Gateway, utili a governare l’accesso ai modelli e a definire regole di utilizzo coerenti con le policy aziendali.
Ulteriori misure, come l’impiego di ambienti enterprise dotati di controlli amministrativi, la segregazione dei dati e l’utilizzo di sistemi di secret management, contribuiscono a ridurre le possibilità di esposizione involontaria di informazioni sensibili e proprietà intellettuale.
La tecnologia, tuttavia, da sola non è sufficiente. Per essere realmente efficaci, questi strumenti devono essere integrati in processi aziendali strutturati, accompagnati da responsabilità chiaramente assegnate, procedure operative condivise e attività di formazione continua. Solo attraverso questa integrazione è possibile trasformare la policy da semplice documento formale a un concreto strumento di prevenzione e gestione del rischio.
Dal “non usare l’AI” al “usare l’AI responsabilmente”
La questione non è scegliere tra innovazione e sicurezza, perché una governance efficace dovrebbe consentire di perseguire entrambe.
L’intelligenza artificiale può diventare un importante moltiplicatore di produttività, ma il suo valore aziendale dipende anche dalla capacità dell’Azienda di controllarne l’utilizzo.
La vera sfida della Shadow AI non è impedire ai dipendenti di utilizzare l’intelligenza artificiale, ma fare in modo che possano utilizzarla senza trasformare il patrimonio informativo dell’azienda in un dato esposto inutilmente.
Per questo la domanda che ogni Azienda dovrebbe porsi non è semplicemente:
“I nostri dipendenti usano l’AI?”
Ma:
“Sappiamo quali strumenti utilizzano, quali dati inseriscono, per quali finalità e con quali controlli?”
Se la risposta è no, probabilmente il primo passo verso una strategia di AI Governance non è acquistare un nuovo modello.
È iniziare a conoscere ciò che sta già accadendo all’interno dell’Azienda.
Prisma: trasformare l’adozione dell’AI in un processo governato
L’introduzione dell’intelligenza artificiale richiede un equilibrio tra innovazione, sicurezza e controllo, Prisma è il partner ideale nella digitalizzazione, per costruire una strategia di AI Governance definendo regole, responsabilità, strumenti e processi capaci di accompagnare l’adozione dell’AI riducendo i rischi legati a dati, proprietà intellettuale, cybersecurity e compliance.
L’approccio strutturato del team Prisma permette di trasformare la Shadow AI da fenomeno invisibile a processo governabile, creando le condizioni per utilizzare l’intelligenza artificiale in modo consapevole, sicuro e coerente con gli obiettivi aziendali.