AI in azienda, il nuovo rischio privacy non è più solo nei prompt: è nei dati che i tool possono vedere

L'intelligenza artificiale non entra in azienda solo attraverso grandi progetti di trasformazione digitale strutturati e governati dai reparti IT. Sempre più spesso arriva prima, in modo più semplice e meno visibile: un contratto caricato in un tool generativo per essere riassunto, un brief cliente inserito in un prompt, una schermata di CRM condivisa con un assistente digitale, un documento interno elaborato da uno strumento esterno. Sono gesti quotidiani, apparentemente innocui, che molti dipendenti compiono per guadagnare tempo e aumentare la produttività. Ma che, visti dalla prospettiva della protezione dei dati, aprono scenari complessi e ancora poco esplorati.

Il fenomeno è in forte crescita. Secondo i dati ISTAT, il 16,4% delle imprese italiane con almeno 10 addetti utilizza tecnologie di intelligenza artificiale, il doppio rispetto all'8,2% del 2024. Tra le aziende che adottano IA, il 70,8% utilizza strumenti per estrarre conoscenza e informazioni da documenti di testo e il 59,1% ricorre a tecnologie di IA generativa. Ma la cifra che più di tutte racconta la natura di questa trasformazione è un'altra: cresce la quota di imprese che usa l'AI senza ricondurla a una finalità aziendale definita, cioè in modo informale, spesso su iniziativa dei singoli team o addirittura dei singoli dipendenti. È qui che il rischio si annida.

"Il problema non è usare l'intelligenza artificiale in azienda, ma introdurla nei processi senza aver prima chiarito cosa può trattare, con quali limiti e sotto la responsabilità di chi", spiega Alessandro Vercellotti, avvocato e fondatore di Legal for Digital, studio legale italiano specializzato nel diritto del digitale. "Molte aziende pensano all'AI come a un acceleratore di produttività, ma quando in un tool finiscono contratti, dati clienti, informazioni HR o schermate di CRM, il tema diventa anche privacy. Se l'impresa non sa quali strumenti vengono usati dai team, non può sapere davvero quali dati sta trattando".

Nella prima fase di adozione dell'AI generativa, il rischio più evidente era legato ai dati inseriti direttamente nei prompt: testi, documenti, contratti, materiali HR o informazioni commerciali copiati all'interno di strumenti generativi per velocizzare attività quotidiane. Oggi, però, il perimetro si allarga in modo significativo. Alcuni strumenti non ricevono soltanto testo, ma possono leggere schermate, processare screenshot, aprire documenti o interagire con software aziendali. In questo passaggio il rischio non riguarda più solo ciò che l'utente decide di inserire, ma anche ciò che lo strumento può vedere mentre lavora. In un CRM, ad esempio, possono comparire nomi, recapiti, storico delle interazioni, trattative commerciali e note interne. In una casella email possono essere presenti informazioni personali, contrattuali o commerciali. In un documento HR possono comparire dati di candidati o dipendenti. Se uno strumento AI accede a questi ambienti, il trattamento può riguardare anche dati non necessari rispetto al compito richiesto.

Il punto, sottolineano gli esperti, non è il singolo prodotto, ma l'intera categoria di strumenti che può interagire con ambienti digitali e processare ciò che compare a schermo. E il quadro si complica ulteriormente con la diffusione degli AI agent, software in grado di navigare autonomamente tra applicazioni, compiere azioni e reperire informazioni senza un input diretto e puntuale dell'utente. In questo scenario, la capacità di controllo dell'azienda si riduce drasticamente.

Nei casi in cui l'AI entri nei flussi operativi, non esiste un unico adempimento capace di risolvere il problema. Il primo punto è la base giuridica del trattamento, perché ogni uso di dati personali tramite AI deve poggiare su una condizione valida. Subito dopo viene il rapporto con il fornitore: se lo strumento tratta dati personali per conto dell'azienda, serve verificare che il contratto e l'eventuale Data Processing Agreement (DPA) descrivano davvero l'uso effettivo. Infine c'è la policy interna, senza la quale i dipendenti restano senza indicazioni operative su quali strumenti possono usare, quali dati non devono inserire e quali processi richiedono supervisione.

Anche il tipo di account utilizzato può incidere sul trattamento. Lo stesso strumento AI può avere condizioni diverse a seconda che venga usato in versione consumer o business: la differenza non riguarda solo funzioni e prezzo, ma anche contratto, disponibilità di un accordo sul trattamento e garanzie sull'utilizzo dei contenuti inseriti dall'utente. Eppure, secondo Vercellotti, l'errore più frequente è proprio questo: trattare l'adozione di uno strumento AI come una semplice scelta di produttività, senza valutare le implicazioni giuridiche. Account personali, estensioni browser, abbonamenti individuali, strumenti adottati da singoli reparti senza una valutazione centralizzata: l'intelligenza artificiale entra nei processi attraverso usi non sempre mappati, e l'impresa si trova a trattare dati personali attraverso canali non verificati, con flussi non descritti nella documentazione e con dipendenti che non hanno ricevuto istruzioni chiare.

Il punto non è vietare l'uso dell'intelligenza artificiale, ma governarlo prima che diventi strutturale. La prima azione è mappare cosa lo strumento può vedere e toccare: schermate, cartelle, caselle email, CRM, gestionali o documenti interni. La seconda è allineare i documenti al trattamento reale, verificando informative, accordi con i fornitori, base giuridica e istruzioni. La terza è scrivere una policy interna e formare chi usa questi strumenti, così da evitare che l'adozione dell'AI cresca più velocemente della capacità dell'azienda di governarla. "Le aziende non devono chiedersi solo se possono usare l'AI", conclude Vercellotti. "Devono chiedersi se sanno davvero chi la sta usando, con quali dati, con quali strumenti e con quali regole. Se non lo sanno, il rischio non è futuro: è già dentro i processi quotidiani".