Log dei sistemi di IA: cosa conservare, per quanto e perché contano in caso di contestazione

Un cliente contesta una decisione presa con l'aiuto di un sistema di IA: un preventivo rifiutato, un candidato scartato, una fattura bloccata. Chi può dimostrare cosa ha fatto il sistema, quando, con quali dati e chi ha controllato? Se la risposta è «il fornitore, forse», il problema non è tecnico ma di governance. I log sono la memoria del sistema, e la legge ha iniziato a chiederne conto. Vediamo chi deve conservare cosa, per quanto tempo e come farlo senza violare il GDPR.

Cosa chiede l'AI Act (e a chi)

Il Regolamento UE 2024/1689 affronta i log in tre articoli, tutti riferiti ai sistemi ad alto rischio:

• Art. 12 (conservazione delle registrazioni) — il sistema deve consentire tecnicamente la registrazione automatica degli eventi per tutta la sua vita. I log devono garantire la tracciabilità per tre scopi: individuare le situazioni che presentano un rischio o una modifica sostanziale, agevolare il monitoraggio successivo all'immissione sul mercato (art. 72) e permettere al deployer di monitorare il funzionamento (art. 26(5)). Per l'identificazione biometrica remota il contenuto minimo è fissato dalla norma: periodo di ogni uso, banca dati di riferimento, dati di input che hanno prodotto una corrispondenza e persone che hanno verificato i risultati.
• Art. 19 (fornitore) — il fornitore conserva i log generati automaticamente, nella misura in cui sono sotto il suo controllo, per un periodo adeguato alla finalità e comunque almeno sei mesi.
• Art. 26(6) (deployer) — lo stesso obbligo, con lo stesso minimo di sei mesi, vale per chi usa il sistema. Gli istituti finanziari li conservano come parte della documentazione richiesta dalla normativa di settore.

Il collegamento tra i due ruoli è l'art. 13(3)(f): le istruzioni per l'uso devono descrivere i meccanismi che permettono al deployer di raccogliere, conservare e interpretare i log. Se il contratto o il manuale non li menzionano, il deployer non è in grado di adempiere e il problema va risolto prima della firma, non dopo.

Da quando

Dopo il Regolamento UE 2026/1744 (Digital Omnibus), gli obblighi sui sistemi ad alto rischio si applicano dal 2 dicembre 2027 per i sistemi dell'Allegato III (selezione del personale, credito, istruzione e gli altri casi d'uso autonomi) e dal 2 agosto 2028 per quelli dell'Allegato I (componenti di sicurezza di prodotti regolamentati). Sembra lontano. Ma un sistema acquistato oggi sarà in uso in quelle date, e i sei mesi di log si contano a ritroso: chi non avrà predisposto la raccolta entro giugno 2027 non potrà esibire sei mesi di registrazioni a dicembre.

Perché i log contano già oggi in Italia

Il D.Lgs. 9 settembre 2026, n. 160, in vigore dal 30 settembre 2026, ha anticipato la rilevanza pratica dei log nelle cause civili, e lo ha fatto per qualunque danno derivante dall'uso di un sistema di IA:

1. Esibizione delle prove (art. 17). Su istanza del danneggiato che abbia reso plausibile la pretesa e il collegamento tra output e danno, il giudice può ordinare alla controparte o a un terzo di produrre i registri, la documentazione sul sistema di gestione dei rischi, le informazioni tecniche e i dati sulla sorveglianza umana, nel rispetto di proporzionalità e segreti commerciali. Se la parte non li produce senza giustificazione, il giudice può considerare ammessi i fatti allegati dal danneggiato.
2. Nesso causale presunto (art. 18). Se il danno deriva da una violazione degli obblighi del Regolamento UE 2024/1689, il legame tra violazione e danno si presume, salvo prova contraria. Senza registrazioni, quella prova contraria è quasi impossibile.
3. La conformità non basta (art. 19). Il rispetto del Regolamento, anche certificato, non esclude di per sé la responsabilità. Ma è la difesa principale, e si dimostra con i documenti.

A questo si aggiunge il GDPR, che dal 2018 chiede al titolare di dimostrare la conformità (art. 5(2)) e, per le decisioni automatizzate con effetti significativi, di garantire l'intervento umano (art. 22). Senza una traccia di chi ha rivisto cosa, quella garanzia resta un'affermazione.

Cosa registrare: il contenuto minimo

L'AI Act fissa il dettaglio solo per la biometria. Per gli altri sistemi la misura è la tracciabilità adeguata alla finalità. In pratica, per ogni esecuzione rilevante:

Il principio di fondo: il log deve permettere a un terzo, mesi dopo, di rispondere alla domanda «perché il sistema ha dato questo esito e chi lo ha approvato?».

Per quanto tempo: sei mesi è il minimo, non la regola

Sei mesi è la soglia dell'AI Act. La durata effettiva va fissata in una policy di conservazione che tenga insieme tre vincoli:

• Rischio e prescrizione. Un ricorso contro una selezione o un affidamento può arrivare ben oltre sei mesi; i termini di prescrizione civile sono di anni.
• GDPR. I log contengono dati personali. Il principio di limitazione della conservazione (art. 5(1)(e)) vieta di tenerli «per sempre»: serve un termine motivato, una base giuridica (per l'alto rischio, l'obbligo di legge dell'art. 26(6)), un'informativa e una voce nel registro dei trattamenti (art. 30). Pseudonimizzare l'identificativo utente dopo un periodo definito è spesso il compromesso giusto.
• Lavoratori. Se i log rivelano l'attività dei dipendenti, l'art. 4 dello Statuto dei lavoratori e le indicazioni del Garante sul controllo a distanza entrano in gioco: finalità dichiarate, accessi limitati, nessun uso disciplinare non previsto.

Checklist operativa per una PMI

1. Mappa i sistemi e segna quali sono (o diventeranno) ad alto rischio: solo per questi scattano gli artt. 12, 19 e 26. Per gli altri decidi un registro minimo.
2. Chiedi al fornitore dove sono i log, in che formato, come li esporti e per quanto li tiene. Se non lo sa dire, l'art. 13(3)(f) ti dà un argomento contrattuale.
3. Definisci il contenuto con la tabella sopra; aggiungi la traccia dell'intervento umano, che nessun sistema registra da solo.
4. Fissa la durata nella policy: minimo sei mesi, di norma di più, con pseudonimizzazione a scadenza.
5. Metti in sicurezza i log: integrità, accessi nominativi, backup. Un log modificabile da chiunque non prova nulla.
6. Prova l'esibizione. Simula una richiesta ex art. 17 D.Lgs. 160/2026: riesci a produrre in pochi giorni i registri di una decisione di tre mesi fa, con chi l'ha approvata? Se no, hai trovato il gap.

Da dove partire

I log sono l'unica prova che un sistema di IA ha funzionato come dichiarato e che qualcuno lo ha controllato. Un gap assessment indipendente verifica in poche settimane se i sistemi in uso registrano ciò che serve, se qualcuno può esibirlo e se il modo in cui lo conservate rispetta il GDPR. È il punto di partenza più economico per arrivare al 2027 con qualcosa da mostrare, non solo da dichiarare.