Errori comuni di registrazione e conservazione che i team SaaS commettono ancora

Gli errori più frequenti non nascono dalla scarsità di dati, ma dall'incapacità di spiegare cosa viene registrato, perché, chi lo controlla, per quanto tempo viene conservato e a quale domanda concreta risponde. Il risultato è spesso una telemetria costosa che aumenta i rischi privacy e sicurezza senza creare un audit trail di IA difendibile.

Per i sistemi di IA ad alto rischio, l'articolo 12 dell'AI Act richiede capacità tecniche di registrazione automatica degli eventi durante il ciclo di vita. Gli articoli 19 e 26 impongono a fornitori e deployer di conservare i log generati automaticamente sotto il loro controllo per un periodo adeguato e, in genere, almeno sei mesi, salvo diversa previsione normativa. Questo non rende ad alto rischio ogni funzione SaaS e non impone di salvare ogni prompt e risposta.

Errore 1: partire dalla piattaforma anziché dal perimetro

Abilitare tutti gli eventi non definisce un sistema. Un flusso SaaS basato su IA può comprendere interfaccia, retrieval, regole di business, modello esterno, approvazione umana e automazioni successive. Registrare soltanto la chiamata al modello spesso esclude i fatti che spiegano il risultato.

Documenta finalità, utenti, persone interessate, input, output, integrazioni, versioni, ambienti e decisioni influenzate. Determina poi ruolo aziendale, classificazione, ipotesi e trigger di riesame. La guida all'AI Act per i fornitori SaaS fornisce il contesto generale.

Errore 2: registrare tutto per impostazione predefinita

Prompt, documenti, output e identificatori completi possono contenere dati personali, segreti dei clienti o credenziali. La raccolta indiscriminata amplia i rischi di accesso, violazione e cancellazione, rendendo più difficile individuare gli eventi utili.

Collega ogni campo a una domanda. Per individuare la versione che ha prodotto un risultato servono identificatori stabili; per dimostrare la supervisione umana servono requisito, azione, ruolo, orario ed esito. Quando basta, usa riferimenti, hash, categorie o riepiloghi protetti invece dei contenuti completi.

Errore 3: scambiare la telemetria per un audit trail

I log applicativi mostrano disponibilità, latenza ed errori, ma non sempre collegano un risultato significativo a modello, configurazione, fonte recuperata, controllo, intervento umano e release.

Un audit trail utile correla l'intero flusso: versioni, timestamp, ID transazione, contesto operativo, riferimenti di input e output, controlli, avvisi, revisione umana, azione successiva e stato dell'incidente. Sono necessari anche schemi documentati, orologi coerenti e identificatori non ambigui. Un revisore indipendente deve poter ricostruire un evento selezionato.

Errore 4: applicare sei mesi a ogni record

Il minimo di sei mesi riguarda i log automatici dei sistemi ad alto rischio sotto il controllo dell'operatore interessato. Non è una durata universale né un permesso per conservare indefinitamente tutti i dati personali nei log.

Il piano deve indicare classe di record, inizio del periodo, data di cancellazione, finalità, eccezioni, approvazioni, repliche, esportazioni e backup. Concilia tracciabilità con minimizzazione, limitazione della conservazione, sicurezza, norme settoriali e contratti. Verifica la cancellazione reale oltre la dashboard principale.

Errore 5: ignorare i confini di controllo

Fornitore, deployer, cliente e vendor a monte possono controllare parti diverse. Associa ogni evento necessario alla parte e al sistema che lo controllano. Contratti e documentazione dovrebbero chiarire creazione, accesso, richieste di prova, conservazione e fine servizio. Verifica la configurazione effettiva, non soltanto il questionario del vendor.

Prima di adottare uno strumento usa le domande per la revisione interna dell'IA e allinea le risposte ai clienti con i controlli IA richiesti dagli acquirenti.

Errore 6: lasciare implicita la responsabilità

Product possiede i fatti su finalità e flusso; engineering strumentazione e qualità degli schemi; security accesso e integrità; privacy la minimizzazione; compliance la mappa dei requisiti e lo standard probatorio. Nomina un responsabile complessivo e definisci chi gestisce eccezioni, autorizza accessi, risponde alle richieste, estende la conservazione, dispone blocchi e corregge lacune.

Errore 7: non proteggere l'audit trail

I log possono rivelare attività degli utenti, decisioni interne, contenuti dei clienti e debolezze del sistema. Applica privilegio minimo, autenticazione forte, cifratura, log degli accessi, separazione degli ambienti e controlli sulle esportazioni. Proteggi l'integrità con schemi controllati, timestamp affidabili, trasformazioni tracciabili e procedure di conservazione. Separa l'accesso operativo dall'accesso investigativo privilegiato.

Errore 8: non testare mai la ricostruzione

Scegli un evento materiale e chiedi a un revisore indipendente di individuare versione, contesto, controlli, intervento umano, esito successivo e follow-up. Registra le lacune e assegna i rimedi. Ripeti dopo modifiche a modello, prompt, fonte, soglia, integrazione, supervisione o finalità e dopo incidenti o reclami.

Questa pratica riflette le nuove aspettative di AI governance: i revisori vogliono prove di controlli operativi, non soltanto policy.

Un flusso pratico di correzione

Parti da un solo flusso importante. Documenta perimetro, finalità, ruolo, classificazione, fonti, vendor e responsabili. Elenca le domande probabili e associale agli eventi minimi. Valuta necessità, sensibilità, accesso, integrità, conservazione e cancellazione di ogni campo. Esegui un test di ricostruzione e uno di cancellazione, conservando insieme risultati, lacune, owner e scadenze.

Secondo il calendario attuale della Commissione, le regole ad alto rischio per i sistemi dell'allegato III si applicano dal 2 dicembre 2027 e quelle per l'IA integrata nei prodotti regolamentati dell'allegato I dal 2 agosto 2028.

FAQ

Qual è l'errore principale?

Raccogliere eventi senza definire sistema e domande di verifica: crea volume senza tracciabilità affidabile.

Tutte le funzioni IA SaaS richiedono questi log?

No. Gli articoli 12, 19 e 26 qui discussi riguardano sistemi ad alto rischio e dipendono da ruolo e controllo. Altre norme, contratti o controlli possono comunque giustificare record.

Occorre conservare ogni prompt?

No. Scegli campi proporzionati; riferimenti, hash, categorie, metriche o campioni protetti possono bastare.

Cosa documentare per primo?

Perimetro, finalità, ruolo, classificazione, fonti controllate, domande, schema minimo, responsabile, accesso e conservazione.

Come verificare l'utilità?

Fai ricostruire un evento da un soggetto indipendente e testa la cancellazione dei dati scaduti in ogni copia.

Fonti

• Regolamento (UE) 2024/1689, in particolare articoli 6, 12, 19 e 26.
• Regolamento (UE) 2026/1744 sulle date di applicazione modificate.
• Commissione europea, “AI Act”, calendario attuale di attuazione.