Wann Protokollierung und Aufbewahrung gelten und was als Nächstes zu tun ist

Die Anforderungen an KI-Protokollierung und Aufbewahrung gelten nicht für jede SaaS-Funktion gleich. Die besonderen Pflichten der Artikel 12, 19 und 26 des EU AI Acts betreffen Hochrisiko-KI-Systeme. Sie unterscheiden sich danach, ob ein Unternehmen Anbieter oder Betreiber ist und welche Logs es kontrolliert. Andere Systeme können weiterhin Nachweise für Sicherheit, Datenschutz, Verträge, Qualitätsmanagement oder Vorfälle benötigen. Diese Gründe sollten aber nicht mit den Hochrisiko-Pflichten vermischt werden.

Beginnen Sie deshalb mit dem Anwendungsbereich statt mit einem Logging-Tool: System, Verwendungszweck, betroffener Workflow, Rolle, Einstufung und konkrete Nachweisfragen. Zeichnen Sie anschließend nur die Ereignisse und Entscheidungen auf, die Rückverfolgbarkeit, Überwachung, Aufsicht und Untersuchungen unterstützen. Schützen Sie die Daten, begründen Sie Fristen und testen Sie die Rekonstruktion eines wesentlichen Ereignisses.

Was Protokollierung nach dem AI Act bedeutet

Artikel 12 verlangt, dass Hochrisiko-KI-Systeme während ihrer Lebensdauer technisch eine automatische Ereignisaufzeichnung ermöglichen. Sie muss eine dem Zweck angemessene Rückverfolgbarkeit schaffen, Risiken oder wesentliche Änderungen erkennbar machen, die Marktbeobachtung unterstützen und die operative Überwachung durch Betreiber ermöglichen.

Dies ist eine Designpflicht für Anbieter. Nach Artikel 19 bewahren Anbieter automatisch erzeugte Logs unter ihrer Kontrolle auf. Artikel 26 verpflichtet Betreiber entsprechend für Logs unter ihrer Kontrolle. Grundsätzlich gilt mindestens sechs Monate, sofern anderes Unions- oder nationales Recht nichts Abweichendes bestimmt; die Dauer muss außerdem dem Verwendungszweck angemessen sein.

Aufzeichnungen reichen über Laufzeit-Logs hinaus. Anbieter von Hochrisiko-Systemen müssen bestimmte technische, qualitätsbezogene und Konformitätsunterlagen zehn Jahre nach Inverkehrbringen oder Inbetriebnahme vorhalten. Diese Dokumente haben andere Zwecke, Eigentümer und Fristen als automatisch erzeugte Logs.

Die Vorschriften sind risikobasiert. Artikel 12 nennt Mindestangaben für bestimmte biometrische Fernidentifizierungssysteme, aber kein einheitliches Schema für jedes Hochrisiko-System. Der EU-AI-Act-Leitfaden für SaaS-Anbieter erläutert Rollen und Einstufung.

Wann die besonderen Pflichten gelten

Prüfen Sie vier Fragen. Erstens: Ist die Funktion überhaupt ein KI-System nach der Definition? Konventionelle Regeln, Abfragen und Automatisierung werden nicht allein durch Datenverarbeitung zu KI. Halten Sie Tatsachen und Begründung fest.

Zweitens: Ist das System hochriskant? Dies kann gelten, wenn KI Sicherheitskomponente eines in Anhang I erfassten Produkts ist oder wenn der Zweck in einen Bereich des Anhangs III fällt, etwa bestimmte Anwendungen in Biometrie, kritischer Infrastruktur, Bildung, Beschäftigung, grundlegenden Diensten, Strafverfolgung, Migration oder Justiz. Ausnahmen und Details sind entscheidend.

Drittens: Welche Rolle hat das Unternehmen? Ein SaaS-Unternehmen, das ein System entwickelt und unter eigenem Namen vermarktet, kann Anbieter sein. Ein Unternehmen, das ein fremdes System unter eigener Verantwortung nutzt, kann Betreiber sein. Rollen können je Workflow wechseln; Rebranding, wesentliche Änderungen oder ein neuer Zweck können die Bewertung verändern.

Viertens: Wer kontrolliert welche Logs? Anbieter können Modell-, Anwendungs- und Monitoring-Daten kontrollieren, während Kunden Nutzerentscheidungen und Folgemaßnahmen kontrollieren. Bilden Sie diese Grenzen im Nachweisplan ab.

Die Änderung von 2026 verschob die Anwendbarkeit: für Systeme nach Artikel 6 Absatz 2 und Anhang III auf den 2. Dezember 2027, für Systeme nach Artikel 6 Absatz 1 und Anhang I auf den 2. August 2028. Nutzen Sie die Vorbereitungszeit, denn fehlende historische Nachweise lassen sich später nicht erzeugen.

Wann andere Aufzeichnungen weiterhin wichtig sind

Auch außerhalb der Hochrisiko-Kategorie können Aufzeichnungen erforderlich sein: Authentifizierungs-, Konfigurations- und Vorfalldaten für Sicherheit; Einwilligungs-, Auskunfts-, Zugriffs- oder Löschungsnachweise für Datenschutz; Service- und Änderungshistorien für Verträge; Versions-, Evaluierungs-, Freigabe- und Rollback-Nachweise für Produktqualität.

Nennen Sie für jede Aufzeichnung den wirklichen rechtlichen, vertraglichen, sicherheitsbezogenen oder operativen Zweck. „Nicht hochriskant“ bedeutet nicht „nichts speichern“. Umgekehrt rechtfertigt ein pauschaler Hinweis auf den AI Act keine unbegrenzte Speicherung aller Prompts, Dokumente und Identitätsdaten. Manchmal reichen Kennung, geschützter Verweis, Hash, strukturiertes Ergebnis oder Stichprobe.

Ein praktischer Workflow

1. Systemgrenze bestimmen

Dokumentieren Sie Zweck, Nutzer, betroffene Personen, Entscheidungen, Ein- und Ausgaben, Umgebungen, Integrationen, vorgelagerte Modelle, Retrieval-Quellen, Folgemaßnahmen, menschliche Prüfung und kundenseitige Komponenten.

2. Rolle und Einstufung dokumentieren

Halten Sie Rolle, Ergebnis, Tatsachen, Prüfer, Freigabedatum und Unsicherheiten fest. Definieren Sie Auslöser einer Neubewertung, etwa neue Zwecke oder Märkte, Modellwechsel, mehr Automatisierung, Rebranding oder wesentliche Änderungen. Nutzen Sie bei Drittanbietern die Fragen vor Einführung interner KI-Tools.

3. Nachweisfragen definieren

Fragen Sie konkret: Welche Version erzeugte ein Ergebnis? Welche Quelle wurde verwendet? Welche Kontrollen liefen? Wurde ein Schwellenwert überschritten? Fand die vorgeschriebene menschliche Prüfung statt? Welche Folgemaßnahme und welcher Vorfall schlossen sich an?

4. Mindestaufzeichnungen zuordnen

Ordnen Sie jeder Frage ein Ereignis, einen Entscheidungsnachweis oder ein Dokument zu. Ein Schema kann Transaktionskennung, verlässlichen Zeitstempel, System- und Komponentenversion, Kontext, Verweise auf Ein- und Ausgabe, Kontrollergebnis, menschliche Handlung, Folgewirkung, Vorfallslink und Integritätsinformationen enthalten. Nicht jedes System braucht jedes Feld.

5. Verantwortung und Schutz festlegen

Benennen Sie einen Gesamtverantwortlichen sowie Zuständigkeiten für Instrumentierung, Zweck, Zugriff, Integrität, Datenschutz, Nachweisanfragen, Fristausnahmen, Holds, Löschung und Behebung. Legen Sie Rollen, starke Authentifizierung, Verschlüsselung, Exportbeschränkungen, Überwachung, Zeitstandards und Notfallzugriff fest.

6. Fristen und Tests definieren

Setzen Sie Fristen pro Datenklasse. Übertragen Sie die Sechsmonatsregel nicht automatisch auf technische Dokumentation, Sicherheitsdaten oder personenbezogene Daten. Lassen Sie einen unabhängigen Prüfer ein wesentliches Ereignis rekonstruieren. Testen Sie gesondert die Löschung in Produktivsystemen, Analysen, Exporten, Archiven und im anwendbaren Backup-Prozess.

Häufige Fehlentscheidungen

Gewöhnliche Telemetrie ist nicht automatisch ein Audit Trail: Verfügbarkeit und Latenz erklären selten Konfiguration, Kontrollen und menschliche Eingriffe. Ebenso kontrolliert oft keine Partei die gesamte Nachweiskette. Verträge, technische Dokumentation und reale Konfiguration müssen übereinstimmen.

Verwenden Sie außerdem nicht sechs Monate für alle Daten und planen Sie nicht nur für einen Audittermin. Aufzeichnungen müssen Marktbeobachtung, Vorfälle, Beschwerden, Korrekturen und Aufsicht unterstützen. Überprüfen Sie den Umfang bei Releases, Vendor-Wechseln, Risiken und Vorfällen. Weitere Abhilfen stehen im Beitrag über häufige Fehler bei Protokollierung und Aufbewahrung.

Was als Nächstes zu tun ist

Wählen Sie einen KI-Workflow mit relevanter Entscheidung, Kundenzusage oder Markteinführung. Erstellen Sie eine Seite zu Grenze, Zweck, Rolle, Einstufung, Log-Quellen, Nachweisfragen, Eigentümern und Neubewertung. Ordnen Sie fünf bis zehn Fragen den geringsten nötigen Aufzeichnungen zu und bestätigen Sie mit Security und Datenschutz die Angemessenheit.

Führen Sie vor dem nächsten Release einen Rekonstruktionstest durch. Er zeigt, ob Nachweise verbunden, verständlich und vertrauenswürdig sind, und erzeugt einen endlichen Maßnahmenplan. Dies entspricht den veränderten AI-Governance-Erwartungen und den von Käufern erwarteten KI-Kontrollen.

FAQ

Gilt AI-Act-Protokollierung für jede KI-Funktion?

Nein. Die hier behandelten Artikel 12, 19 und 26 betreffen Hochrisiko-KI-Systeme. Andere Gründe können dennoch Aufzeichnungen verlangen.

Müssen Anbieter und Betreiber dieselben Logs speichern?

Nicht zwingend. Beide bewahren die relevanten automatisch erzeugten Logs unter ihrer jeweiligen Kontrolle auf. Der Plan muss zeigen, wer welche Daten erzeugt und kontrolliert.

Sind sechs Monate immer richtig?

Nein. Sie sind grundsätzlich die Mindestdauer für die betreffenden Hochrisiko-Logs, sofern anderes Recht nichts Abweichendes vorsieht. Andere Datenklassen können andere Fristen haben.

Was sollte zuerst dokumentiert werden?

Systemgrenze, Zweck, Rolle, Einstufungsbegründung, kontrollierte Log-Quellen, Nachweisfragen, Verantwortlicher und Neubewertungsauslöser.

Quellen

• Verordnung (EU) 2024/1689, insbesondere Artikel 12, 18, 19 und 26.
• Verordnung (EU) 2026/1744 zu den geänderten Anwendungsdaten.
• Europäische Kommission, „AI Act“, zum aktuellen Umsetzungszeitplan.