KI-Anbieter-Due-Diligence: Praxisleitfaden für SaaS-Teams

Die Due Diligence für KI-Anbieter funktioniert, wenn sie einen geplanten Einsatz in eine begründbare Betriebsentscheidung übersetzt. Das Team muss Funktion, betroffene Daten und Personen, Modell- und Infrastrukturlieferanten, Tests, Rechtsrollen, Vertragszusagen und Änderungsüberwachung verstehen. Ergebnis ist keine ausgefüllte Checkliste, sondern Freigabe, bedingte Freigabe, begrenzter Pilot, Eskalation oder Ablehnung mit Begründung und Verantwortlichen.

Der EU AI Act enthält keine universelle Checkliste namens „AI Vendor Due Diligence“. Die Tiefe hängt von System, Zweck, Einstufung, Rolle in der Wertschöpfungskette, Datenverarbeitung und Branchenrecht ab. Ein Assistent für Besprechungsnotizen und ein System zur Bewerberbewertung brauchen unterschiedliche Prüfungen. Beginnen Sie mit dem Einsatzfall und verlangen Sie Nachweise passend zu möglichen Folgen.

Warum die normale Anbieterprüfung nicht genügt

Zugriff, Verschlüsselung, Verfügbarkeit, Unterauftragnehmer, Vorfälle und Löschung bleiben wichtig. KI-Dienste fügen jedoch Abhängigkeiten hinzu: Anbieter können Modelle wechseln, Retrieval-Quellen ergänzen, Filter ändern oder Prompts und Outputs zur Verbesserung verwenden. Qualität kann nach Sprache, Gruppe oder Eingabe variieren. „Entscheidungsunterstützung“ kann unter Zeitdruck praktisch entscheidend werden.

Prüfen Sie deshalb Anbieter und System: Unternehmen, Hosting, Modellanbieter, Sicherheit, Vertrag und Kontinuität einerseits; Zweck, Nutzer, Betroffene, Daten, Verhalten, menschliche Aufsicht, Integrationen und Folgehandlungen andererseits. Sonst entsteht genau das Problem, das manuelle Vendor-Risk-Reviews beim Wachstum unbeherrschbar macht.

Wann eine vertiefte Prüfung nötig ist

Eine vertiefte Prüfung ist meist angemessen, wenn sensible oder kundengesteuerte Daten eingehen, Outputs folgenreiche Entscheidungen beeinflussen, der Dienst autonom handelt oder Produktion verändert, proprietäres Wissen angebunden wird, Fehler schwer erkennbar oder reversibel sind, die Lieferkette unklar bleibt oder ein Ausfall wesentliche Schäden auslöst.

Leiten Sie die AI-Act-Einstufung nicht aus Marketingbegriffen ab. Zweck und Rolle zählen. Nach Artikel 25 können Rebranding, wesentliche Änderung oder ein neuer hochriskanter Zweck Anbieterpflichten verschieben. Anbieter hochriskanter Systeme und Komponentenlieferanten müssen die nötigen Informationen vertraglich abgesichert austauschen. Zum 30. August 2026 gilt ein großer Teil des AI Acts; die geänderten Termine für Hochrisikoregeln sind 2. Dezember 2027 für Anhang III und 2. August 2028 für regulierte Produkte. Diese Zeit dient der Vorbereitung.

Welche Nachweise anzufordern sind

1. System und Lieferkette: Systemgrenze, Modelle, Hostingregionen, Integrationen, Quellen, Unterauftragnehmer, erlaubte und verbotene Zwecke, Grenzen, Versionen und Änderungswege.
2. Daten und Datenschutz: Zwecke, Orte, Zugriffe, Fristen, Löschung, Training und Weitergabe für Prompts, Uploads, Outputs, Feedback, Metadaten und Logs. Bei einem DSGVO-Auftragsverarbeiter verlangt Artikel 28 ausreichende Garantien und einen passenden Vertrag. Der EDSA beschreibt eine fallbezogene, fortlaufende Prüfung unter anderem von Fachwissen, Zuverlässigkeit, Ressourcen, Richtlinien, Auditberichten und Zertifizierungen.
3. Sicherheit und Resilienz: relevante Prüfberichte, Geltungsbereich, Schwachstellen- und Vorfallprozesse, Verschlüsselung, Identitäten, Mandantentrennung, Wiederherstellung und Abhängigkeiten. Bei generativer KI gehören Prompt Injection, Datenabfluss, unsichere Tool-Nutzung und manipulierte Quellen dazu.
4. Leistung und Auswirkungen: getestete Gruppen, Sprachen, Baselines, Schwellen, Betriebsbedingungen, bekannte Grenzen und Fehlermuster. Testen Sie zusätzlich den eigenen konfigurierten Workflow einschließlich schwieriger Eingaben, Eskalation, Override und Recovery.
5. Governance: Verantwortliche für Sicherheit, Datenschutz, AI Governance, Vorfälle und Mitteilungen; interne Business- und Risikoverantwortliche; Verfahren für Beschwerden, schädliche Outputs und Beweise nach Vertragsende.

Das freiwillige NIST AI RMF fordert Richtlinien, dokumentierte Kontrollen, Notfallprozesse und laufendes Monitoring für Drittanbieter-KI. Das GenAI-Profil nennt Beschaffungsprüfung, Service Levels, Prüfberichte und Lieferkettentransparenz als mögliche Kontrollen. Dies sind Gestaltungshilfen, kein Nachweis rechtlicher Konformität.

Vertrag und Freigabeworkflow

Der Vertrag folgt aus den Nachweisen. Regeln Sie Zweck, Nutzer und Daten; Training; Modelle, Unterauftragnehmer und Standorte; Sicherheits- und Vorfallpflichten; Dokumentation; Leistungsgrenzen und menschliche Aufsicht; Änderungsmitteilungen; Portabilität, Löschung und Ausstieg; sowie angemessene Haftung. Ein Vertrag repariert kein ungeeignetes System, kann aber Verantwortung, Informationsrechte und Abhilfe sichern.

Der wiederholbare Ablauf lautet:

1. Zweck, Nutzer, Betroffene, Ein- und Ausgaben, Integrationen, Automatisierung, menschliche Prüfung und Folgehandlung beschreiben.
2. Risikostufe, AI-Act- und DSGVO-Rollen, Transfers, Branchenrecht und Unsicherheiten dokumentieren.
3. Passende Nachweise anfordern und vorhandene aktuelle Dokumente wiederverwenden.
4. Das konfigurierte Produkt mit zulässigen repräsentativen Daten testen; Versionen und Ergebnisse sichern.
5. Lücken durch Behebung, Ersatzkontrolle, engeren Umfang, befristeten Pilot, Risikoakzeptanz oder Ablehnung behandeln.
6. Eine neue Prüfung bei Zweck-, Modell-, Anbieter-, Daten-, Integrations-, Autonomie-, Vorfall- oder Rechtsänderungen auslösen.

Das Entscheidungsprotokoll enthält Produkt und Version, genehmigten und verbotenen Einsatz, Systemgrenze, Lieferanten, Risikostufe, Rollen, Einstufungsbegründung, Nachweise, Tests, Lücken, Vertragskontrollen, Entscheidung, Bedingungen, Fristen und Monitoring. Speichern Sie Links und die geprüfte Dokumentversion statt unkontrollierter Kopien.

Häufige Fehler und FAQ

Beginnen Sie nicht mit dem längsten Fragebogen, akzeptieren Sie Zertifikate nicht als Schlussfolgerung, prüfen Sie den konfigurierten Enterprise-Dienst statt nur die Marke, begrenzen Sie echte Piloten, und behandeln Sie eine Freigabe nie als dauerhaft. Die veränderten AI-Governance-Erwartungen verlangen aktuelle Nachweise.

Was ist der praktische Zweck?

Eine begründbare Entscheidung darüber, ob und wie ein konkreter KI-Dienst genutzt werden darf, mit früh erkannten Lücken, zugeordneten Kontrollen und Beweisen für spätere Prüfungen.

Was dokumentiert ein Team zuerst?

Den genauen Zweck mit Nutzern, Betroffenen, Daten, Ein- und Ausgaben, Integrationen, menschlicher Prüfung und Folgehandlung. Ohne diese Grenze lassen sich Anbieterantworten und Rechtsrollen nicht zuverlässig bewerten.

Was ist der größte Fehler?

Due Diligence als einmaligen Dokumentenaustausch zu behandeln. Gute Prüfung verbindet Umfang, Nachweise, Tests, Vertrag, Freigabebedingungen, Monitoring und klare Auslöser für die Neubewertung.