Checkliste zur Prüfung von KI-Anbietern für Gründer und Compliance-Verantwortliche

Eine Checkliste zur Prüfung von KI-Anbietern sollte klären, ob ein bestimmter Dienst in einer bestimmten Konfiguration für Ihren vorgesehenen Zweck geeignet ist. Dokumentieren Sie vor der Freigabe Nutzung, Datenflüsse, Lieferkette, rechtliche Rollen, Sicherheitsmaßnahmen, Leistungstests, Vertragsbedingungen, menschliche Aufsicht und Ausstiegsplan. Weisen Sie jedem offenen Punkt eine verantwortliche Person und eine Entscheidung zu: vor dem Start beheben, den Pilotbetrieb begrenzen, eskalieren oder ablehnen.

Diese Checkliste ist eine praktische Prüfungsvorlage für SaaS-Gründer und Compliance-Verantwortliche, kein gesetzlich vorgeschriebener Fragebogen und keine Zertifizierung. Richten Sie die Nachweise am möglichen Schaden aus. Ein Schreibwerkzeug mit öffentlichen Inhalten erfordert weniger Prüfung als ein System zur Bewertung von Bewerbern oder ein Agent, der Kundenkonten verändern kann. Der Ruf eines Anbieters belegt nicht die Sicherheit Ihres Einsatzes.

Wann die Prüfung stattfinden sollte

Beginnen Sie vor dem Hochladen echter Kundeninformationen, der Anbindung produktiver Systeme oder verbindlichen Kundenzusagen. Wiederholen Sie die Prüfung, wenn ein bestehender Anbieter KI ergänzt, sich der Zweck ändert, neue Daten verarbeitet werden, ein anderes Modell oder ein weiterer Unterauftragsverarbeiter hinzukommt oder menschliche Prüfung reduziert wird. Eine Vertragsverlängerung ist ein sinnvoller Kontrollpunkt, sollte aber nicht der einzige Auslöser sein.

Nutzen Sie die Checkliste für eingekaufte KI-Dienste, eingebettete APIs und KI-Funktionen in gewöhnlichen SaaS-Produkten. Nutzt eine Funktion keine KI, kann Ihre normale Anbieterprüfung genügen. Ohne personenbezogene Daten können manche Datenschutzfragen entfallen; Sicherheit, Vertraulichkeit, Zuverlässigkeit und Vertragsfragen bleiben möglicherweise relevant. Begründen Sie jede Antwort „nicht anwendbar“.

Erfassen Sie für jeden folgenden Punkt Antwort, Nachweislink, prüfende Person, Prüfdatum und verbleibende Lücken. Bevorzugen Sie datierte Vertragsklauseln, Konfigurationsexporte oder Testergebnisse gegenüber uneingeschränkten Vertriebszusicherungen.

1. Freigegebene Nutzung und Verantwortliche festlegen

• Welche genaue Aufgabe übernimmt der Dienst und für wen?
• Welche Personen könnten falsche Ausgaben oder Aktionen betreffen?
• Erstellt er Entwürfe, empfiehlt, bewertet, entscheidet oder führt er Aktionen aus?
• Wer verantwortet das Geschäftsergebnis, die technische Konfiguration und die Freigabe?
• Welche Nutzungen, Datenkategorien und Integrationen sind ausdrücklich ausgeschlossen?

Formulieren Sie eine technisch durchsetzbare Grenze: „Supportantworten aus freigegebenen Hilfeartikeln entwerfen; Beschäftigte prüfen jede Antwort; keine Kontoänderungen.“ Vermeiden Sie eine pauschale Freigabe für „KI im Support“. Dokumentieren Sie Tarif und Umgebung, da Testkonto und Unternehmenseinsatz unterschiedliche Bedingungen und Kontrollen haben können.

Aufzubewahrende Nachweise: eine einseitige Nutzungsbeschreibung, benannte Verantwortliche, eine Architekturskizze und ausgeschlossene Nutzungen. Eine ungeklärte Zuständigkeit sollte die Freigabe verhindern, bis jemand die Verantwortung übernimmt.

2. Anbieter- und Modellkette ermitteln

Fragen Sie, welche juristische Person den Dienst bereitstellt, welche Modelle eingesetzt werden, wo die Verarbeitung stattfindet und welche weiteren Organisationen Ihre Daten erhalten. Klären Sie, ob Anfragen an verschiedene Modelle geleitet werden können und ob Ihre Konfiguration diese Auswahl festlegt oder zulässt.

Fordern Sie eine aktuelle Anbieter- und Unterauftragsverarbeiterliste, relevante Dienstdokumentation, verfügbare Modell- und Versionsinformationen sowie das Benachrichtigungsverfahren bei wesentlichen Änderungen an. Unterscheiden Sie zwischen Informationen, die der Anbieter nicht offenlegen kann, und solchen, die er noch nicht geliefert hat. Fehlende Details bleiben als Unsicherheit sichtbar; erklären Sie ihre Auswirkungen auf die Freigabe.

Entscheidungsfrage: Können Sie die für das vorgeschlagene Risiko relevanten Organisationen und Dienstkomponenten identifizieren? Falls nicht, beschränken Sie den Pilotbetrieb auf nicht sensible Inhalte oder eskalieren Sie. Eine lange Liste von Firmenlogos ist keine Datenflusskarte.

3. Datenverarbeitung und Datenschutzverantwortung abbilden

Verfolgen Sie Prompts, hochgeladene Dateien, abgerufene Dokumente, Ausgaben, Feedback, Supportzugriffe und Protokolle. Fragen Sie für jede relevante Datenart gesondert nach Aufbewahrung, Löschung, Trainingsnutzung, menschlichem Zugriff und regionaler Verarbeitung. „Wir trainieren nicht mit Ihren Daten“ beantwortet weder die Aufbewahrungsdauer von Missbrauchsprotokollen noch die Frage, wer sie einsehen kann.

Wo die DSGVO gilt, bestimmen Sie für jede Tätigkeit die Rollen als Verantwortlicher und Auftragsverarbeiter. Artikel 28 verlangt ausreichende Garantien des Auftragsverarbeiters und einen regelkonformen Vertrag; Artikel 35 verlangt eine Datenschutz-Folgenabschätzung bei voraussichtlich hohem Risiko. Prüfen Sie Rechtsgrundlage, Transparenz und die Anforderungen aus Kapitel V für relevante internationale Übermittlungen. Maßgeblich ist die tatsächliche Verarbeitung, nicht das Etikett „KI“. DSGVO, Artikel 5–6, 13–14, 28, 35 und Kapitel V.

Aufzubewahrende Nachweise: Datenflusskarte, einschlägiger Auftragsverarbeitungsvertrag, Aufbewahrungseinstellungen, gegebenenfalls Übermittlungsbewertung und dokumentierte DSFA-Vorprüfung. Testen Sie die Löschung mit einer unbedenklichen Stichprobe, statt anzunehmen, dass das Entfernen eines Arbeitsbereichs sämtliche gespeicherten Kopien löscht.

4. Anwendungsbereich und Termine der KI-Verordnung prüfen

Dokumentieren Sie die Rolle Ihrer Organisation, den vorgesehenen Systemzweck und die einschlägigen Pflichten. Der Kauf eines Anbieterprodukts macht Ihre Organisation nicht automatisch ausschließlich zum Betreiber: Markenauftritt, Änderungen oder ein geänderter Zweck können Verantwortlichkeiten beeinflussen. Prüfen Sie verbotene Praktiken und einschlägige Transparenzanforderungen getrennt von der Hochrisikoeinstufung. KI-Verordnung, Artikel 3, 5, 6, 25 und 50.

Nach Prüfung am 8. September 2026 gelten die wesentlichen Hochrisikoregeln für Anhang III nach dem geänderten Zeitplan ab dem 2. Dezember 2027 und die entsprechenden produktbezogenen Regeln für Anhang I ab dem 2. August 2028. Dies verschiebt nicht sämtliche Pflichten der KI-Verordnung. Dokumentieren Sie die für Ihren Einsatz relevanten Vorschriften und Übergangsregeln. Europäische Kommission: Inkrafttreten des KI-Omnibus.

Entscheidungsfrage: Fordern Sie Nachweise für die ermittelte Rolle und das konkrete System an. Eine allgemeine Erklärung „KI-Verordnung-konform“ ersetzt keine begründete Prüfung des Anwendungsbereichs. Eskalieren Sie Unsicherheit vor dem Einsatz für folgenreiche Entscheidungen.

5. Sicherheit und Integrationsgrenzen verifizieren

Fragen Sie nach Nutzerauthentifizierung, Trennung von Kundenumgebungen, Schutz von Geheimnissen, Zugriffsprotokollierung und Schwachstellenmanagement. Prüfen Sie Umfang und Zeitraum unabhängiger Prüfberichte. Klären Sie, ob diese den vorgesehenen KI-Dienst und die Konfiguration abdecken, und prüfen Sie wesentliche Ausnahmen.

Listen Sie Berechtigungen verbundener Werkzeuge einzeln auf. Ein Supportassistent, der Wissensartikel liest, sollte nicht automatisch alle Tickets exportieren oder Erstattungen auslösen dürfen. Testen Sie, ob abgerufene Inhalte den Assistenten umleiten können, ob unzulässige Informationen in Ausgaben erscheinen und ob riskante Aktionen eine separate Freigabe benötigen.

Aufzubewahrende Nachweise: Zugriffskonfiguration, relevante Prüfnachweise, Integrationsberechtigungen, Testergebnisse und Abhilfeentscheidungen. Übertragen Sie technischen Verantwortlichen ausdrücklich die Aufgabe, unnötige Zugriffe vor dem Start abzuschalten.

6. Nutzen, Fehler und menschliche Aufsicht testen

Definieren Sie Abnahmekriterien vor der Vorführung. Erstellen Sie repräsentative Fälle mit unvollständigen Eingaben, irreführenden Dokumenten, nicht beantwortbaren Fragen, relevanten Sprachen und plausiblem Missbrauch. Verwenden Sie synthetisches oder anderweitig autorisiertes Testmaterial. Dokumentieren Sie Dienstkonfiguration und Testdatum, damit die Aussagekraft klar abgegrenzt ist.

Bewerten Sie aufgabenrelevante Ergebnisse: Richtigkeit, Nachvollziehbarkeit, unangemessene Offenlegung, uneinheitliche Behandlung und sicheres Anhalten, wenn das System nicht antworten kann. Prüfen Sie bei folgenreichen Empfehlungen, ob prüfende Personen über Informationen, Zeit, Befugnisse und die praktische Möglichkeit verfügen, eine Ausgabe infrage zu stellen.

Das NIST AI RMF gliedert Risikoarbeit in Govern, Map, Measure und Manage. Es kann die Prüfung strukturieren; seine Anwendung belegt jedoch für sich genommen keine Rechtskonformität. NIST AI RMF Core.

Entscheidungsfrage: Vereinbaren Sie, welche Fehler den Start verhindern und welche durch begrenzte Nutzung kontrolliert werden können. „Ein Mensch ist beteiligt“ genügt nicht, wenn dieser Ausgaben regelmäßig ungeprüft übernimmt.

7. Vertrag und Konfiguration abgleichen

Prüfen Sie, ob die unterschriebenen Bedingungen Tarif, erlaubte Nutzungen, Datenverarbeitung, Vertraulichkeit, Sicherheitszusagen, Zusammenarbeit bei Vorfällen, wesentliche Änderungen und Beendigung abdecken. Klären Sie Eigentums- und Nutzungsrechte an Eingaben und Ausgaben, Beschränkungen und das Vorgehen bei Beschwerden wegen geistigen Eigentums. Leiten Sie Rechte oder Schutz nicht aus Werbung ab.

Vergleichen Sie Zusagen mit Einstellungen. Wenn der Vertrag eine Trainingsabwahl vorsieht, klären Sie, ob sie aktiviert ist und wer sie ändern kann. Bei zugesagter Löschung dokumentieren Sie Verfahren, Ausnahmen und verfügbare Nachweise. Fragen Sie, wie der Anbieter bei Vorfalluntersuchungen und der Erfüllung Ihrer eigenen Pflichten hilft.

Aufzubewahrende Nachweise: unterschriebene Bedingungen, relevante Anlagen, genehmigte Ausnahmen und Konfigurationsbelege. Trennen Sie kommerzielle Verhandlungspunkte von Voraussetzungen, die vor dem Erhalt produktiver Daten erfüllt sein müssen.

8. Entscheidung, Überwachung und Ausstieg dokumentieren

Verwenden Sie eindeutige Ergebnisse: im definierten Umfang freigegeben, unter Auflagen freigegeben, begrenzter Pilotbetrieb, eskaliert oder abgelehnt. Dokumentieren Sie Restrisiken, die zur Risikoannahme befugte Person, Fristen und den nächsten Prüftermin. Ein offenes Starthindernis darf nicht allein wegen eines nahenden Releases zur gewöhnlichen Folgeaufgabe werden.

Bestimmen Sie, wer wesentliche Dienständerungen, Vorfälle, fehlgeschlagene Qualitätsprüfungen, Beschwerden und Nutzungserweiterungen verfolgt. Legen Sie Auslöser für eine erneute Prüfung fest. Bestätigen Sie, dass das Team Zugriffe widerrufen, Integrationen entfernen, nötige Unterlagen exportieren, Löschung verlangen und den Ablauf bei Anbieterausfall fortsetzen kann.

Aufzubewahrende Nachweise: ein unterschriebener Entscheidungsvermerk und ein getestetes Abschalt- oder Ersatzverfahren. Die Freigabe sollte auch für Kollegen verständlich sein, die nicht an Anbietergesprächen teilnahmen. Verknüpfen Sie sie mit Ihren Nachweisen für Investorenprüfungen, statt die Darstellung für jede Prüfung neu aufzubauen.

Ein praktischer Entscheidungsvermerk

Nutzen Sie diesen kompakten Vermerk für einen Anbieter und eine Nutzung. Fügen Sie Nachweise als Anlagen bei, statt vollständige Berichte hineinzukopieren.

| Feld | Zu dokumentieren | | --- | --- | | Umfang | Dienst, Tarif, Zweck, Nutzer, Daten, Integrationen, Ausschlüsse | | Verantwortung | Fachverantwortlicher, technischer Verantwortlicher, Datenschutz-/Rechtsprüfung, Freigebender | | Feststellungen | Nachweisverweise, Testergebnisse, Unsicherheiten, rechtlicher Anwendungsbereich | | Entscheidung | Ergebnis, Begründung, Restrisiken, akzeptierte Ausnahmen | | Auflagen | Erforderliche Maßnahme, verantwortliche Person, Frist, Startabhängigkeit | | Nachverfolgung | Prüftermin, Änderungsauslöser, Vorfallkontakt, Ausstiegsverfahren |

Eine sinnvolle Abschlussregel verlangt für jede Pflichtfrage einen Nachweis oder eine ausdrückliche Lücke, für jede Lücke eine Behandlung und für jede Freigabeauflage einen Verantwortlichen. „Fragebogen zurückerhalten“ ist ein Fortschrittsmeilenstein, keine Freigabeentscheidung.

Beispiel: ein Assistent für Supportentwürfe

Ein SaaS-Team möchte einen Assistenten Kundenantworten entwerfen lassen. Der erste Vorschlag bindet das gesamte Ticketarchiv an und erlaubt automatisches Senden. Die Prüfung entdeckt private Anhänge, unklare Protokollaufbewahrung und gelegentlich erfundene Schritte zur Fehlerbehebung.

Ein begrenzter Pilot könnte freigegebene Hilfeartikel und synthetische Tickets verwenden, auf automatisches Senden verzichten und eine dokumentierte Mitarbeiterprüfung vorsehen. Vor dem Produktivbetrieb würde das Team die Aufbewahrung klären, den Abrufzugriff begrenzen, repräsentative Fehler testen und den einschlägigen Vertrag freigeben. Dies sind beispielhafte Maßnahmen, keine Garantie für die Zulässigkeit jedes Supporteinsatzes.

Aktiviert das Team später Erstattungen, beschreibt die ursprüngliche Freigabe die Nutzung nicht mehr. Öffnen Sie die Prüfung erneut für Schreibrechte, Missbrauchsszenarien, Autorisierung und Wiederherstellung. Deshalb ist ein wiederverwendbarer Vermerk hilfreicher als ein anbieterweites Freigabesiegel. Er reduziert außerdem die Doppelarbeit aus unserem Leitfaden zu manuellen Anbieterrisikoprüfungen.

Häufige Fehler und Fragen

Genügt ein Sicherheitszertifikat?

Nein. Es kann bestimmte Sicherheitsbehauptungen innerhalb seines Umfangs stützen. Es beantwortet nicht, ob Datennutzung, rechtliche Rolle, Ausgaben, Integrationen und Vertrag für Sie geeignet sind. Bewahren Sie es zusammen mit einsatzspezifischen Nachweisen auf.

Braucht jeder KI-Anbieter dieselbe Prüfung?

Nein. Nutzen Sie leichtere Prüfungen für folgenarme, reversible Nutzungen und vertiefte Prüfungen bei sensiblen Daten, folgenreichen Entscheidungen oder weitreichenden Berechtigungen. Dokumentieren Sie die Begründung der Prüftiefe und Bedingungen für ihre Änderung.

Was sollte ein Gründer zuerst dokumentieren?

Beginnen Sie mit genauer Nutzung, Datenkategorien, Fachverantwortlichem und Berechtigungen. Diese Fakten ermöglichen gezielte Nachweisanforderungen. Ohne sie kann selbst ein detaillierter Fragebogen den falschen Dienst beschreiben.

Was tun, wenn der Anbieter wichtige Nachweise verweigert?

Dokumentieren Sie die Verweigerung und die daraus entstehende Unsicherheit. Prüfen Sie alternative Nachweise, einen engeren Einsatz oder einen anderen Anbieter. Schließen Sie den Punkt nicht bloß deshalb, weil der Anbieter die Information als vertraulich bezeichnet.

Wann ist die Checkliste abgeschlossen?

Für die aktuelle Entscheidung ist sie abgeschlossen, sobald Umfang, Nachweise, Lücken, Auflagen und verantwortlicher Freigebender dokumentiert sind. Der operative Prozess läuft durch Überwachung und Neubewertung weiter. Beginnen Sie diese Woche mit einem vorgeschlagenen Anbieter und gestalten Sie den Vermerk wiederverwendbar.

Quellen und Bildnachweis

Die Links an den Aussagen verweisen auf die DSGVO, die aktuell konsolidierte KI-Verordnung, das Umsetzungsupdate der Europäischen Kommission und den NIST AI RMF Core. Die operative Checkliste und das Beispiel sind redaktionelle Empfehlungen, keine zusätzlichen gesetzlichen Anforderungen.

Bild: Treffen des Wiki-Loves-Monuments-Teams in Wien, fotografiert von Manfred Werner (Tsui), über Wikimedia Commons, CC BY-SA 4.0. Größe angepasst. Zur Illustration gemeinsamer Prüfung; eine Unterstützung wird nicht unterstellt.