Wann die Prüfung von KI-Dienstleistern erforderlich ist und was danach folgt

Die Prüfung von KI-Dienstleistern sollte beginnen, bevor ein KI-Dienst relevante Daten erhält, mit Geschäftssystemen verbunden wird oder folgenreiche Entscheidungen beeinflusst. Wiederholen Sie die betroffenen Prüfungen, wenn sich Zweck, Berechtigungen, Datenverarbeitung oder Dienst ändern. Definieren Sie zunächst den vorgesehenen Einsatz, benennen Sie eine verantwortliche Person und sammeln Sie Nachweise für eine klar abgegrenzte Freigabe.

Für SaaS-Teams verbindet diese Prüfung den Einkauf mit Entscheidungen zu Produkt, Sicherheit, Datenschutz und Betrieb. Die folgenden Empfehlungen beschreiben einen praktischen Ablauf, keinen allgemein gesetzlich vorgeschriebenen Fragebogen. Die Prüfungstiefe sollte mögliche Fehler und betroffene Personen berücksichtigen. Ein Assistent für öffentliche Hilfetexte verlangt eine andere Bewertung als ein Agent, der Kundenkonten verändert.

Auslöser erkennen

Beginnen Sie, solange das Team noch Anbieter wechseln, den Einsatz begrenzen oder Vertragsbedingungen verhandeln kann. Nach Vertragsunterzeichnung oder Produktstart lassen sich offene Fragen schwerer lösen. Berücksichtigen Sie kostenlose Tests, Mitarbeiterabonnements, APIs, eingebettete Modelle und KI-Funktionen innerhalb bestehender Plattformen.

Diese Ereignisse sollten eine Prüfung auslösen oder wieder öffnen:

• Neue Beschaffung: Ein Team schlägt einen KI-Dienst oder eine Integration vor.
• Neue Funktion: Ein bestehender Anbieter ergänzt einen Assistenten, eine Abruffunktion oder automatisierte Aktionen.
• Zusätzliche Daten: Ein Pilot wechselt von synthetischen Beispielen zu Kundendatensätzen oder vertraulichen Dokumenten.
• Erweiterte Befugnisse: Ein Werkzeug führt Aktionen aus, die es bisher nur vorgeschlagen hat.
• Wesentliche Änderung: Modellrouting, Hosting, Aufbewahrung, Bedingungen oder Unterauftragnehmer ändern sich freigaberelevant.
• Negative Erkenntnisse: Ein Vorfall, eine Beschwerde oder eine fehlgeschlagene Bewertung stellt eine Annahme für die weitere Nutzung infrage.

Eine Vertragsverlängerung ist ein sinnvoller Kontrollpunkt, sollte aber nicht der einzige Auslöser sein. Benennen Sie jemanden, der Dienstmitteilungen entgegennimmt und dem Einsatzdatensatz zuordnet. Die Anbieterbeziehung kann unverändert bleiben, während sich das tatsächliche Risiko erheblich verändert.

Die relevanten Prüfungen bestimmen

Beschreiben Sie Aufgabe, Nutzer, Daten und Aktionsgrenzen in einem Satz. Beispiel: „Supportmitarbeiter erstellen im Enterprise-Arbeitsbereich Antwortentwürfe aus öffentlicher Dokumentation; Mitarbeiter versenden die Antworten; Kundentickets sind ausgeschlossen.“ Erfassen Sie neben dem Anbieter auch den gebuchten Tarif und die Konfiguration.

Bestimmen Sie anschließend die Prüfbereiche. Datenschutz prüft personenbezogene Datenverarbeitung, Sicherheit prüft Zugriffe und Integrationen, Produktverantwortliche prüfen Ausgabequalität und Fehlerfolgen, und die Rechtsabteilung prüft anwendbare Pflichten und vertragliche Verantwortlichkeiten. Der Einkauf koordiniert Nachweise und kaufmännische Abläufe. In kleinen Unternehmen kann eine Person mehrere Rollen übernehmen; jede Entscheidung braucht dennoch einen benannten Verantwortlichen.

Soweit die DSGVO gilt, verlangt Artikel 28 hinreichende Garantien von Auftragsverarbeitern. DSGVO, Artikel 28. Lassen Sie die Rollen der Parteien und die Verarbeitungsvereinbarung prüfen, bevor Sie einen Standardvertrag des Anbieters als ausreichend betrachten.

Für die Einordnung nach der KI-Verordnung sollten Rechtsverantwortliche Rolle, vorgesehenen Zweck, einschlägige Vorschriften und Anwendungsdaten bestimmen. Eine allgemeine Konformitätsaussage des Anbieters beantwortet diese einsatzbezogenen Fragen nicht. Dokumentieren Sie Begründung und offene Punkte, statt eine Werbeaussage in die Freigabe zu übernehmen.

Stand 10. September 2026 gelten als Hochrisiko-Meilensteine der 2. Dezember 2027 für Anhang III und der 2. August 2028 für Anhang I. Aktualisierter Zeitplan der Europäischen Kommission. Prüfen Sie die für Ihren Einsatz relevanten Vorschriften gesondert, bevor Sie aktuelle Maßnahmen festlegen.

Wann eine engere Prüfung angemessen ist

Hat ein Produkt keine KI-Funktion, kann der gewöhnliche Lieferantenprozess ausreichen. Verarbeitet ein Werkzeug ausschließlich öffentliches Material und kann weder auf Systeme zugreifen noch Aktionen ausführen, ist möglicherweise eine kürzere KI-Bewertung angemessen. Dokumentieren Sie diese Grenzen ausdrücklich und bestätigen Sie ihre technische Durchsetzung.

Keine personenbezogenen Daten bedeutet nicht automatisch keine Prüfung. Vertraulichkeit, geistiges Eigentum, Zuverlässigkeit, Geschäftskontinuität und Kundenzusagen können weiterhin relevant sein. Umgekehrt rechtfertigt KI nicht, von jedem Anbieter jedes Dokument anzufordern. Verlangen Sie Nachweise für konkrete Entscheidungen und begründen Sie nicht anwendbare Prüfungen.

Ein Pilot sammelt Nachweise innerhalb vereinbarter Grenzen. Er erlaubt nicht automatisch das Hochladen von Produktivdaten. Legen Sie Daten, Nutzer, Integrationen, Dauer und Abbruchbedingungen vor der Zugriffsvergabe fest. Bestimmen Sie, wer nach Auswertung der Ergebnisse eine Erweiterung genehmigen darf.

Ein Entscheidungsablauf in sechs Schritten

1. Den Einsatz dokumentieren

Erfassen Sie Aufgabe, Dienst, Tarif, Nutzer, Datenkategorien, Standorte, Integrationen und erlaubte Aktionen. Benennen Sie fachliche und technische Verantwortliche. Verlinken Sie die Architektur- oder Datenflussskizze und führen Sie ausgeschlossene Einsätze ausdrücklich auf. Dieser Datensatz bildet die gemeinsame Grundlage für Fachprüfer.

Trennen Sie den vorgesehenen Einsatz von möglichen späteren Funktionen. Möchte das Team künftig Erstattungen automatisieren, dokumentieren Sie dies als spätere prüfpflichtige Änderung. Eine breite Produktplanung darf die aktuelle Freigabe nicht unbemerkt erweitern.

2. Daten und Zugriffe nachvollziehen

Klären Sie den Umgang mit Prompts, Anhängen, abgerufenen Inhalten, Ausgaben, Feedback und Protokollen. Ermitteln Sie Aufbewahrung, Löschung, Supportzugriff, weitere Empfänger und Trainingsnutzung. Ordnen Sie die Antworten dem tatsächlich vorgesehenen Tarif und seinen Einstellungen zu.

Erfassen Sie bei verbundenen Diensten Zugangsdaten und Berechtigungen. Beschränken Sie den Zugriff auf das für die Aufgabe erforderliche Minimum und testen Sie die Grenze. „Nur lesend“ im Einkaufsformular reicht nicht, wenn die Integration Schreibrechte erhält. Bewahren Sie einen Konfigurationsexport oder gleichwertige Nachweise auf.

3. Aussagen mit Nachweisen verbinden

Nutzen Sie eine kurze Nachweistabelle: Aussage, Dokument oder Test, Geltungsbereich, Datum, Prüfer und verbleibende Lücke. Ein Sicherheitsbericht kann Kontrollen innerhalb seines Umfangs belegen; ein Vertrag vereinbarte Zusagen; ein Test beobachtetes Verhalten unter dokumentierten Bedingungen. Halten Sie diese Unterschiede sichtbar.

Fragen Sie nach, wenn ein Dokument die KI-Funktion ausschließt oder eine andere Umgebung betrifft. Fehlen Nachweise, dokumentieren Sie Unsicherheit und Entscheidungsfolgen. Größe, Ruf oder eine überzeugende Demonstration des Anbieters sollten offene Fragen nicht erledigen.

4. Den tatsächlichen Ablauf testen

Definieren Sie Akzeptanzkriterien vor dem Test. Berücksichtigen Sie typische Aufgaben, unvollständige Informationen, irreführende Eingaben, Berechtigungsgrenzen und Wiederherstellung nach Fehlern. Verwenden Sie synthetische oder anderweitig autorisierte Daten. Dokumentieren Sie verfügbare Dienstversion, Einstellungen, Datum, Ergebnisse und ungelöste Fehler.

Testen Sie auch die menschliche Kontrolle. Kann die prüfende Person Belege einsehen, falsche Vorschläge ablehnen und Aktionen rechtzeitig stoppen? Andernfalls ändern Sie den Ablauf oder begrenzen die Funktion. Eine hohe durchschnittliche Qualität darf keine Offenlegung fremder Kundendaten verdecken.

5. Eine ausdrückliche Entscheidung treffen

Wählen Sie ein Ergebnis: Freigabe im definierten Umfang, Freigabe mit Auflagen, Beschränkung auf einen Pilot, Eskalation oder Ablehnung. Unterscheiden Sie produktionsblockierende Bedingungen von späteren Verbesserungen. Jede Bedingung braucht Verantwortlichen, Frist und Abschlussnachweis.

Dokumentieren Sie Restrisiken und genehmigte Ausnahmen mit Begründung und Ablaufdatum. Eine Vertragsunterzeichnung darf technische oder datenschutzbezogene Sperren nicht stillschweigend aufheben. Wer die Integration aktiviert, muss die Entscheidung ohne Rekonstruktion von E-Mail- und Chatdiskussionen verstehen können.

6. Überwachen und den Ausstieg vorbereiten

Legen Sie neben den genannten Ereignissen einen risikobasierten Prüftermin fest. Weisen Sie Verantwortung für Mitteilungen, Vorfälle, Beschwerden und Bewertungsergebnisse zu. Öffnen Sie bei entsprechender Begründung nur betroffene Prüfungen erneut und bewahren Sie die Entscheidungshistorie auf.

Beschreiben Sie Widerruf von Zugriffen, Entfernung von Integrationen, Export benötigter Datensätze, Löschanfragen und Fortführung der Aufgabe bei Ausfall oder Ausstieg. Erproben Sie kritische Schritte vorab. Wiederverwendbare Unterlagen verringern außerdem Doppelarbeit, wie unser Beitrag zu manuellen Lieferantenrisikoprüfungen erläutert.

Beispiel: Ein Assistent liest erstmals private Tickets

Ein Supportteam erstellt mit einem Assistenten bereits Antworten aus öffentlicher Dokumentation. Nun möchte das Produktteam private Tickets abrufen lassen. Anbieter und Abonnement bleiben gleich, aber die Datengrenze verändert sich. Das sollte vor Aktivierung eine Prüfung auslösen.

Der Verantwortliche aktualisiert den Einsatzdatensatz. Datenschutz prüft die Verarbeitungsvereinbarung, Sicherheit testet Ticketberechtigungen und Kundentrennung, und Produkt prüft unnötige Informationsoffenlegung in Antworten. Der Einkauf bestätigt, dass Zusagen die neue Funktion abdecken. Währenddessen bleibt der bisherige Entwurfsprozess bestehen.

Scheitern Berechtigungstests, bleibt die neue Funktion gesperrt. Sind die Prüfungen erfolgreich, dokumentiert die Freigabe erlaubte Daten, Einstellungen, Testergebnisse, Aufsicht und erneute Prüfauslöser. Das Beispiel veranschaulicht einen Entscheidungsprozess und bestätigt nicht die Rechtmäßigkeit eines bestimmten Einsatzes.

Häufige Fehler vermeiden

Die Freigabe eines Unternehmensnamens statt eines definierten Einsatzes macht spätere Änderungen unsichtbar. Eine große Dokumentensammlung ohne Feststellungen schafft Ablage statt Nachweise. Einen Pilot ohne Daten- und Berechtigungsgrenzen als „risikoarm“ zu bezeichnen, beantwortet die entscheidende Frage nicht.

Ein weiterer Fehler ist, jede Aufgabe „Compliance“ zuzuweisen. Fachverantwortliche erklären die Aufgabe und tragen operative Verantwortung; Engineering überprüft Kontrollen; Spezialisten entscheiden innerhalb ihrer Fachgebiete. Ein Koordinator kann den Ablauf steuern, ohne jedes Risiko selbst zu verantworten.

FAQ

Welchen praktischen Zweck hat die Prüfung?

Sie entscheidet, ob ein bestimmter Dienst für eine definierte Aufgabe genutzt werden kann, gestützt auf Nachweise, Bedingungen und Verantwortliche. Das Ergebnis sollte klarstellen, was aktiviert werden darf und was eingeschränkt bleibt.

Was sollten Gründer zuerst dokumentieren?

Aufgabe, Daten, Berechtigungen und Verantwortlichen. Diese Fakten machen Folgefragen konkret. Beginnen Sie mit einem relevanten Einsatz statt mit einem undifferenzierten unternehmensweiten Fragebogen.

Muss jede Änderung die gesamte Bewertung neu starten?

Nein. Vergleichen Sie die Änderung mit dokumentierten Annahmen und öffnen Sie die relevanten Prüfungen erneut. Begründen Sie, wenn keine wesentliche Auswirkung besteht. Eskalieren Sie unklare Folgen.

Was sollte nächste Woche geschehen?

Wählen Sie einen geplanten oder laufenden KI-Dienst. Dokumentieren Sie den Einsatz, bestimmen Sie die größte Nachweislücke und benennen Sie einen Prüfer. Vereinbaren Sie eine begrenzte Entscheidung und den nächsten Auslöser, bevor Sie Zugriffe erweitern.

Quellen und Bildnachweis

Rechtsverweise wurden am 10. September 2026 geprüft. Verlinkte Quellen stützen die konkreten Rechts- und Zeitplanaussagen; Ablauf und Beispiel sind redaktionelle Empfehlungen.

Foto: Team Meeting, woodleywonderworks, CC BY 2.0. Auf 1280 × 482 Pixel verkleinert. Symbolfoto.