Wie man die Due Diligence von KI-Anbietern operativ umsetzen kann, ohne die Produktlieferung zu verlangsamen

Die Due-Diligence-Prüfung von KI-Anbietern verläuft schnell, wenn sie als risikobasierter Produktworkflow konzipiert ist und nicht als Fragebogen, der kurz vor der Markteinführung beginnt. Beginnen Sie mit einer kurzen Beschreibung der beabsichtigten Verwendung, leiten Sie sie in eine vereinfachte, standardmäßige oder erweiterte Überprüfung weiter, fordern Sie nur die für diese Spur erforderlichen Nachweise an und führen Sie parallel Datenschutz-, Sicherheits-, Rechts-, Produkt- und kommerzielle Prüfungen durch. Schließen Sie mit einer aufgezeichneten Entscheidung ab – genehmigen, mit Bedingungen genehmigen, testen, eskalieren oder ablehnen – und klären Sie die Auslöser für eine Neubewertung.

Das Ziel besteht nicht darin, jeden Anbieter schneller freizugeben. Es geht darum, die richtige Entscheidung mit weniger Wartezeiten, Doppelarbeit und Unklarheiten zu treffen. Ein Assistent für Besprechungsnotizen, der öffentliche Informationen nutzt, sollte nicht dem gleichen Prozess ausgesetzt sein wie ein KI-System, das Kundendaten verarbeitet, Maßnahmen in der Produktion ergreift oder Beschäftigung, Kredit, Zugang, Sicherheit oder andere Folgeergebnisse beeinflusst.

Warum die Überprüfung von KI-Anbietern zu einem Lieferengpass wird

Die meisten Verzögerungen beginnen, bevor irgendjemand Beweise überprüft. Ein Produktmanager beschreibt den Anbieter als „KI-Assistenten“, die Beschaffung sendet einen allgemeinen Sicherheitsfragebogen, die Rechtsabteilung sieht den Vertrag in Verzug und die Technik hat nicht dokumentiert, welche Daten oder Integrationen verwendet werden. Prüfer stellen unterschiedliche Versionen derselben Fragen, da niemand die tatsächliche Bereitstellung definiert hat.

KI-Dienste ändern sich zudem flüssiger als herkömmliche SaaS. Ein Anbieter kann den Modellanbieter wechseln, Anfragen zwischen Modellen weiterleiten, Abrufquellen hinzufügen, Aufbewahrungs- oder Schulungseinstellungen ändern, Agenten oder Toolzugriff einführen oder Sicherheitskontrollen ändern. Derselbe Anbieter bietet möglicherweise wesentlich unterschiedliche Verbraucher- und Unternehmenskonfigurationen an. Die Überprüfung der Marke oder der Marketingseite gibt daher keinen Aufschluss darüber, ob der konfigurierte Dienst geeignet ist.

Die Lösung ist ein gemeinsames Betriebsprotokoll. Es sollte die vorgeschlagene Verwendung, die Lieferanten- und Modellkette, den Datenlebenszyklus, Tests, den Vertrag, die Genehmigungsbedingungen und die laufende Überwachung miteinander verbinden. Dadurch wird das Problem der manuellen Anbieterüberprüfung vermieden, bei dem Beweise und Entscheidungen in Posteingängen, Tabellenkalkulationen und Tickets fragmentiert sind.

Beginnen Sie den Arbeitsablauf mit einer sachlichen Aufnahme

Halten Sie die Einführung so kurz, dass ein Produkt- oder Geschäftsinhaber sie vor einem Pilotprojekt abschließen kann. Fragen Sie nach Fakten statt nach rechtlichen Schlussfolgerungen:

• Geschäftszweck und erwarteter Nutzen;
• Benutzer und von den Ergebnissen betroffene Personen;
• Eingaben, Ausgaben, Datenkategorien, Aufbewahrung und Datenspeicherorte;
• Modell, Anbieter, Unterprozessoren, Integrationen und Tool-Berechtigungen;
• ob die Ergebnisse Handlungen beeinflussen oder bestimmen;
• Optionen zur menschlichen Überprüfung, Außerkraftsetzung und Wiederherstellung;
• Märkte, Kundenverpflichtungen und geplanter Einführungstermin;
• der interne Geschäftsinhaber und der technische Eigentümer.

Bitten Sie den Antragsteller, die derzeit genehmigte Nutzung von zukünftigen Möglichkeiten zu unterscheiden. „Entwürfe interner Support-Antworten zur menschlichen Überprüfung“ ist eine nützliche Grenze. „Kundensupport mit KI verbessern“ ist es nicht. Eine präzise Grenze ermöglicht es Prüfern, relevante Beweise zu identifizieren und gibt der Technik eine Bedingung, die sie durchsetzen kann.

Die Aufnahme sollte aus Ereignissen erfolgen, die Teams bereits kennen: Hinzufügen eines KI-Anbieters, Aktivieren einer KI-Funktion in einem bestehenden Produkt, Senden einer neuen Datenkategorie, Verbinden von Produktionstools, Expansion in einen neuen Markt, Änderung des Modells oder Zwecks, Reduzierung der menschlichen Überprüfung oder Abgabe eines neuen Kundenversprechens.

Routenbewertungen nach Risiko

Verwenden Sie drei Spuren mit schriftlichen Einreisekriterien und Serviceerwartungen.

Leichte Rezension

Nutzen Sie dies für eine interne Unterstützung mit geringen Auswirkungen auf nicht sensible Daten, keine Produktionsmaßnahmen, keine Folgeentscheidungen, umkehrbare Ausgaben und eine etablierte Unternehmenskonfiguration. Bestätigen Sie die Nutzungsgrenzen, Kontokontrollen, Dateneinstellungen, Vertragsstatus, akzeptable Nutzungsbeschränkungen und den Eigentümer. Eine dokumentierte Genehmigung kann ausreichend sein.

Standardbewertung

Verwenden Sie dies, wenn Kunden- oder Unternehmensinformationen in den Dienst eingehen, das Tool in ein Produkt eingebettet ist, Ausgaben externe Benutzer erreichen, Integrationen Betriebssysteme lesen können oder Fehler erheblichen Schaden anrichten könnten. Fügen Sie Datenschutz- und Sicherheitsnachweise, Anwendungsfalltests, Modell- und Unterprozessortransparenz, Vertragsprüfung, Vorfallrouten und Überwachung hinzu.

Erweiterte Rezension

Verwenden Sie dies für sensible persönliche oder regulierte Daten, Folgeentscheidungen, gefährdete Gruppen, sinnvolle Autonomie, Schreibzugriff auf die Produktion, schwer rückgängig zu machende Ergebnisse, unsichere Lieferanten oder einen potenziell hochriskanten AI Act-Kontext. Erfordern eine tiefere Klassifizierung, technische Beweise, Wirkungsprüfung, kontradiktorische Tests oder Domänentests, Genehmigung von Führungskräften oder Spezialisten sowie explizite Startbedingungen.

Bei diesen Spuren handelt es sich um Entscheidungsrouten und nicht um permanente Anbieteretiketten. Ein Anbieter kann eine risikoarme Entwurfsverwendung und eine sensible Entscheidungsunterstützungsverwendung unterstützen. Leiten Sie die Bereitstellung weiter, nicht das Logo.

Legen Sie für jede Spur ein Mindestbeweispaket fest

Beweisanfragen sollten identifizierte Risiken beantworten. Versenden Sie nicht an jeden Lieferanten den längsten Fragebogen.

Erfassen Sie für die Lieferanten- und KI-Kette die Vertragseinheit, die Produktebene, das Hosting, die Modellanbieter, die relevanten Unterauftragsverarbeiter, die Servicegrenze, die Versionierung, den Materialänderungsprozess und die Supportkontakte. Für Daten, Kartenaufforderungen, Uploads, abgerufene Inhalte, Ausgaben, Feedback, Protokolle, Supportdaten, Aufbewahrung, Löschung, Schulungsnutzung, Zugriff und Weitergabe.

Fordern Sie für Sicherheit und Ausfallsicherheit Nachweise an, die im Verhältnis zur Integration stehen: Sicherungsumfang, Zugriffskontrollen, Verschlüsselung, Mandantenisolierung, Schwachstellenbehandlung, Vorfallbenachrichtigung, Wiederherstellung und sichere Entwicklung. Untersuchen Sie gegebenenfalls die sofortige Einschleusung, Datenlecks, die Verwendung unsicherer Tools, verfälschte Abrufinhalte, Ausgabeverarbeitung und Missbrauchskontrollen.

Fragen Sie im Hinblick auf die Leistung, was der Anbieter getestet hat, bei welchen Benutzern, Sprachen und Bedingungen, anhand welcher Baseline und mit welcher Akzeptanzschwelle. Notieren Sie Einschränkungen und bekannte Fehlermuster. Anschließend testen Sie die konfigurierte Nutzung mit repräsentativen, gesetzeskonformen Daten. Anbieter-Benchmarks geben Ihre Eingabeaufforderungen, Abrufquellen, Prüfer, Integrationen oder Konsequenzen nicht wieder.

Das freiwillige AI Risk Management Framework des NIST ist für die Gestaltung dieses Prozesses nützlich, da es Governance, Mapping, Messung und Management als verbundene Aktivitäten behandelt. Sein generatives KI-Profil bietet außerdem eine praktische Referenz für Drittpartei-, Daten-, Sicherheits- und Testrisiken. Diese Frameworks unterstützen das Diligence-Design. Sie allein beweisen nicht die Einhaltung gesetzlicher Vorschriften.

Führen Sie parallel Überprüfungsarbeiten durch

Durch aufeinanderfolgende Übergaben entsteht Leerlaufzeit. Sobald die Aufnahme eine stabile Grenze bildet, öffnen Sie gemeinsam die relevanten Arbeitsabläufe:

• Das Produkt bestätigt den Verwendungszweck, die betroffenen Benutzer, die Ausgabeverarbeitung und den Startumfang.
• Engineering dokumentiert Datenflüsse, Konfiguration, Integrationen, Berechtigungen, Protokollierung und Fehlerverhalten;
• Sicherheitsüberprüfungen von Zugriff, Architektur, Sicherheit, Vorfallbehandlung und technischen Risiken;
• Datenschutz und rechtliche Beurteilung von Rollen, rechtmäßiger Verarbeitung, Übermittlungen, Mitteilungen, Vorschriften und Vertragsbedingungen;
• Die Beschaffung verwaltet Lieferantennachweise, Geschäftsbedingungen, Verlängerungen und Eskalationen.
• Compliance oder Operations sorgt für die Vollständigkeit der Aufzeichnungen und leitet ungelöste Probleme an die Eigentümer weiter.

Parallele Arbeiten benötigen einen Koordinator und eine Liste offener Fragen. Andernfalls entsteht lediglich eine gleichzeitige Duplizierung. Halten Sie eine kurze Entscheidungsbesprechung nur dann ab, wenn Beweise einen echten Kompromiss ergeben oder die Fahrspur eine Multifunktionsgenehmigung erfordert.

Beweislücken in Entscheidungen umwandeln

Nicht jede Lücke erfordert eine Ablehnung und nicht jede Antwort eines Anbieters verdient Akzeptanz. Wählen Sie für jedes ungelöste Problem eine Behandlung:

• fehlende Beweise oder eine Vertragszusage einholen;
• Konfiguration ändern oder Daten einschränken;
• Benutzer, Zweck, Geografie, Integrationen oder Autonomie einschränken;
• menschliche Überprüfung, Tests, Überwachung oder einen Notausschalter hinzufügen;
• ein zeitlich begrenztes Pilotprojekt mit synthetischen oder risikoarmen Daten durchführen;
• ein definiertes Restrisiko durch die zuständige Behörde akzeptieren;
• die Nutzung ablehnen oder aufschieben.

Bedingungen müssen testbar sein. „Keine personenbezogenen Daten eingeben“ ist schwach, wenn die Schnittstelle dies akzeptiert und niemand die Nutzung überwacht. Eine stärkere Bedingung umfasst Zugriffsbeschränkungen, genehmigte Eingaberegeln, Benutzerführung, Konfiguration, Überwachung und einen Eigentümer.

Der Vertrag sollte den Beweisen folgen. Abhängig von Risiko, zulässiger Verwendung, Kundendatenschulung, Modellanbietern, Unterauftragsverarbeitern, Standorten, Sicherheitsmaßnahmen, Vorfallbenachrichtigung, Dokumentation, Prüfungsnachweisen, wesentlichen Änderungen, Leistungseinschränkungen, Support, Löschung, Portabilität, Kontinuität, Haftung und Ausstieg. Ein Vertrag kann ein ungeeignetes System nicht in ein geeignetes umwandeln, aber er kann Informationsrechte wahren und Betriebszusagen durchsetzbar machen.

Verantwortlichkeiten für AI Act und DSGVO

Bitten Sie den Anbieter nicht, über Ihre rechtliche Rolle oder Einstufung zu entscheiden. Nach dem EU-KI-Gesetz richten sich die Pflichten nach dem System, dem Verwendungszweck, der Risikokategorie und der Position in der Wertschöpfungskette. Artikel 25 legt Umstände fest, unter denen ein Händler, Importeur, Betreiber oder ein anderer Dritter zum Anbieter eines Hochrisikosystems werden kann, einschließlich bestimmter Umbenennungen, wesentlicher Änderungen oder beabsichtigter Änderungen. Artikel 26 legt Pflichten für Betreiber von Hochrisikosystemen fest, einschließlich geeigneter Maßnahmen zur Befolgung von Gebrauchsanweisungen. Notieren Sie die Klassifizierungsgründe und -annahmen für die tatsächliche Bereitstellung.

Wenn ein Anbieter personenbezogene Daten im Namen des Unternehmens verarbeitet, wird die Sorgfaltspflicht des DSGVO-Verarbeiters nicht durch den Abschluss einer Datenverarbeitungsvereinbarung abgeschlossen. In den Leitlinien des EDSA heißt es, dass die Verantwortlichen anhand der Umstände beurteilen müssen, ob die Auftragsverarbeiter ausreichende Garantien bieten, und dass die Beurteilung nicht nur formaler Natur ist. Passen Sie Vertragserklärungen an die bereitgestellte Ebene, die Unterprozessorkette, die Konfiguration, den Datenfluss und die Betriebspraxis an.

Aus diesem Grund verbindet die betriebliche Sorgfaltspflicht rechtliche Analysen mit technischen Kontrollen. Ein Rollenmemo ohne erzwungene Nutzungsgrenze ist fragil; Eine sichere Konfiguration ohne einen rechtmäßigen und dokumentierten Verarbeitungszweck ist unvollständig.

Halten Sie die Entscheidung in einem dauerhaften Protokoll fest

Der endgültige Datensatz sollte Folgendes enthalten:

• Anbieter, Dienst, Modell oder Version, Eigentümer, Prüfer und Datum;
• genehmigte und verbotene Verwendungen, Benutzer, Daten, Integrationen und Geografie;
• Risikospur, rechtliche Rollen, Klassifizierungsgründe und Annahmen;
• überprüfte Beweise, durchgeführte Tests, Erkenntnisse und offene Lücken;
• Vertragskontrollen und Betriebsbeschränkungen;
• Entscheidung, Genehmiger, Bedingungen, Eigentümer und Fristen;
• Überwachungssignale, Vorfallroute, Ablaufdatum und Neubewertungsauslöser.

Verknüpfen Sie mit Quellennachweisen, anstatt Dokumente in die Akte einzufügen. Behalten Sie die überprüfte Version bei, damit spätere Herstelleraktualisierungen nicht stillschweigend die Grundlage für die Genehmigung ersetzen. Dies macht auch die Beweissammlung zu einem Teil der Lieferung und verbessert die Qualität der Kunden-, Prüfungs- und Investorenantworten.

Überwachen Sie die Änderung nach der Genehmigung

Die Genehmigung gilt für einen definierten Geltungsbereich, nicht für immer. Öffnen Sie die Überprüfung erneut, wenn sich der beabsichtigte Zweck, die Benutzergruppe, die Datenkategorie, der Markt, das Modell, der Anbieter, der Unterauftragsverarbeiter, die Integration, die Autonomie, die menschliche Aufsicht, die Aufbewahrung, die Schulungsnutzung oder der Vertrag ändern. Vorfälle, wesentliche Leistungsmängel, regulatorische Änderungen und glaubwürdige Kundenanliegen sollten ebenfalls eine Überprüfung auslösen.

Bitten Sie Lieferanten um Mitteilungen über wesentliche Änderungen, aber verlassen Sie sich nicht nur auf Mitteilungen. Produktversionshinweise, Konfigurationsinventare, Beschaffungsverlängerungen, Sicherheitsüberwachung, Benutzerberichte und regelmäßige Eigentümerbescheinigungen können Abweichungen aufdecken. Legen Sie einen Überprüfungstermin basierend auf Risiko und Vertragszyklus fest.

Diese anhaltenden Beweise sind Teil der umfassenderen von SaaS-Anbietern erwarteten KI-Governance. Außerdem wird ein wiederverwendbares Paket für die Due-Diligence-Prüfung von Investoren erstellt, anstatt Teams zu zwingen, Entscheidungen später zu rekonstruieren.

Häufige Betriebsfehler

Beginnt nach dem Pilotprojekt. Echte Daten, Benutzer und Integrationen können bereits vor Beginn der Überprüfung offengelegt werden.

Bewertung des Anbieters statt der Verwendung. Ein seriöser Anbieter kann dennoch für eine bestimmte Konfiguration oder Konsequenz ungeeignet sein.

Zertifizierungen als Genehmigung behandeln. Assurance-Berichte helfen, aber Umfang, Datum, Ausnahmen, KI-Verhalten und der bereitgestellte Workflow müssen noch bewertet werden.

Wird jede Überprüfung verbessert. Durch die übermäßige Überprüfung werden Routinearbeiten umgangen und wirklich sensible Fälle in einer langen Warteschlange ausgeblendet.

Dadurch kann jede Funktion ihre eigene Entscheidung behalten. Widersprüchliche Tickets, Tabellenkalkulationen und Vertragsnotizen machen es unmöglich, die Genehmigung zu erklären oder zu überwachen.

Einmalige Genehmigung. Modelle, Einstellungen, Daten, Unterauftragsverarbeiter und vorgesehene Verwendungszwecke ändern sich. Eine Entscheidung ohne Neubewertungsauslöser verfällt stillschweigend.

Ein praktischer 30-Tage-Rollout

Definieren Sie in der ersten Woche die Aufnahme, die Auslöser und die drei Überprüfungspfade. Nutzen Sie aktuelle Bewertungen von Anbietern, um zu testen, ob die Fragen zwischen risikoarmen und sensiblen Anwendungen unterscheiden.

Weisen Sie in Woche zwei Eigentümer und Mindestnachweise zu. Erstellen Sie wiederverwendbare Anfragen für Lieferanten-, Daten-, Sicherheits-, Leistungs-, Governance- und Vertragsnachweise. Geben Sie an, wer jede Fahrspur genehmigen und wer ein Restrisiko übernehmen kann.

Verknüpfen Sie in Woche drei den Workflow mit der Produktplanung, dem Lieferanten-Onboarding, der Sicherheits- und Datenschutzüberprüfung und der Release-Bereitschaft. Konfigurieren Sie einen Entscheidungsdatensatz und eine Ansicht offener Probleme.

Führen Sie in Woche vier zwei echte Anbieter durch den Prozess: einen einfachen und einen sensiblen. Messen Sie Wartezeiten, wiederholte Fragen, ungeklärte Eigentumsverhältnisse und Beweislücken. Entfernen Sie Fragen, die nie eine Entscheidung ändern, und verstärken Sie die Kontrollen, bei denen sich Prüfer immer noch auf Annahmen verlassen.

FAQ

Was ist der praktische Zweck der Due Diligence von KI-Anbietern?

Es entsteht eine vertretbare Entscheidung darüber, ob und wie ein bestimmter KI-Dienst genutzt werden kann. Ein guter Prozess erkennt wesentliche Risiken frühzeitig, weist Kontrollen zu und bewahrt Beweise für Kunden, Audits, Vorfälle und Neubewertungen auf.

Wann gilt die Sorgfaltspflicht von KI-Anbietern für SaaS-Teams?

Führen Sie mindestens eine einfache Überprüfung durch, wenn ein KI-Dienst eines Drittanbieters in Unternehmens- oder Produktabläufe eintritt. Erhöhen Sie die Tiefe, wenn die Nutzung sensible Daten, externe Benutzer, Folgeergebnisse, Autonomie, Kundenintegration, unsichere Lieferanten oder potenziell regulierte Kontexte umfasst.

Was sollten Teams zuerst dokumentieren oder ändern?

Dokumentieren Sie die beabsichtigte Verwendung, Benutzer, betroffene Personen, Daten, Integrationen, Ergebnisse, menschliche Überprüfung und nachgelagerte Maßnahmen. Definieren Sie dann Risikopfade, Eigentümer, Mindestnachweise, Entscheidungsbefugnisse und Auslöser für eine Neubewertung.

Wie lässt sich eine Verlangsamung der Produktlieferung vermeiden?

Es beginnt mit der Überprüfung früher, trennt routinemäßige von sensiblen Verwendungen, führt relevante Prüfungen parallel durch, verwendet Beweise wieder und wandelt Lücken in explizite Bedingungen um. Teams verbringen weniger Zeit damit, auf unklare Übergaben zu warten, während Entscheidungen mit höherem Risiko mehr Aufmerksamkeit erhalten.

Die Due-Diligence-Prüfung von KI-Anbietern sollte den Genehmigungsweg vorhersehbar machen. Erfassen Sie die tatsächliche Nutzung, leiten Sie sie nach Risiko weiter, sammeln Sie gezielte Beweise, testen Sie den konfigurierten Dienst, zeichnen Sie eine Entscheidung auf und überwachen Sie Änderungen. Auf diese Weise können SaaS-Teams schnell agieren, ohne Geschwindigkeit mit schwacher Überprüfung zu verwechseln.