Due diligence dostawców AI: praktyczny przewodnik dla zespołów SaaS

Due diligence działa, gdy zmienia proponowane zastosowanie w dającą się obronić decyzję operacyjną. Zespół powinien rozumieć funkcję, dane i osoby objęte wpływem, dostawców modeli i infrastruktury, testy, role prawne, zobowiązania umowne oraz monitoring zmian. Wynikiem nie jest wypełniony kwestionariusz, lecz zgoda, zgoda warunkowa, ograniczony pilotaż, eskalacja lub odmowa z uzasadnieniem i właścicielami.

Unijny AI Act nie zawiera jednej uniwersalnej listy „AI vendor due diligence”. Zakres zależy od systemu, celu, klasyfikacji, roli w łańcuchu wartości, przetwarzania danych i regulacji sektorowych. Asystent notatek i system klasyfikujący kandydatów wymagają innych ocen. Zacznij od zastosowania i żądaj dowodów proporcjonalnych do skutków.

Dlaczego zwykła ocena dostawcy nie wystarcza

Dostęp, szyfrowanie, dostępność, podprocesorzy, incydenty i usuwanie nadal są ważne. Usługa AI może jednak zmieniać modele, źródła retrieval, filtry albo wykorzystanie promptów i wyników bez tradycyjnego wydania. Jakość może różnić się według języka, grupy czy danych wejściowych, a „wsparcie decyzji” pod presją stać się faktyczną decyzją.

Oceniaj dostawcę i system: firmę, hosting, modele, bezpieczeństwo, umowę i ciągłość; a także cel, użytkowników, osoby objęte wpływem, dane, zachowanie, nadzór człowieka, integracje i dalsze działania. Ich rozdzielenie odtwarza problem ręcznych przeglądów podczas skalowania.

Kiedy pogłębić ocenę

Pogłębiona ocena jest zasadna, gdy do usługi trafiają dane osobowe, poufne, regulowane lub klienta; wynik wpływa na istotne decyzje; usługa działa autonomicznie lub zmienia produkcję; łączy wiedzę własną; błędy trudno wykryć lub odwrócić; łańcuch jest niejasny; albo awaria powoduje istotną szkodę.

Nie wyprowadzaj klasyfikacji z marketingu. W AI Act liczą się cel i rola. Artykuł 25 może przenieść obowiązki dostawcy przy rebrandingu, istotnej zmianie lub nowym celu wysokiego ryzyka. Dostawcy systemów wysokiego ryzyka i podmioty dostarczające komponenty muszą wymieniać potrzebne informacje na podstawie pisemnych ustaleń. Na 30 sierpnia 2026 r. duża część AI Act ma zastosowanie; zmienione daty dla wysokiego ryzyka to 2 grudnia 2027 r. dla załącznika III i 2 sierpnia 2028 r. dla produktów regulowanych. To czas na przygotowanie.

Jakich dowodów żądać

1. System i łańcuch: granica, modele i dostawcy, regiony, integracje, źródła, podprocesorzy, dozwolone i zakazane zastosowania, ograniczenia, wersje i powiadomienia.
2. Dane i prywatność: cel, lokalizacja, dostęp, retencja, usuwanie, trening i dalsze przekazanie promptów, plików, wyników, feedbacku, metadanych i logów. Gdy dostawca jest procesorem RODO, art. 28 wymaga wystarczających gwarancji i zgodnej umowy. EROD opisuje indywidualną i ciągłą ocenę wiedzy, wiarygodności, zasobów, polityk, audytów i certyfikatów.
3. Bezpieczeństwo i odporność: raporty i zakres, podatności, incydenty, szyfrowanie, tożsamość, izolacja, odtwarzanie i zależności. Dla GenAI: prompt injection, wycieki, niebezpieczne narzędzia i zatrute źródła.
4. Skuteczność i wpływ: badane grupy i języki, baseline, progi, warunki, ograniczenia i błędy. Testuj własną konfigurację, trudne wejścia, eskalację, interwencję człowieka i odzyskanie.
5. Governance: właściciele dostawcy dla bezpieczeństwa, prywatności, AI governance, incydentów i zawiadomień; wewnętrzni właściciele biznesu i ryzyka; skargi, szkodliwe wyniki i dowody po zakończeniu.

Dobrowolny NIST AI RMF wskazuje polityki, udokumentowane kontrole, plany awaryjne i monitoring AI stron trzecich. Profil GenAI wymienia due diligence zakupowe, SLA, raporty assurance i przejrzystość łańcucha. To wskazówki projektowe, nie dowód zgodności prawnej.

Umowa i decyzja

Umowa powinna wynikać z dowodów: cel, użytkownicy i dane; trening; modele, podprocesorzy, miejsca i zawiadomienia; bezpieczeństwo, incydenty i współpraca; dokumentacja; ograniczenia i nadzór; zmiany; ciągłość, przenoszenie, usunięcie i wyjście; proporcjonalna odpowiedzialność. Umowa nie naprawi złego systemu, ale chroni prawa informacyjne i środki zaradcze.

1. Opisz cel, użytkowników, osoby objęte wpływem, wejścia, wyniki, integracje, automatyzację, kontrolę człowieka i dalszą akcję.
2. Nadaj wstępny poziom i role AI Act/RODO, zapisując transfery, przepisy i niepewność.
3. Żądaj proporcjonalnych dowodów i wykorzystuj aktualne dokumenty, które odpowiadają na ryzyko.
4. Testuj skonfigurowany produkt na zgodnych z prawem reprezentatywnych danych; zachowuj wersje i wyniki.
5. Obsłuż luki przez naprawę, kontrolę kompensującą, ograniczenie, pilotaż, akceptację lub odrzucenie.
6. Ponów ocenę po zmianie celu, modelu, dostawcy, danych, integracji, autonomii, incydencie lub zmianie prawa.

Rejestr decyzji obejmuje produkt i wersję, dozwolone i zakazane użycie, łańcuch, poziom, role, uzasadnienie, dowody, testy, luki, umowę, decyzję, warunki, terminy i monitoring. Nowe oczekiwania AI governance wymagają aktualnych dowodów.

FAQ

Jaki jest praktyczny cel?

Obronna decyzja, czy i jak korzystać z konkretnej usługi, wczesne wykrycie luk, przydzielenie kontroli i zachowanie dowodów dla klientów, audytów, incydentów i ponownej oceny.

Co dokumentować najpierw?

Dokładne zastosowanie: użytkownicy, osoby objęte wpływem, dane, wejścia, wyniki, integracje, kontrola człowieka i dalsza akcja. Bez tej granicy nie można wiarygodnie ocenić odpowiedzi ani ról.

Jaki jest największy błąd?

Traktowanie due diligence jako jednorazowej wymiany dokumentów. Silna ocena łączy zakres, dowody, testy, umowę, warunki, monitoring i wyraźne przesłanki ponownej oceny.