Jak wdrożyć należytą staranność dostawcy AI bez spowalniania dostawy produktu

Należyta staranność wobec dostawcy sztucznej inteligencji przebiega szybko, gdy jest zaprojektowana jako przepływ pracy dotyczący produktu oparty na ryzyku, a nie jako kwestionariusz rozpoczynający się tuż przed wprowadzeniem na rynek. Zacznij od krótkiego opisu zamierzonego zastosowania, przekaż go do uproszczonej, standardowej lub ulepszonej recenzji, poproś tylko o dowody potrzebne dla tego pasa ruchu i równolegle przeprowadź kontrole prywatności, bezpieczeństwa, prawne, produktowe i handlowe. Zakończ zapisaną decyzją — zatwierdź, zatwierdź z warunkami, przeprowadź pilotaż, eskaluj lub odrzuć — i wyraź czynniki wywołujące ponowną ocenę.

Celem nie jest szybsze zatwierdzanie każdego dostawcy. Oznacza podjęcie właściwej decyzji przy mniejszej liczbie czekań, powielania i niejasności. Asystent notatek ze spotkań korzystający z informacji publicznych nie powinien podlegać temu samemu procesowi, co system sztucznej inteligencji, który obsługuje dane klientów, podejmuje działania w produkcji lub wpływa na zatrudnienie, kredyty, dostęp, bezpieczeństwo lub inny wynik.

Dlaczego recenzja dostawcy AI staje się wąskim gardłem w dostawach

Większość opóźnień zaczyna się zanim ktokolwiek dokona przeglądu dowodów. Menedżer produktu opisuje dostawcę jako „asystenta sztucznej inteligencji”, dział zaopatrzenia wysyła ogólny kwestionariusz bezpieczeństwa, dział prawniczy spóźnia się z podpisaniem umowy, a inżynierowie nie udokumentowali, które dane lub integracje zostaną wykorzystane. Recenzenci zadają różne wersje tych samych pytań, ponieważ nikt nie zdefiniował faktycznego wdrożenia.

Usługi AI zmieniają się również bardziej płynnie niż konwencjonalne SaaS. Dostawca może zmieniać dostawców modeli, kierować żądania między modelami, dodawać źródła wyszukiwania, zmieniać ustawienia przechowywania lub szkolenia, wprowadzać agentów lub dostęp do narzędzi lub zmieniać mechanizmy bezpieczeństwa. Ten sam dostawca może oferować zasadniczo różne konfiguracje dla klientów indywidualnych i przedsiębiorstw. Przeglądanie strony marki lub strony marketingowej nie pozwala zatem ustalić, czy skonfigurowana usługa jest odpowiednia.

Rozwiązaniem jest wspólny zapis operacyjny. Powinien łączyć proponowane zastosowanie, łańcuch dostawców i modeli, cykl życia danych, testy, umowę, warunki zatwierdzenia i bieżące monitorowanie. Pozwala to uniknąć problemu z ręczną recenzją dostawcy, w wyniku którego dowody i decyzje fragmentują się w skrzynkach odbiorczych, arkuszach kalkulacyjnych i zgłoszeniach.

Rozpocznij przepływ pracy od przedstawienia faktów

Staraj się, aby spożycie było na tyle krótkie, aby właściciel produktu lub firmy mógł je ukończyć przed pilotażem. Zapytaj o fakty, a nie wnioski prawne:

• cel biznesowy i oczekiwana korzyść;
• użytkownicy i osoby, na które wpływają produkty;
• wejścia, wyjścia, kategorie danych, przechowywanie i lokalizacje danych;
• model, dostawca, podprocesorzy, integracje i uprawnienia narzędziowe;
• czy wyniki informują lub determinują działania;
• opcje przeglądu ręcznego, obejścia i odzyskiwania;
• rynki, zobowiązania klientów i planowana data wprowadzenia na rynek;
• wewnętrzny właściciel biznesowy i właściciel techniczny.

Poproś wnioskodawcę o odróżnienie bieżącego zatwierdzonego zastosowania od przyszłych możliwości. „Projekt odpowiedzi na wsparcie wewnętrzne do przeglądu ręcznego” to przydatna granica. „Ulepszenie obsługi klienta dzięki sztucznej inteligencji” nie jest. Precyzyjna granica pozwala recenzentom zidentyfikować istotne dowody i zapewnia inżynierii warunek, który może wyegzekwować.

Pobór powinien rozpoczynać się od wydarzeń, które zespoły już rozpoznały: dodania dostawcy sztucznej inteligencji, włączenia funkcji sztucznej inteligencji w istniejącym produkcie, przesłania nowej kategorii danych, połączenia narzędzi produkcyjnych, ekspansji na nowy rynek, zmiany modelu lub celu, ograniczenia przeglądu ręcznego lub złożenia nowej obietnicy klientowi.

Przegląd tras według ryzyka

Użyj trzech pasów z pisemnymi kryteriami wejścia i oczekiwaniami dotyczącymi usług.

Lekka recenzja

Użyj tej opcji, aby uzyskać pomoc wewnętrzną o niewielkim wpływie na dane niewrażliwe, bez działań produkcyjnych, bez wynikających z tego decyzji, z odwracalnymi wynikami i ustaloną konfiguracją przedsiębiorstwa. Potwierdź granicę użytkowania, kontrolę konta, ustawienia danych, status umowy, dopuszczalne ograniczenia użytkowania i właściciela. Udokumentowana zgoda może wystarczyć.

Standardowa recenzja

Użyj tego, gdy informacje o kliencie lub firmie trafiają do usługi, narzędzie jest osadzone w produkcie, wyniki docierają do użytkowników zewnętrznych, integracje mogą odczytywać systemy operacyjne lub błędy mogą wyrządzić znaczące szkody. Dodaj dowody dotyczące prywatności i bezpieczeństwa, testy przypadków użycia, widoczność modelu i podprocesora, przegląd umowy, trasy incydentów i monitorowanie.

Ulepszona recenzja

Użyj tej opcji w przypadku wrażliwych danych osobowych lub regulowanych, wynikających z nich decyzji, wrażliwych grup, znaczącej autonomii, dostępu do zapisu w produkcji, trudnych do odwrócenia wyników, niepewnych dostawców lub kontekstu ustawy o sztucznej inteligencji potencjalnie wysokiego ryzyka. Wymagaj głębszej klasyfikacji, dowodów technicznych, przeglądu wpływu, testów kontradyktoryjnych lub domenowych, zgody kierownictwa lub specjalisty oraz wyraźnych warunków uruchomienia.

Te ścieżki to ścieżki decyzyjne, a nie stałe etykiety dostawców. Jeden dostawca może obsługiwać zastosowania kreślarskie o niskim ryzyku i wrażliwe zastosowania wspomagające podejmowanie decyzji. Kieruj wdrożeniem, a nie logo.

Ustaw minimalny pakiet dowodów dla każdego pasa

Żądania dowodów powinny uwzględniać zidentyfikowane ryzyko. Nie wysyłaj najdłuższego kwestionariusza do każdego dostawcy.

W przypadku dostawcy i łańcucha sztucznej inteligencji uwzględnij podmiot objęty umową, poziom produktu, hosting, dostawców modeli, odpowiednich podwykonawców, granicę usług, wersjonowanie, proces zmiany materiału i kontakty do wsparcia. Dotyczy danych, podpowiedzi map, przesłanych treści, pobranych treści, wyników, opinii, dzienników, danych pomocniczych, przechowywania, usuwania, wykorzystania w celach szkoleniowych, dostępu i dalszego ujawniania.

Aby zapewnić bezpieczeństwo i odporność, żądaj dowodów proporcjonalnych do integracji: zakresu gwarancji, kontroli dostępu, szyfrowania, izolacji dzierżawców, obsługi luk w zabezpieczeniach, powiadamiania o incydentach, odzyskiwania i bezpiecznego rozwoju. W stosownych przypadkach sprawdź szybkie wstrzykiwanie, wyciek danych, niebezpieczne użycie narzędzi, zatrute treści pobierania, obsługę wyników i kontrolę nadużyć.

Jeśli chodzi o wydajność, zapytaj, co testował dostawca, na jakich użytkownikach, językach i warunkach, na podstawie jakiego poziomu bazowego i przy jakim progu akceptacji. Ograniczenia rekordów i znane wzorce awarii. Następnie przetestuj skonfigurowane użycie na reprezentatywnych, zgodnych z prawem danych. Testy porównawcze dostawców nie odtwarzają Twoich podpowiedzi, źródeł wyszukiwania, recenzentów, integracji ani konsekwencji.

Dobrowolne ramy zarządzania ryzykiem AI opracowane przez NIST są przydatne przy projektowaniu tego procesu, ponieważ traktuje zarządzanie, mapowanie, pomiary i zarządzanie jako powiązane działania. Jego generatywny profil AI zapewnia również praktyczne odniesienie do zagrożeń związanych z osobami trzecimi, danymi, bezpieczeństwem i testowaniem. Ramy te wspierają projektowanie staranności; same w sobie nie stanowią dowodu zgodności z prawem.

Równolegle prowadź prace przeglądowe

Sekwencyjne przełączenia powodują czas bezczynności. Gdy spożycie ustali stabilną granicę, otwórzcie razem odpowiednie strumienie pracy:

• produkt potwierdza przeznaczenie, użytkowników, których dotyczy, obsługę wyników i zakres wprowadzenia na rynek;
• dokumenty inżynieryjne: przepływy danych, konfiguracja, integracje, uprawnienia, rejestrowanie i zachowanie w przypadku awarii;
• bezpieczeństwo przegląda dostęp, architekturę, pewność, obsługę incydentów i ryzyko techniczne;
• Role dotyczące prywatności i oceny prawnej, zgodne z prawem przetwarzanie, przekazywanie, powiadomienia, regulacje i warunki umowy;
• dział zakupów zarządza dokumentacją dostawcy, warunkami handlowymi, odnowieniami i eskalacją;
• zgodność lub operacje zapewniają kompletność dokumentacji i przekazywanie nierozwiązanych problemów właścicielom.

Do pracy równoległej potrzebny jest jeden koordynator i jedna lista pytań otwartych. W przeciwnym razie tworzy to jedynie jednoczesne powielanie. Zwołuj krótkie spotkanie decyzyjne tylko wtedy, gdy dowody wskazują na rzeczywisty kompromis lub pas wymaga zatwierdzenia wielofunkcyjnego.

Przekładaj luki w dowodach na decyzje

Nie każda luka wymaga odrzucenia i nie każda odpowiedź dostawcy zasługuje na akceptację. Dla każdego nierozwiązanego problemu wybierz jedno leczenie:

• uzyskać brakujący dowód lub zobowiązanie umowne;
• zmienić konfigurację lub ograniczyć dane;
• wąscy użytkownicy, cel, geografia, integracje lub autonomia;
• dodać przegląd ręczny, testowanie, monitorowanie lub wyłącznik awaryjny;
• przeprowadzić ograniczony czasowo projekt pilotażowy z danymi syntetycznymi lub danymi o niskim ryzyku;
• zaakceptować określone ryzyko szczątkowe za pośrednictwem właściwego organu;
• odrzucić lub odłożyć użycie.

Warunki muszą być testowalne. „Nie wprowadzaj danych osobowych” jest słabe, jeśli interfejs to akceptuje i nikt nie monitoruje użycia. Silniejszy warunek łączy ograniczenia dostępu, zatwierdzone reguły wprowadzania danych, wskazówki dla użytkownika, konfigurację, monitorowanie i właściciela.

Umowa powinna podążać za dowodami. W zależności od ryzyka, adresu dozwolonego użycia, szkolenia w zakresie danych klientów, dostawców modeli, podwykonawców przetwarzania, lokalizacji, środków bezpieczeństwa, powiadomienia o incydencie, dokumentacji, dowodów audytu, istotnych zmian, ograniczeń wydajności, wsparcia, usunięcia, przenośności, ciągłości, odpowiedzialności i wyjścia. Umowa nie może zmienić nieodpowiedniego systemu w odpowiedni, ale może chronić prawa do informacji i sprawić, że obietnice operacyjne staną się wykonalne.

Konto dla ustawy o sztucznej inteligencji i obowiązków związanych z RODO

Nie proś sprzedawcy o podjęcie decyzji o Twojej roli prawnej lub klasyfikacji. Zgodnie z ustawą UE o sztucznej inteligencji obowiązki zależą od systemu, jego przeznaczenia, kategorii ryzyka i pozycji w łańcuchu wartości. Artykuł 25 określa okoliczności, w których dystrybutor, importer, podmiot wdrażający lub inna strona trzecia może stać się dostawcą systemu wysokiego ryzyka, co obejmuje pewną zmianę marki, istotne modyfikacje lub zmiany zamierzonego celu. Artykuł 26 określa obowiązki podmiotów wdrażających systemy wysokiego ryzyka, w tym odpowiednie środki mające na celu przestrzeganie instrukcji użytkowania. Zapisz uzasadnienie klasyfikacji i założenia dotyczące rzeczywistego wdrożenia.

Jeżeli sprzedawca przetwarza dane osobowe w imieniu firmy, staranność przetwarzania danych zgodnie z RODO nie kończy się na zebraniu umowy o przetwarzaniu danych. Wytyczne EROD wyjaśniają, że administratorzy muszą ocenić, czy podmioty przetwarzające zapewniają wystarczające gwarancje, w oparciu o okoliczności, oraz że ocena ta nie ma jedynie charakteru formalnego. Dopasuj postanowienia umowne do wdrożonego poziomu, łańcucha podprocesorów, konfiguracji, przepływu danych i praktyki operacyjnej.

Dlatego też staranność operacyjna łączy analizę prawną z kontrolami technicznymi. Notatka dotycząca roli bez wymuszonych granic zastosowań jest delikatna; bezpieczna konfiguracja bez zgodnego z prawem i udokumentowanego celu przetwarzania jest niekompletna.

Zapisz decyzję w jednym trwałym rejestrze

Ostateczny zapis powinien wykazywać:

• dostawca, usługa, model lub wersja, właściciel, recenzenci i data;
• zatwierdzone i zabronione zastosowania, użytkownicy, dane, integracje i położenie geograficzne;
• pasy ryzyka, role prawne, uzasadnienie klasyfikacji i założenia;
• sprawdzone dowody, przeprowadzone badania, ustalenia i otwarte luki;
• kontrole kontraktowe i ograniczenia operacyjne;
• decyzja, osoby zatwierdzające, warunki, właściciele i terminy;
• sygnały monitorujące, drogę zdarzenia, datę ważności i czynniki wyzwalające ponowną ocenę.

Link do materiału dowodowego zamiast wklejania dokumentów do akt. Zachowaj sprawdzoną wersję, aby późniejsze aktualizacje dostawcy nie zastąpiły po cichu podstawy do zatwierdzenia. To również sprawia, że ​​gromadzenie dowodów jest częścią dostawy i poprawia jakość odpowiedzi klientów, audytów i inwestorów.

Monitoruj zmiany po zatwierdzeniu

Zatwierdzenie jest ważne w określonym zakresie, a nie na zawsze. Otwórz ponownie przegląd, gdy zmieni się zamierzony cel, grupa użytkowników, kategoria danych, rynek, model, dostawca, podmiot przetwarzający, integracja, autonomia, nadzór ludzki, przechowywanie, wykorzystanie w szkoleniach lub umowa. Incydenty, istotne awarie w działaniu, zmiany regulacyjne i wiarygodne obawy klientów również powinny powodować przegląd.

Poproś dostawców o powiadomienia o zmianach materiałowych, ale nie polegaj wyłącznie na powiadomieniach. Informacje o wydaniu produktu, inwentarze konfiguracji, odnawianie zamówień, monitorowanie bezpieczeństwa, raporty użytkowników i okresowe atesty właścicieli mogą ujawnić odchylenia. Ustaw datę przeglądu w oparciu o ryzyko i cykl kontraktu.

Te ciągłe dowody stanowią część szerszego zarządzania sztuczną inteligencją oczekiwanego od dostawców SaaS. Tworzy także pakiet do wielokrotnego użytku na potrzeby należytej staranności inwestora, zamiast zmuszać zespoły do ​​późniejszego rekonstruowania decyzji.

Typowe błędy operacyjne

Rozpocznie się po zakończeniu pilotażu. Prawdziwe dane, użytkownicy i integracje mogą już zostać ujawnione przed rozpoczęciem przeglądu.

Sprawdzanie dostawcy zamiast zastosowania. Renomowany dostawca może w dalszym ciągu nie nadawać się do określonej konfiguracji lub konsekwencji.

Traktowanie certyfikatów jako zatwierdzenia. Raporty weryfikacyjne są pomocne, ale zakres, data, wyjątki, zachowanie sztucznej inteligencji i wdrożony przepływ pracy nadal wymagają oceny.

Ulepszenie każdej recenzji. Nadmierna recenzja powoduje rutynowe obejście procesu i ukrywa naprawdę wrażliwe sprawy w dużej kolejce.

Pozwala każdej funkcji na zachowanie własnej decyzji. Sprzeczne zgłoszenia, arkusze kalkulacyjne i notatki do umów uniemożliwiają wyjaśnienie lub monitorowanie zatwierdzenia.

Zatwierdzanie jednokrotne. Zmieniają się modele, ustawienia, dane, podwykonawcy przetwarzania i zamierzone zastosowania. Decyzja bez wyzwalaczy ponownej oceny wygasa w trybie cichym.

Praktyczne 30-dniowe wdrożenie

W pierwszym tygodniu zdefiniuj spożycie, wyzwalacze i trzy ścieżki przeglądu. Skorzystaj z najnowszych recenzji dostawców, aby sprawdzić, czy pytania odróżniają zastosowania niskiego ryzyka od zastosowań wrażliwych.

W drugim tygodniu przypisz właścicieli i minimalne dowody. Twórz żądania wielokrotnego użytku dotyczące dostawcy, danych, bezpieczeństwa, wydajności, zarządzania i dowodów kontraktowych. Określ, kto może zatwierdzić każdy pas ruchu i kto może zaakceptować ryzyko szczątkowe.

W trzecim tygodniu połącz przepływ pracy z planowaniem produktu, wdrażaniem dostawców, przeglądem bezpieczeństwa i prywatności oraz gotowością do wydania. Skonfiguruj jeden rekord decyzji i jeden widok otwartych spraw.

W czwartym tygodniu przeprowadź proces dwóch prawdziwych dostawców: jednego prostego i drugiego wrażliwego. Zmierz czas oczekiwania, powtarzające się pytania, nierozwiązane kwestie własności i luki w dowodach. Usuń pytania, które nigdy nie zmieniają decyzji i wzmocnij kontrole tam, gdzie recenzenci nadal opierają się na założeniach.

Często zadawane pytania

Jaki jest praktyczny cel badania due diligence dostawcy sztucznej inteligencji?

Daje możliwą do obrony decyzję o tym, czy i w jaki sposób można wykorzystać konkretną usługę AI. Dobry proces wcześnie wykrywa istotne ryzyko, przypisuje kontrole i przechowuje dowody dla klientów, audytów, incydentów i ponownej oceny.

Kiedy należyta staranność dostawcy AI ma zastosowanie do zespołów SaaS?

Stosuj przynajmniej uproszczoną recenzję za każdym razem, gdy usługa sztucznej inteligencji innej firmy wchodzi do przepływów pracy firmy lub produktu. Zwiększ głębokość, gdy wykorzystanie obejmuje wrażliwe dane, użytkowników zewnętrznych, wyniki, autonomię, integrację klientów, niepewnych dostawców lub potencjalnie regulowane konteksty.

Co zespoły powinny najpierw udokumentować lub zmienić?

Dokumentuj zamierzone zastosowanie, użytkowników, osoby, których to dotyczy, dane, integracje, wyniki, przegląd ręczny i dalsze działania. Następnie zdefiniuj ścieżki ryzyka, właścicieli, minimalne dowody, uprawnienia decyzyjne i czynniki wyzwalające ponowną ocenę.

Jak to pozwala uniknąć spowolnienia dostawy produktu?

Rozpoczyna przegląd wcześniej, oddziela zastosowania rutynowe od zastosowań wrażliwych, równolegle przeprowadza odpowiednie kontrole, ponownie wykorzystuje dowody i przekształca luki w wyraźne warunki. Zespoły spędzają mniej czasu czekając na niejasne przekazania, podczas gdy decyzje o większym ryzyku poświęcają więcej uwagi.

Należyta staranność wobec dostawcy sztucznej inteligencji powinna sprawić, że ścieżka akceptacji będzie przewidywalna. Określ zakres rzeczywistego zastosowania, kieruj się według ryzyka, zbierz ukierunkowane dowody, przetestuj skonfigurowaną usługę, zapisz decyzję i monitoruj zmiany. W ten sposób zespoły SaaS działają szybko, nie myląc szybkości ze słabą recenzją.