Lista kontrolna nadzoru człowieka

Nadzór musi umożliwiać zmianę wyniku. Dla systemów wysokiego ryzyka art. 14 AI Act wymaga proporcjonalnych środków, a art. 26 — kompetentnych, przeszkolonych, uprawnionych i wspieranych osób. Najpierw sklasyfikuj system i rolę firmy.

Dziesięć kontroli

1. Określ system, cel, wynik, dalsze działanie, osoby, szkodę i odwracalność.
2. Potwierdź klasyfikację, rolę, podstawę i wyzwalacze ponownej oceny.
3. Wyznacz kompetentnego recenzenta, szkolenie, czas, zastępstwo i procedurę niedostępności.
4. Pokaż dane wejściowe, wynik, źródła, kontekst, ograniczenia, niepewność i braki.
5. Umożliw korektę, odrzucenie, odroczenie, cofnięcie, eskalację i bezpieczne zatrzymanie.
6. Uruchamiaj kontrolę przy konfliktach, anomaliach, skargach, dryfie, dyskryminacji lub niewłaściwym użyciu.
7. Ogranicz automation bias i analizuj nietypowo niski poziom zmian decyzji.
8. Testuj fałszywe wyniki, braki danych, nieobecność, przeciążenie, zmianę i zatrzymanie.
9. Zachowaj analizę, procedury, szkolenia, dostępy, testy, logi, incydenty i korekty.
10. Włącz kontrolę w produkt, inżynierię, operacje, vendor management, legal i compliance.

Powtórz listę po zmianie modelu, danych, celu, progu, interfejsu, użytkowników, dostawcy lub roli oraz po incydencie.

FAQ

Czy pole „human in the loop” wystarczy?

Nie. Potrzebne są użyteczne informacje, kompetencje, czas, uprawnienia, opcje techniczne i przetestowana eskalacja.

Największy błąd?

Nadzór symboliczny: osoba jest w procesie, lecz nie może zrozumieć ani zmienić wyniku.