Checklista för mänsklig tillsyn

Tillsynen måste kunna ändra resultatet. För högrisksystem kräver artikel 14 i AI Act proportionerliga åtgärder och artikel 26 kompetenta, utbildade, behöriga och understödda personer. Klassificera först systemet och företagets roll.

Tio kontroller

1. Definiera system, syfte, output, efterföljande åtgärd, berörda personer, skada och reversibilitet.
2. Bekräfta klassificering, roll, grund och utlösare för omprövning.
3. Utse en kompetent granskare med utbildning, tid, ersättare och rutin vid frånvaro.
4. Visa input, output, källor, sammanhang, begränsningar, osäkerhet och saknade data.
5. Tillåt korrigering, avslag, uppskjutande, återkallande, eskalering och säkert stopp.
6. Utlös granskning vid konflikter, avvikelser, klagomål, drift, diskriminering eller felaktig användning.
7. Begränsa automation bias och granska ovanligt få åsidosättanden.
8. Testa falska resultat, saknade data, frånvaro, överbelastning, åsidosättande och stopp.
9. Spara analys, rutiner, utbildning, åtkomst, tester, loggar, incidenter och rättelser.
10. Integrera kontrollen i produkt, teknik, verksamhet, leverantörshantering, juridik och compliance.

Upprepa checklistan efter ändringar i modell, data, syfte, tröskel, gränssnitt, användare, leverantör eller roll samt efter incidenter.

FAQ

Räcker en ”human in the loop”-ruta?

Nej. Granskaren behöver användbar information, kompetens, tid, befogenhet, tekniska alternativ och testad eskalering.

Vilket är det största misstaget?

Symbolisk tillsyn: en person finns i processen men kan inte förstå eller ändra resultatet.