Listă de verificare a supravegherii umane

Supravegherea trebuie să poată schimba rezultatul. Pentru sistemele cu risc ridicat, articolul 14 din AI Act cere măsuri proporționale, iar articolul 26 cere persoane competente, instruite, autorizate și sprijinite. Clasificați mai întâi sistemul și rolul companiei.

Zece verificări

1. Definiți sistemul, scopul, rezultatul, acțiunea, persoanele, prejudiciul și reversibilitatea.
2. Confirmați clasificarea, rolul, temeiul și declanșatoarele reevaluării.
3. Numiți un evaluator competent, cu instruire, timp, înlocuitor și procedură de indisponibilitate.
4. Afișați inputul, rezultatul, sursele, contextul, limitele, incertitudinea și datele lipsă.
5. Permiteți corectarea, respingerea, amânarea, anularea, escaladarea și oprirea sigură.
6. Declanșați evaluarea la conflicte, anomalii, plângeri, drift, discriminare sau utilizare greșită.
7. Limitați automation bias și analizați ratele neobișnuit de mici de anulare.
8. Testați rezultate false, date lipsă, absență, supraîncărcare, anulare și oprire.
9. Păstrați analiza, procedura, instruirea, accesul, testele, jurnalele, incidentele și corecțiile.
10. Integrați controlul în produs, inginerie, operațiuni, furnizori, juridic și conformitate.

Reluați lista după schimbări ale modelului, datelor, scopului, pragului, interfeței, utilizatorilor, furnizorului sau rolului și după incidente.

FAQ

Este suficientă o bifă „human in the loop”?

Nu. Sunt necesare informații utile, competență, timp, autoritate, opțiuni tehnice și escaladare testată.

Care este cea mai mare greșeală?

Supravegherea simbolică: persoana apare în proces, dar nu poate înțelege sau schimba rezultatul.