Lista de verificação de supervisão humana

A supervisão tem de poder mudar o resultado. Para sistemas de alto risco, o artigo 14.º do AI Act exige medidas proporcionais e o artigo 26.º exige pessoas competentes, formadas, autorizadas e apoiadas. Classifique primeiro o sistema e o papel da empresa.

Dez verificações

1. Defina sistema, finalidade, output, ação, pessoas afetadas, dano e reversibilidade.
2. Confirme classificação, papel, fundamento e gatilhos de reavaliação.
3. Nomeie um revisor competente com formação, tempo, substituto e regra de indisponibilidade.
4. Mostre inputs, output, fontes, contexto, limitações, incerteza e dados em falta.
5. Permita corrigir, rejeitar, adiar, reverter, escalar e parar com segurança.
6. Ative revisão perante conflitos, anomalias, reclamações, drift, discriminação ou uso indevido.
7. Limite o automation bias e investigue taxas de anulação anormalmente baixas.
8. Teste falsos positivos e negativos, dados ausentes, indisponibilidade, sobrecarga, anulação e paragem.
9. Guarde análise, procedimento, formação, acessos, testes, logs, incidentes e correções.
10. Integre o controlo em produto, engenharia, operações, fornecedores, jurídico e conformidade.

Repita a lista após mudanças no modelo, dados, finalidade, limiar, interface, utilizadores, fornecedor ou papel, e após incidentes.

FAQ

Basta uma caixa «human in the loop»?

Não. São necessárias informação útil, competência, tempo, autoridade, opções técnicas e escalada testada.

Qual é o maior erro?

Supervisão simbólica: uma pessoa aparece no processo, mas não consegue compreender nem mudar o resultado.