Lista de control de supervisión humana

La supervisión debe poder cambiar el resultado. Para sistemas de alto riesgo, el artículo 14 del Reglamento de IA exige medidas proporcionales; el artículo 26 exige que el responsable del despliegue asigne personas con competencia, formación, autoridad y apoyo. Primero clasifique el sistema y el papel de la empresa.

Diez comprobaciones

1. Defina sistema, finalidad, salida, acción posterior, personas afectadas, daño y reversibilidad.
2. Confirme clasificación, papel de proveedor o responsable del despliegue, fundamento y activadores de reevaluación.
3. Asigne un revisor competente con formación, tiempo, sustituto y procedimiento de ausencia.
4. Muestre entradas, salida, fuentes, contexto, límites, incertidumbre y datos ausentes.
5. Permita aceptar, corregir, descartar, aplazar, revertir, escalar y detener de forma segura.
6. Active revisión ante datos conflictivos, anomalías, quejas, deriva, discriminación o uso fuera de finalidad.
7. Evite sesgos de automatización: no favorezca la aceptación y analice tasas de anulación anormalmente bajas.
8. Pruebe falsos positivos y negativos, falta de datos, ausencia del revisor, sobrecarga, anulación y parada.
9. Conserve análisis, procedimiento, formación, accesos, pruebas, registros, incidentes y correcciones.
10. Integre el control en producto, ingeniería, operaciones, gestión de proveedores y revisiones jurídica y de cumplimiento.

Repita la lista tras cambios de modelo, datos, finalidad, umbral, interfaz, usuarios, proveedor o función del revisor, y después de incidentes o quejas.

FAQ

¿Basta una casilla «human in the loop»?

No. Se necesitan información útil, competencia, tiempo, autoridad, opciones técnicas y un escalado probado.

¿Cuál es el mayor error?

La supervisión simbólica: incluir a una persona que no puede comprender ni cambiar el resultado.