Cuando aplican los modelos de IA de proposito general y que hacer despues

Los modelos de IA de proposito general aplican a un equipo SaaS cuando la empresa proporciona, integra, despliega, fine-tunea, configura o depende materialmente de un modelo capaz de realizar muchas tareas. La primera pregunta no es si la empresa es un laboratorio de modelos. Es donde estan los modelos en producto, proveedores, workflows internos, compromisos con clientes y evidencia.

El AI Act situa estas obligaciones en el capitulo V. El articulo 53 exige documentacion tecnica, informacion para proveedores downstream, politica de copyright y resumen publico del contenido de entrenamiento. El articulo 55 anade obligaciones para modelos con riesgo sistemico. El articulo 51 explica la clasificacion de riesgo sistemico.

Cuando aplica en la practica

Aplica cuando un producto o proceso depende de un modelo general: API, copilot, resumen de documentos, recomendaciones, clasificacion, respuestas de soporte, busqueda, generacion de texto o codigo, o workflows configurables por clientes.

Tambien aplica internamente. Soporte, ventas, seguridad u operaciones pueden usar IA de una forma que crea preguntas de privacidad, seguridad, copyright, confianza del cliente y mapeo de roles.

Cuando puede no ser el tema principal

En uso interno de baja criticidad, la pregunta principal puede ser uso aceptable, confidencialidad y seguridad, no una analisis completo de proveedor de modelo. Pero una conclusion de "no aplica" debe documentarse. Un piloto pequeno puede convertirse en dependencia de producto.

Paso 1: inventario de modelos

Lista APIs alojadas, modelos open source, modelos fine-tuned, funciones de vendors, herramientas internas, copilots, asistentes de soporte, analytics y workflows configurables por clientes.

Para cada entrada, captura modelo, proveedor, version, hosting, caso de uso, owner, datos, exposicion a clientes, outputs relevantes, fine-tuning, configuracion por clientes y documentacion del proveedor.

Paso 2: mapa de roles

Determina si la empresa es proveedor del modelo, proveedor downstream de un sistema de IA, deployer, usuario de una funcion vendor o modificador de un modelo. Esa rol define obligaciones y expectativas de evidencia.

El mapa debe vivir en product intake, vendor review, security, privacy, arquitectura, launch readiness y documentacion customer trust.

Paso 3: evidencia del proveedor

Si hay un modelo externo, recopila evidencia temprano. Pide capacidades, limites, usos permitidos, versiones, avisos de cambio, seguridad, evaluacion, retencion, uso de datos para entrenamiento, copyright, resumen de entrenamiento e incidentes.

Si el proveedor menciona riesgo sistemico, pregunta que evidencia del articulo 55 esta disponible y que cambios generan aviso.

Paso 4: ruta de revision

No todo uso necesita la misma revision. Revision ligera para productividad interna aprobada. Revision estandar para funciones vendor, copilots, soporte, analytics o outputs visibles al cliente. Revision reforzada para datos sensibles, clientes regulados, fine-tuning, dependencia critica o configuracion por clientes.

Cada revision debe terminar en approved, approved with conditions, blocked o more facts needed. Las condiciones necesitan owner y fecha.

Paso 5: disparadores de cambio

Las decisiones envejecen rapido. Nuevo proveedor, nueva version, nuevo feature, nuevos datos, cliente regulado, fine-tuning, cambio de hosting, cambio de politica vendor, incidente o cambio importante de comportamiento deben reabrir revision.

FAQ

Para que sirve esta gobernanza?

Para saber donde afectan los modelos, que rol tiene la empresa, que evidencia existe, que controles aplican y cuando hay que revisar otra vez.

Cuando aplica a SaaS?

Cuando el equipo proporciona, integra, despliega, configura, fine-tunea o depende de un modelo en producto, workflow interno, proveedor, promesa comercial o revision enterprise.

Que documentar primero?

Inventario de modelos y mapa de roles. Luego evidencia del proveedor, version, caso de uso, datos, clientes, seguridad, privacidad, copyright, limites, monitoreo, cambios y respuestas aprobadas.

Sources

• Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence.
• European Commission AI Act Service Desk, Article 51, Article 53, Article 55, Article 56 and Article 113.