Prepararse para el EU AI Act con agentes autónomos

Los agentes autónomos son exactamente el tipo de sistema que el EU AI Act se escribió para gobernar: software que toma decisiones o las condiciona de forma sustancial, a menudo en ámbitos de alto riesgo, con poca visibilidad humana sobre cómo llegó a un resultado. Las obligaciones no son abstractas. Para los sistemas de alto riesgo, la norma exige supervisión humana, registro y trazabilidad del funcionamiento, control de acceso y vigilancia poscomercialización. La buena noticia es que cada obligación se reduce a un control del runtime que se puede aplicar y a un registro que se puede exportar.

Una nota de honestidad antes que nada: ningún proveedor de software puede entregarle una certificación. Cortex está diseñado para las obligaciones de la norma y alineado con ellas — aplica los controles y genera la evidencia — pero la responsabilidad regulatoria sigue siendo suya. Cualquier cosa que afirme lo contrario debería inquietarle.

De la obligación al control, una correspondencia cada vez

La clave de la preparación operativa es dejar de tratar la norma como prosa y empezar a tratar cada obligación como una puerta. Así encajan las obligaciones básicas de alto riesgo con el runtime de Cortex:

• Supervisión humana de las decisiones de alto riesgo -> Oversight Modes más la puerta de aprobación. Una acción de alto riesgo queda pendiente de un aprobador designado en lugar de ejecutarse automáticamente; la decisión y el aprobador quedan registrados.
• Registro y trazabilidad del funcionamiento -> el Trust Ledger con detección de manipulación. Cada ejecución y cada decisión se encadenan por hash, y verifyChain demuestra que el log nunca se alteró.
• Acceso limitado a roles autorizados -> Agent IAM más los permisos de la ontología. Una lectura restringida devuelve 403; una identidad caducada ni siquiera puede emitir un token.
• Límites de recursos y de gasto -> los topes estrictos de la gobernanza de costes. Una ejecución fuera de presupuesto devuelve 402 en lugar de ejecutarse sin límite.
• Decisiones ancladas en fuentes reales -> la procedencia a nivel de dato. Cada hecho mostrado enlaza a través de una cadena de linaje con su documento, página y recuadro de origen.

Supervisión humana que se puede demostrar

"Supervisión humana" es la obligación que los equipos despachan con más ligereza. La norma no pregunta si una persona podría intervenir en principio; pregunta si la supervisión es real y efectiva. Cortex la concreta con un espectro de Oversight Modes — desde suggest_only, donde el agente solo puede proponer y toda acción queda pendiente, hasta autonomous, donde solo queda pendiente el piso de riesgo propio de la acción. La propiedad crucial es que el piso de riesgo alto de la acción es un piso: la supervisión puede endurecerlo pero nunca relajarlo, de modo que las decisiones más arriesgadas siempre mantienen a una persona en el circuito.

Cuando una persona sí interviene — incluida una anulación de emergencia de tipo break-glass — la decisión lleva un motivo obligatorio y auditado y emite un evento en el ledger. La supervisión que no deja rastro no es supervisión; la que se demuestra a sí misma, sí.

Trazabilidad que resiste a un inspector

Un registro vale lo que vale su integridad. Un log que se puede editar en silencio es peor que no tener log, porque genera falsa confianza. Cortex sella cada evento de auditoría en un ledger encadenado por hash y puede verificar la integridad sobre cualquier rango — devolviendo el número de secuencia exacto donde se rompió la cadena si alguien la manipuló:

GET /v1/audit/verify?fromSeq=1&toSeq=20000
  -> { "ok": true, "brokenAtSeq": null,
       "head": { "seq": 20000, "hash": "..." } }

# manipule cualquier registro y la misma llamada
# devuelve ok:false con el número de secuencia roto.

Asignar, aplicar, demostrar

Prepararse es un ciclo de tres pasos, no un proyecto puntual. Asigne cada obligación a la puerta del runtime que la aplica. Aplíquela en cada ejecución, para que un control denegado devuelva un código real en lugar de una aprobación silenciosa. Después demuéstrelo exportando un Compliance Pack — la tabla de correspondencia entre obligaciones y controles más los registros sellados del ledger que muestran que cada control se activó, verificables sin conexión.

Hecho así, la norma deja de ser una carga de cumplimiento añadida al final y pasa a describir cómo se comporta ya su runtime. La evidencia se genera como subproducto de la operación gobernada — nunca se monta a mano la semana antes de una auditoría.