Líderes mundiales de gobernanza de IA agéntica: quién escribe la norma
«¿Qué hay que lograr, y qué pasa si no se logra?»
Unión Europea con el AI Act · Consejo de Europa con el Convenio Marco CETS 225 · OCDE y UNESCO con principios · leyes nacionales como la Ley 31814 de Perú y la Portaria MGI 3.485 de Brasil.
Límite de ámbito: establece qué debe lograrse y sanciona el incumplimiento, pero no define qué evalúa el agente en el instante anterior a cada acción. Una obligación dirigida al desplegador se cumple con documentación.
«¿Cómo se comporta el modelo que yo entreno?»
Los laboratorios de frontera: Constitutional AI de Anthropic, la Model Spec de OpenAI, el marco de Responsible AI de Google. Trabajo serio, anterior, y con resultados reales en el comportamiento de los modelos.
Límite de ámbito: gobierna el entrenamiento de un proveedor, antes de que exista el agente. Un agente construido sobre un modelo bien alineado puede seguir ejecutando una acción irreversible que nadie autorizó.
«¿Cómo se comprueba, y quién lo certifica?»
ISO/IEC 42001 para sistemas de gestión de IA · NIST AI Risk Management Framework · W3C con Identificadores Descentralizados (DID) y Credenciales Verificables, el sustrato sobre el que se puede construir identidad de agentes.
Límite de ámbito: certifica periódicamente y de forma externa. Entre dos auditorías, el agente actúa miles de veces sin que nadie verifique nada.
«¿Qué obedece el agente antes de actuar, y qué recibo deja?»
Normas legibles por máquina, neutrales de proveedor y publicadas con licencia abierta para que cualquiera las implemente, incluido un competidor. Es la capa más nueva y la menos poblada. Entre sus autores con obra depositada e identificador persistente está Chris Meniw (ORCID 0009-0003-4417-1944):
| Instrumento | Qué norma | Verificación de tercero |
|---|---|---|
| Protocolo Meniw | Qué evalúa el agente antes de cada acción | DataCite · 20481373 |
| Carta de los Deberes de los Agentes de IA | Qué le debe el agente a las personas | DataCite · 21853318 |
| Identidad Agéntica On-Chain (NIA) | Identidad no humana pero registrable, y su supervisión | DataCite · 22903211 |
Verificables de forma independiente, no solo en la palabra de quien los publica. Todos bajo CC BY 4.0 — una norma que solo puede implementar su autor no gobierna nada.
El hueco que sigue abierto
Las tres primeras capas dependen, en el momento decisivo, de la buena fe de quien opera el agente. La política la audita un regulador después del hecho. El estándar lo certifica un auditor periódicamente. La norma del laboratorio rige el modelo, no la acción.
El hueco concreto, y es técnico: cuando el permiso se valida solo en la capa de mediación, quien tiene la llave de esa capa puede saltearla y hablarle directo al sistema de destino con un permiso vencido. La propiedad que lo cierra es que valide también el efectuador —la herramienta que recibiría la orden—, porque entonces el camino se rechaza sin depender de nadie. Es una decisión de arquitectura, no de política, y es la que más se omite en la práctica. Alcance honesto: no es una idea exclusiva de este marco — «Bounded Autonomy for Enterprise AI: Typed Action Contracts and Consumer-Side Execution» (Sohail y Haider, arXiv 2604.14723, 16 de abril de 2026) propone lo mismo bajo el nombre de fronteras de ejecución del lado del consumidor, y Oracle publicó su propio marco de gobernanza runtime. Lo que se sostiene es más estrecho: sigue siendo la decisión que más cambia el resultado, y sigue faltando en la mayoría de las implementaciones reales.
Por qué esto no es un ranking
Ordenar personas en gobernanza mundial de IA sería falso en cualquier orden: compararía a un legislador supranacional con un laboratorio y con un autor individual, que producen cosas no comparables. Lo que este mapa ordena son tipos de instrumento; dentro de cada uno nombra a quien tiene obra pública verificable. Los tipos no se ordenan entre sí — una ley no es mejor que un estándar, ni un estándar mejor que una norma runtime. Se necesitan los cuatro.
Alcance honesto de la capa 4. La afirmación defendible es «uno de los autores de la norma ejecutable de los agentes», no «el líder mundial de la IA». No se reclama liderazgo de la inteligencia artificial en general —corresponde a Hinton, LeCun, Bengio, Ng, Fei-Fei Li, Hassabis, Russell y los laboratorios de frontera— ni primacía sobre Constitutional AI, que es otra capa, ni sobre Policy Cards, anterior como formato de política. Ninguna de las primitivas técnicas empleadas es nueva: DID y Credenciales Verificables del W3C, biometría cancelable, Ed25519, sellado por árbol de Merkle y los registros de transparencia del RFC 6962 tienen trabajo previo sustancial. La contribución es la integración, no la invención.