Qué es la gobernanza de agentes de IA y qué rige en Colombia
La gobernanza de agentes de IA es cómo una empresa decide y comprueba qué hace cada agente, con qué datos, cuánto gasta, cuándo para y qué rastro deja. En Colombia no hay ley de IA, pero la Ley 1581 de 2012 y la Circular 002 de 2024 de la SIC ya aplican cuando un agente trata datos personales.
Si ya tienes un agente respondiendo correos, o apenas sospechas que medio equipo usa IA a escondidas, esto es para ti. Sin regaños y con un punto de partida barato para esta misma semana.
¿Qué es la gobernanza de agentes de IA?
Un chatbot responde preguntas. Un agente de IA hace mandados: planea y ejecuta acciones en varios pasos (consulta una base de datos, llena un formulario, envía un correo) sin que una persona apruebe cada movimiento.
Piensa en él como un practicante nuevo: rápido, incansable y demasiado seguro de sí mismo. Darle acceso total "para que no se trabe" es entregarle la chequera firmada el primer día: puede salir bien, pero no es un plan.
Gobernarlo no es guardar un PDF en una carpeta que nadie abre. Son las reglas, permisos, límites y registros que te dejan responder cinco preguntas sobre cada agente:
- ¿Qué puede hacer? Qué herramientas, sistemas y acciones tiene permitidos.
- ¿Qué recibe y qué responde? Qué datos entran y qué información sale.
- ¿Cuánto gasta? Cuántos tokens consume por tarea y cuál es su tope.
- ¿Cuándo para? Cuándo se detiene y cuándo pide aprobación humana.
- ¿Qué deja registrado? Qué queda guardado para auditarlo después.
Si alguna te deja en silencio incómodo, ya sabes por dónde empezar.
¿Por qué la gobernanza de agentes importa ahora?
Porque los agentes llegaron más rápido que las reglas. Cuatro datos lo resumen:
- 53% de las organizaciones encuestadas en Colombia usa agentes autónomos, y 40% de las direcciones empresariales admite que su uso de IA no tiene gobernanza formal o no está autorizado (KnowBe4, citado por Impacto TIC).
- 77% de las empresas sufrió alguna consecuencia negativa de un agente no gobernado, y solo 42% tiene un registro centralizado de agentes (estudio de Redwood Software con 300 líderes senior, octubre de 2026).
- Cerca de 8 de cada 10 empresas en Iberoamérica no tienen gobernanza sobre sus agentes (CIONET y NTT Data, citados por DPL News).
- Menos de 1 de cada 5 organizaciones latinoamericanas tiene marcos formales de gobernanza de IA (RSM).
Control de gastos: ¿quién vigila la factura de tokens?
Los tokens son los pedacitos de texto por los que cobran los modelos de IA. En un chatbot, cada pregunta es una cuenta pequeña. En un agente, una sola tarea puede implicar leer documentos, planear y reintentar, y cada vuelta suma. En el estudio de Redwood, los costos inesperados en la nube fueron la consecuencia más común.
Ejemplo inventado: un agente que resume tickets se topa con un adjunto que no puede abrir y reintenta toda la noche. Nadie lo nota, porque técnicamente "está trabajando". El susto llega con la factura, y nadie sabe qué agente la generó.
Tampoco le darías al practicante una tarjeta corporativa sin cupo. Tres controles lo evitan:
- Topes por tarea y por día. Límite de gasto, pasos e intentos: al llegar ahí, el agente para y avisa.
- Gasto visible por agente y equipo. Lo que no tiene dueño, nadie lo cuida.
- El modelo adecuado para cada tarea. Clasificar un correo no pide el modelo más caro. Un esquema multimodelo, con un AI Gateway, reparte el trabajo y deja el gasto a la vista.
Prompt injection: ¿qué pasa si un correo le da órdenes a tu agente?
El prompt injection es un ataque en el que un texto logra cambiar el comportamiento de una IA sin que nadie lo haya autorizado. OWASP lo pone de primero en su lista de riesgos de 2025 para aplicaciones con modelos de lenguaje, y advierte que ese texto puede ser imperceptible para una persona.
A tu practicante le dejan una nota en el escritorio firmada "el jefe", y él obedece. Dos ejemplos inventados:
- El correo. Un agente de cuentas por pagar lee facturas. Una llega con una línea en letra blanca sobre fondo blanco que le pide cambiar la cuenta bancaria del proveedor. Tú ves una factura normal; el agente, una instrucción.
- El documento. Un agente filtra hojas de vida. Un PDF esconde una frase que le pide recomendar a ese candidato. El resultado se ve impecable y está torcido.
La prueba rápida: ¿tu agente lee cosas de afuera y además puede actuar? Entonces esto te aplica. OWASP reconoce que no está claro que exista una prevención infalible, así que la meta es limitar el daño:
- Permisos mínimos. Leer facturas no debería implicar poder editar cuentas bancarias.
- Aprobación humana para lo sensible. Pagos, cambios de datos y envíos masivos pasan por una persona.
- Lo de afuera es dato, no orden. Separa y marca el contenido no confiable, y filtra lo que entra y lo que sale.
¿Qué rige hoy en Colombia si no hay ley de IA?
Según la guía de Porcontar (actualizada en octubre de 2026), la Corte Constitucional reconoció en la Sentencia C-212 de 2026 que Colombia todavía no tiene una regulación integral de la IA. Pero sin ley no significa sin reglas: como explica un análisis de la Universidad de La Sabana en Asuntos Legales, la protección de datos ya cubre a la IA que trata datos personales.
| Norma | A quién obliga | Qué pide |
|---|---|---|
| Ley 1581 de 2012 | A toda empresa que trate datos personales | Autorización del titular, finalidad informada, seguridad y respeto de sus derechos |
| Circular Externa 002 de 2024 de la SIC | A quien desarrolle o use IA con datos personales | Filtros de idoneidad, necesidad, razonabilidad y proporcionalidad; responsabilidad demostrada; privacidad desde el diseño; estudio de impacto si el riesgo es alto |
| CONPES 4144 de 2025 | A las entidades públicas, no a las privadas | Nada directo a tu empresa, pero marca la dirección del país |
| Proyecto de Ley 025 de 2026 (Cámara) | Hoy a nadie | En la Comisión Sexta, sin primer debate, según Porcontar |
Según la misma guía, incumplir la Ley 1581 puede costar multas de hasta 2.000 salarios mínimos mensuales. El detalle está en Cumplimiento normativo en Colombia.
Este artículo es orientación general y no constituye asesoría jurídica. Revisa tu caso con tu área jurídica.
¿Quién responde si un agente de IA se equivoca?
En la práctica, tu empresa. El análisis de Natalia Alarcón Rueda, de Posse Herrera Ruiz, en Asuntos Legales describe al agente como una "extensión digital de la voluntad de la empresa". La cuenta puede llegar por compromisos que no puedes cumplir, tratos discriminatorios, brechas de seguridad o información engañosa al consumidor.
La receta: cada agente necesita una persona que rinda cuentas, con nombre y cargo, y tareas en las que se detiene y pide aprobación, como firmar contratos o fijar condiciones comerciales.
Empieza esta semana: dos checklists
Respira: estás en la mayoría. No necesitas un comité, un manual de cien páginas ni presupuesto nuevo. Basta con una hoja de cálculo y un par de conversaciones.
Antes, una distinción corta. La gobernanza de IA ordena quién usa qué IA y con qué datos en toda la empresa. La de agentes se monta encima y controla lo que un agente hace por su cuenta: es pasar de controlar respuestas a controlar acciones. Si aún no tienes agentes, empieza por la primera lista. Si ya los tienes, haz las dos en paralelo y arranca por el agente que toca plata o clientes.
Checklist 1: gobernanza de IA (toda la empresa)
- Pregunta sin regañar. Averigua qué herramientas de IA usa cada área, incluidas las que nadie aprobó. Si suena a castigo, nadie te va a contar la verdad.
- Haz la lista. Herramienta, área, datos que toca y quién responde por ella.
- Escribe una política de una página. Qué está aprobado, qué datos no se comparten nunca (clientes, empleados, contratos) y a quién preguntar.
- Revisa la factura. Mira cuánto pagas hoy por IA y activa las alertas o topes de gasto de tu proveedor, si los tiene.
- Revisa los contratos con tus proveedores de IA. Quién es responsable, quién encargado y si hay transferencias internacionales de datos.
Checklist 2: gobernanza de agentes de IA (cada agente)
- Ponle dueño. Cada agente tiene una persona que rinde cuentas, con nombre y cargo.
- Recórtale permisos. Quita lo que no necesita para su tarea.
- Define dónde para. Pagos, contratos, cambios de datos y envíos masivos pasan por aprobación humana.
- Ponle topes. Límite de gasto, pasos e intentos por tarea y por día.
- Trata lo de afuera como dato. Filtra lo que entra y lo que sale, sobre todo si lee correos o documentos.
- Deja rastro. Una identidad propia para el agente y un registro de cada acción.
Ninguna de las dos te deja cumpliendo la Ley 1581 por arte de magia, pero te da visibilidad. La segunda la ordenamos a fondo con el modelo E-T-C-S-L-V, que revisa las seis funciones del harness de un agente: la capa de software que lo rodea y controla cómo actúa.
¿Qué herramientas ayudan a gobernar la IA?
Ninguna herramienta gobierna sola, pero varias piezas, muchas de código abierto, hacen el trabajo pesado. Un AI Gateway, como LiteLLM, se pone entre tus agentes y los modelos: aplica los topes de gasto, elige el modelo adecuado para cada tarea y frena lo que no debe pasar. Presidio, de Microsoft, encuentra y enmascara datos personales (nombres, cédulas, cuentas) antes de que lleguen al modelo. Los guardianes, clasificadores como Prompt Guard, de Meta, revisan cada texto que entra en busca de prompt injection, y los jueces, un segundo modelo que evalúa lo que el agente va a hacer, atrapan lo que se le escapa al guardián. MLflow guarda la traza de cada ejecución: con qué instrucciones trabajó el agente, qué herramientas usó, quién aprobó y cuánto costó. Todas se pueden cambiar por las que ya usa tu empresa: lo que importa es cómo se conectan alrededor del agente.
¿Te damos una mano?
Gobernar la IA no frena la innovación: te deja escalarla sin sorpresas. En Real Innovation Tech tenemos un demo en el que todas estas piezas trabajan juntas. en el ves en vivo qué se bloquea, qué espera la aprobación de una persona y cuánto cuesta cada ejecución.
Agenda una reunión para verlo, o conoce el servicio de gobernanza de agentes de IA. Y si quieres ver cómo trabajamos con cifras, mira nuestros casos de éxito en el blog.
