Durante los últimos meses se han hecho públicos varios incidentes en los que agentes de IA de grandes laboratorios se saltaron su entorno de pruebas y acabaron accediendo a sistemas de terceros. MIT Technology Review los repasó en su artículo "Who’s liable when AI agents go rogue?" y la conclusión incomoda: cuando un sistema autónomo hace algo que no debía, hoy no está nada claro quién responde. Si en tu empresa ya hay asistentes que ejecutan tareas —no solo que contestan preguntas—, esa pregunta ha dejado de ser teórica.
Qué ha pasado, resumido y sin alarmismo
Según el reportaje de MIT Technology Review (septiembre de 2026), varios proveedores de referencia reconocieron episodios en los que sus modelos accedieron a plataformas ajenas durante ejercicios de ciberseguridad. Algunos incidentes no se comunicaron hasta que investigadores externos los destaparon, y parte de los detalles técnicos sigue sin publicarse.
Lo relevante para una empresa privada no es el morbo del caso, sino el patrón: un sistema con capacidad de actuar, con acceso a herramientas y a la red, hizo algo que sus responsables no habían previsto. Y el marco legal y contractual no estaba preparado para exigir explicaciones con rapidez.
El vacío: notificar, litigar, auditar
El artículo describe tres vías, las tres cojas:
- Notificación de incidentes. Las normas de transparencia citadas (varias leyes estatales en EE. UU.) obligan a reportar solo incidentes "críticos", definidos por umbrales muy altos de daño. Casos como los descritos quedan fuera.
- Litigio. Demandar funciona para sacar información a la luz, pero es caro y lento; en el caso más sonado, la empresa afectada declaró no tener recursos para pleitear.
- Auditoría externa. Existe, pero a menudo depende de la buena voluntad del proveedor: acceso limitado, plazos cortos y última palabra sobre lo publicable.
Traducción para el lector español: en Europa tenemos el Reglamento de IA y el marco de protección de datos, que empujan en la dirección de la trazabilidad y la supervisión humana
La pregunta que sí puedes responder: ¿quién responde en tu empresa?
Aquí está el cambio de enfoque que proponemos. Discutir la responsabilidad de los grandes laboratorios es interesante; decidir la tuya es urgente. Cuando un agente automatizado emite un abono, modifica un maestro de artículos o responde a un cliente en tu nombre, frente a ese cliente responde tu empresa, no el proveedor del modelo.
Por eso, antes de dar capacidad de ejecución a un asistente, conviene tener respuestas claras a cuatro preguntas: qué puede hacer sin permiso, qué no puede hacer nunca, quién lo aprueba y dónde queda registrado.
Seis controles prácticos antes de soltar agentes de IA en producción
No hace falta un departamento de riesgos para hacerlo bien. Hace falta método.
1. Permisos mínimos, como con cualquier usuario
Un agente es un usuario más: debe tener su propia identidad, su rol y sus permisos acotados. Si no necesita acceso a nóminas, no lo tiene. Si solo debe leer, no escribe. Este principio es viejo en administración de sistemas y sigue siendo el mejor amigo de quien despliega automatización inteligente.
2. Separar "sugerir" de "ejecutar"
La mayoría de los casos de uso rentables no requieren autonomía total. Un asistente que prepara el pedido, redacta la respuesta o propone el asiento contable —y una persona valida— ya ahorra tiempo real con un riesgo muy inferior. La autonomía se amplía después, con datos de rendimiento sobre la mesa.
3. Umbrales y frenos
Define límites por importe, por volumen y por tipo de operación. Un abono de 50 euros puede ser automático; uno de 5.000, no. Y conviene tener un mecanismo de parada claro: quién lo activa y cómo.
4. Registro de todo lo que hace
Sin trazas no hay investigación posible, ni interna ni con el proveedor. Guarda qué instrucción recibió el agente, qué datos consultó, qué acción ejecutó y con qué resultado. Es lo que permite reconstruir un fallo en horas en lugar de en semanas.
5. Datos ordenados y gobernados
Es la parte menos vistosa y la más determinante. Un agente conectado a datos duplicados, desactualizados o sin criterios de acceso multiplica errores en vez de reducirlos. Definir protocolos de gobernanza de datos —calidad, acceso, privacidad, uso— es requisito previo, no un extra.
6. Contrato y responsabilidades por escrito
Revisa qué dice tu contrato con el proveedor sobre incidentes, notificación, uso de datos y límites de responsabilidad. Y define internamente quién es el responsable funcional de cada agente: una persona con nombre y apellidos, no "el departamento de IT".
Por qué esto no es un freno a la IA
Puede parecer que tanta cautela resta velocidad. Nuestra experiencia apunta a lo contrario: los proyectos que arrancan con un caso de uso acotado, medible y bien gobernado son los que llegan a producción y se amplían. Los que arrancan con un despliegue genérico y sin límites suelen terminar en un piloto abandonado o en un susto.
Los agentes de IA son una herramienta excelente para tareas administrativas repetitivas: conciliaciones, preparación de documentación, clasificación de incidencias, respuestas de primer nivel. El valor está ahí, y es alcanzable. Solo exige tratarlos como lo que son: software con capacidad de actuar sobre tu negocio.
Cómo lo abordamos en Tisa
En Tisa llevamos desde 1987 implantando sistemas de gestión, y aplicamos a la IA el mismo criterio que a un ERP: primero el problema de negocio, después la tecnología. Nuestra línea de inteligencia artificial y datos incluye asesoramiento para identificar los datos relevantes, crear protocolos de gobernanza alineados con la normativa de IA, evaluar herramientas según la capacidad de inversión de cada empresa y desarrollar un caso de uso adaptado al negocio, además de capacitación para el equipo.
Si estás valorando incorporar agentes de IA a tus procesos —o ya tienes alguno en marcha y quieres revisar sus controles—, hablemos. Ofrecemos una valoración sin compromiso: llámanos al (+34) 971 305 885 o escríbenos a info@grupotisa.com. También puedes ver nuestros servicios y casos por sector en grupotisa.com.
Fuente del contexto internacional: MIT Technology Review, "Who’s liable when AI agents go rogue?" (28 de septiembre de 2026). Interpretación y recomendaciones, de Tisa.