Primera brecha de datos por un agente de IA: por qué tu empresa necesita gobierno real, no fe en la herramienta
La primera brecha de datos personales atribuida en España a un agente de inteligencia artificial autónomo no debería leerse como una anécdota tecnológica. Es una señal bastante clara de hacia dónde se mueve el riesgo empresarial.
Durante los últimos años muchas empresas han tratado la IA como una herramienta de productividad: redactar, resumir, traducir, generar ideas, preparar borradores o acelerar tareas internas. Ese enfoque ya se queda corto.
La IA está pasando de responder a actuar.
Y cuando un sistema deja de ser solo una caja de texto y empieza a conectarse con correo, documentos, CRM, expedientes, bases de datos, automatizaciones o herramientas corporativas, el problema cambia de tamaño.
Ya no hablamos solo de si un empleado mete datos personales en una herramienta externa. Hablamos de permisos, accesos, órdenes, registros, supervisión y responsabilidad.
El salto peligroso: de usar IA a delegar acciones
Un chatbot aislado puede generar errores, alucinaciones o respuestas inadecuadas. Eso ya exige control. Pero un agente de IA conectado a sistemas internos puede hacer algo más delicado: ejecutar tareas.
Puede consultar información, mover documentos, enviar respuestas, activar flujos, cruzar datos o tomar decisiones operativas con impacto real.
Por eso no basta con decir “usamos IA con cuidado”. La pregunta útil es mucho más concreta:
- Qué sistemas puede tocar.
- Qué datos puede ver.
- Qué acciones puede ejecutar.
- Qué límites técnicos tiene.
- Quién revisa lo que hace.
- Qué queda registrado.
- Cómo se bloquea o revierte un comportamiento incorrecto.
En una empresa, un agente de IA no debería tratarse como un becario digital simpático. Debería tratarse como una pieza operativa con permisos.
Y los permisos, en protección de datos y en ciberseguridad, importan mucho más que las buenas intenciones.
El dato incómodo: se usa mucha IA, pero se gobierna poco
Según datos publicados por Europa Press sobre un estudio de OpenAI, el uso de IA entre pymes españolas ya es altísimo. El problema es que una parte relevante lo hace sin una política formal sobre privacidad, ciberseguridad o riesgos.
Ese contraste es peligroso: adopción rápida, gobierno lento.
La empresa empieza con usos aparentemente inocuos: resumir documentos, preparar emails, revisar contratos, clasificar leads, contestar incidencias, analizar CV, revisar tickets, organizar tareas.
Después llegan las integraciones: extensiones, conectores, copilotos, agentes, automatizaciones y permisos delegados.
Y cuando alguien pregunta “¿qué IA usamos exactamente?”, la respuesta real suele ser una mezcla de herramientas oficiales, pruebas de departamento, cuentas personales, plugins, proveedores externos y automatizaciones que nadie ha inventariado del todo.
Ese es el punto de riesgo.
No porque la IA sea mala. Sino porque una herramienta potente sin inventario, sin reglas y sin evidencias acaba funcionando como infraestructura invisible.
AI Act y RGPD: el problema no es solo cumplir una norma
El AI Act introduce obligaciones específicas para determinados sistemas de IA y obligaciones de transparencia, gobernanza y alfabetización en distintos escenarios. El RGPD, por su parte, sigue exigiendo una base jurídica adecuada, información clara, minimización, seguridad, responsabilidad proactiva y control sobre encargados y transferencias.
Pero reducir todo esto a “cumplir el AI Act” o “cumplir el RGPD” sería quedarse corto.
El problema real es operativo: una empresa debe poder explicar cómo usa IA.
Explicarlo de verdad, no con una frase genérica en una política interna.
Debe poder responder, al menos, a estas preguntas:
- Qué herramientas de IA se usan.
- En qué procesos.
- Para qué finalidad.
- Qué datos entran.
- Qué resultados salen.
- Quién revisa esos resultados.
- Qué proveedor interviene.
- Qué permisos tiene la herramienta.
- Qué riesgos se han identificado.
- Qué evidencias se conservan.
Si una empresa no puede responder a eso, probablemente no tiene gobierno de IA. Tiene uso disperso de IA.
Y son cosas muy distintas.
Lo que una empresa debería hacer antes del susto
No hace falta empezar con un macroproyecto imposible. De hecho, lo sensato suele ser empezar con una capa básica, práctica y mantenible.
La primera pieza es un inventario real de usos de IA. No una lista decorativa. Una tabla viva con herramientas, proveedores, áreas, finalidades, datos tratados, usuarios, integraciones, permisos y nivel de riesgo.
La segunda pieza es una política interna clara. No basta con decir “no introducir datos sensibles”. Hay que concretar qué usos están permitidos, cuáles requieren autorización, qué datos no pueden introducirse, qué herramientas están aprobadas y quién resuelve dudas.
La tercera pieza es revisar proveedores e integraciones. Especialmente cuando la herramienta trata datos personales, se conecta a sistemas internos o puede conservar información para mejorar modelos o servicios.
La cuarta pieza es definir supervisión humana. Quién revisa, cuándo revisa, qué puede corregir, cuándo se bloquea un resultado y cómo se documenta la intervención.
La quinta pieza es conservar evidencias. En IA, la trazabilidad no es burocracia: es defensa, aprendizaje y control.
Los agentes de IA obligan a mirar permisos, no solo prompts
Muchas conversaciones sobre IA siguen obsesionadas con el prompt. Cómo pedir mejor, cómo escribir instrucciones, cómo afinar la respuesta.
Eso es útil, pero insuficiente.
En agentes de IA, la pregunta crítica no es solo qué instrucción recibe el sistema. Es qué puede hacer después.
Un agente con acceso a correo, documentos, agenda, CRM o repositorios internos puede convertir una mala instrucción en una acción real. Puede consultar más información de la necesaria, usar datos fuera de contexto o ejecutar una acción que nadie revisó.
Por eso la gobernanza de IA tiene que bajar a tierra:
- Permisos mínimos necesarios.
- Separación entre lectura y escritura.
- Entornos de prueba antes de producción.
- Límites de ejecución.
- Confirmación humana para acciones sensibles.
- Registros de actividad.
- Revisión periódica de accesos.
- Procedimiento de respuesta ante incidentes.
La empresa que no documenta esto no está “siendo ágil”. Está acumulando riesgo silencioso.
Qué mirar en una auditoría de IA y datos personales
Una revisión seria no debería limitarse a preguntar si la empresa usa ChatGPT, Copilot, Gemini, Claude o cualquier otra herramienta. Esa pregunta ya no alcanza.
Conviene revisar el mapa completo:
- Herramientas oficiales y no oficiales.
- Cuentas personales usadas para trabajo.
- Extensiones del navegador.
- Automatizaciones internas.
- Agentes conectados a aplicaciones corporativas.
- Tratamientos con datos personales.
- Usos en recursos humanos, marketing, atención al cliente, legal, ventas o soporte.
- Proveedores que actúan como encargados o subencargados.
- Transferencias internacionales y conservación de datos.
- Medidas de seguridad y control de accesos.
- Información facilitada a clientes, trabajadores o usuarios.
A partir de ahí, algunos usos requerirán una evaluación de impacto, otros una revisión contractual, otros una política interna y otros simplemente prohibición o rediseño.
La clave es dejar de improvisar.
La conclusión incómoda
La IA en empresa no se gobierna con miedo. Pero tampoco con fe.
Se gobierna con inventario, reglas, permisos, supervisión y evidencias.
La primera brecha atribuida a un agente de IA no debería servir para demonizar la tecnología. Debería servir para abandonar una idea demasiado cómoda: que mientras una herramienta parezca útil y moderna, ya encontraremos la forma de justificarla después.
No funciona así.
Si la IA accede a datos, interviene en procesos o ejecuta acciones, necesita gobierno real desde el principio.
Menos fascinación. Más inventario.
Menos prompts mágicos. Más límites de permisos.
Menos “ya lo miraremos”. Más trazabilidad.
Porque el problema no será explicar que una empresa usa IA.
El problema será explicar por qué nadie sabía exactamente cómo la estaba usando.