Proveedores de IA: preguntas legales mínimas antes de contratar una herramienta
Contratar una herramienta de IA ya no es solo una decisión de innovación o productividad. En muchas empresas implica abrir acceso a documentos internos, datos personales, correos, CRM, expedientes de clientes, repositorios, tickets, informes comerciales o información de empleados. Si esa decisión se toma solo mirando la demo y el precio, el riesgo aparece después: datos que no debían salir, permisos excesivos, ausencia de contrato de encargo, falta de evidencias o resultados que nadie revisa.
La pregunta práctica no es “¿podemos usar IA?” sino “¿podemos contratar y gobernar esta herramienta concreta para este uso concreto?”. La respuesta depende del proveedor, del contrato, de la configuración, de los datos tratados y del impacto real en personas, clientes o procesos internos.
Además, el contexto regulatorio se ha vuelto más exigente. El RGPD sigue aplicando cuando hay datos personales. El AI Act añade obligaciones progresivas para determinados sistemas, proveedores y desplegadores. Y las propias plataformas empresariales están incorporando controles de privacidad, auditoría, residencia, permisos y seguridad que conviene revisar antes de activar licencias a toda la organización.
Esta guía no sustituye una evaluación jurídica completa, pero sí sirve como checklist mínimo para compras, legal, IT, seguridad, compliance y dirección.
Por qué revisar proveedores de IA antes de contratarlos
La IA entra en la empresa por muchas puertas: asistentes de productividad, copilotos integrados en suites ofimáticas, herramientas de atención al cliente, automatizaciones de marketing, CRMs, soluciones de recursos humanos, plataformas de análisis documental, generadores de contenido, chatbots internos o aplicaciones sectoriales.
El riesgo no depende solo de que la herramienta “use IA”. Depende de cuatro elementos:
- qué finalidad tiene el uso;
- qué datos se introducen o conecta la herramienta;
- qué papel asume el proveedor;
- qué decisiones o efectos puede producir el resultado.
No es lo mismo usar un asistente para resumir un texto público que conectarlo al correo corporativo, a SharePoint, al CRM o a expedientes con datos personales. Tampoco es lo mismo generar ideas para un borrador interno que utilizar IA para evaluar candidatos, priorizar clientes, detectar fraude o tomar decisiones con impacto relevante.
Por eso la revisión de proveedores debe conectarse con el [inventario de herramientas de IA](/inventario-herramientas-ia-empresa-ai-act-rgpd/), la [política interna de uso de ChatGPT y Copilot](/politica-interna-chatgpt-copilot-empresa/), el cumplimiento RGPD y el gobierno general de compliance tecnológico.
1. Qué va a hacer la herramienta y para qué proceso
La primera pregunta es funcional: para qué se quiere usar la herramienta. Muchas evaluaciones fallan porque se revisa “el proveedor” en abstracto, sin describir el caso de uso real.
Antes de aprobar la contratación conviene documentar:
- qué problema resuelve;
- qué departamento la usará;
- si actúa como asistente, automatización, sistema de apoyo a decisiones o componente integrado;
- si afecta a clientes, trabajadores, candidatos, proveedores o usuarios;
- si puede influir en una decisión relevante;
- qué persona revisará el resultado;
- qué alternativa existe si la herramienta falla o produce una respuesta incorrecta.
Esta ficha inicial ayuda a separar usos de bajo riesgo de usos que requieren revisión reforzada. También evita una trampa habitual: aprobar una herramienta para un uso limitado y terminar utilizándola meses después en procesos mucho más sensibles.
2. Qué datos se introducen o conecta la herramienta
El segundo bloque es el más importante desde la perspectiva de privacidad, confidencialidad y seguridad. Hay que saber qué información entra en la herramienta, pero también a qué fuentes puede acceder por integración.
Preguntas mínimas:
- ¿Incluye datos personales?
- ¿Incluye datos de empleados, clientes, candidatos, menores o categorías especiales?
- ¿Incluye secretos empresariales, información contractual, expedientes o documentación de clientes?
- ¿Accede a correo, Drive, SharePoint, CRM, ERP, tickets, repositorios o bases documentales internas?
- ¿Puede consultar más información de la necesaria por permisos demasiado amplios?
- ¿Se usarán cuentas personales, cuentas profesionales o licencias enterprise?
Este punto es crítico en herramientas integradas con entornos corporativos. Algunos sistemas respetan los permisos existentes del usuario y aplican controles de auditoría, retención o etiquetas de sensibilidad según el plan contratado. Otros productos, en cambio, pueden requerir conectores, permisos amplios o configuraciones que cambian el mapa de riesgo.
La empresa no debería activar una herramienta de IA conectada a repositorios internos sin revisar antes el principio de mínimo privilegio: cada usuario debe acceder solo a lo que necesita para su trabajo.
3. Rol RGPD del proveedor y contrato de encargo
Cuando hay datos personales, hay que aclarar el rol del proveedor. Puede actuar como encargado del tratamiento, como responsable independiente o asumir roles distintos según la funcionalidad. No basta con que la web del proveedor diga que “cumple RGPD”.
La revisión debería comprobar:
- si existe contrato de encargo del tratamiento o DPA;
- qué instrucciones documentadas acepta el proveedor;
- qué subencargados intervienen;
- dónde se tratan o almacenan los datos;
- si hay transferencias internacionales y con qué garantías;
- qué ocurre con prompts, respuestas, archivos subidos, logs y metadatos;
- cómo se atienden derechos, borrado, incidentes y solicitudes de información.
El EDPB mantiene abierta en 2026 una consulta sobre directrices de web scraping e IA generativa. Aunque se centra en scraping para IA generativa, recuerda algo relevante para cualquier evaluación: en IA no basta con mirar el modelo; hay que revisar fuentes de datos, finalidad, base jurídica, minimización, derechos y responsabilidad.
Si el proveedor no ofrece documentación clara sobre privacidad, subencargados, retención o transferencias, la contratación debería escalarse antes de aprobarse.
4. Entrenamiento, retención y reutilización de datos
Una de las preguntas más repetidas por las empresas es si los datos introducidos en la herramienta se usan para entrenar modelos. La respuesta depende del proveedor, del producto, del plan contratado y de la configuración.
Algunos proveedores empresariales indican que, por defecto, no usan prompts, respuestas o datos corporativos para entrenar modelos fundacionales. Microsoft, por ejemplo, documenta protecciones empresariales para Copilot y Copilot Chat, incluyendo compromisos bajo su DPA y controles que varían según licencia. OpenAI también afirma que no entrena por defecto con datos de ChatGPT Enterprise, Business, Edu o API, salvo opt-in en contextos determinados. Estas garantías son relevantes, pero no sustituyen la revisión concreta del contrato y del producto contratado.
Preguntas que deben quedar contestadas:
- ¿Los prompts, respuestas, archivos o conectores se usan para entrenamiento o mejora del servicio?
- ¿La exclusión de entrenamiento viene por defecto o requiere configuración?
- ¿Durante cuánto tiempo se conservan prompts, respuestas, adjuntos y logs?
- ¿La empresa puede configurar retención, borrado, residencia o región de tratamiento?
- ¿Qué diferencias existen entre cuenta gratuita, cuenta profesional, plan business y plan enterprise?
- ¿Qué ocurre cuando se activan plugins, conectores, agentes, apps externas o navegación web?
El error habitual es extrapolar una garantía de un plan enterprise a una cuenta gratuita, una extensión de navegador o una integración de terceros. En IA, el detalle contractual y técnico importa.
5. Seguridad, permisos y gobierno interno
La evaluación legal debe coordinarse con seguridad e IT. Una herramienta puede tener buenas condiciones de privacidad y aun así ser inadecuada si exige permisos excesivos, no permite auditoría o no encaja con la arquitectura interna.
Conviene revisar:
- SSO, MFA y gestión centralizada de usuarios;
- registro de accesos, prompts, respuestas y acciones relevantes;
- integración con DLP, eDiscovery, SIEM o herramientas de auditoría cuando proceda;
- etiquetas de sensibilidad y respeto de permisos existentes;
- limitación por departamentos, perfiles, conectores o casos de uso;
- procedimiento de baja de usuarios;
- gestión de incidentes, errores y brechas;
- control de agentes, extensiones, plugins o apps conectadas.
La IA amplifica problemas previos de gobierno documental. Si SharePoint, Drive o el CRM ya tienen permisos demasiado amplios, un copiloto puede hacer más visible ese desorden. Antes de culpar a la IA, muchas empresas necesitan ordenar accesos, propietarios de datos y criterios de clasificación.
6. Encaje con AI Act y transparencia
No todas las herramientas de IA generan las mismas obligaciones bajo el AI Act. El encaje depende de la finalidad, el tipo de sistema, el sector y el uso concreto que haga la empresa. Una herramienta general de productividad no plantea lo mismo que un sistema utilizado para selección de personal, educación, servicios esenciales, scoring o decisiones con impacto significativo.
Preguntas mínimas:
- ¿La herramienta puede encajar en una categoría de alto riesgo por finalidad o sector?
- ¿La empresa actúa solo como usuaria/desplegadora o adapta, integra o comercializa el sistema?
- ¿Genera contenido sintético, deepfakes, interacción con personas o decisiones automatizadas?
- ¿Puede requerir avisos de transparencia o marcado de contenido generado por IA?
- ¿El proveedor documenta capacidades, limitaciones, instrucciones de uso y medidas de supervisión?
- ¿La empresa conserva evidencias razonables de configuración, evaluación y uso?
La Comisión Europea ha trabajado directrices sobre obligaciones de transparencia del AI Act, especialmente para determinados sistemas que interactúan con personas o generan contenido sintético. Para una empresa, la consecuencia práctica es clara: no basta con comprar la licencia. Hay que saber cuándo informar, cuándo etiquetar, cuándo revisar y cuándo conservar rastro.
Si el caso de uso puede ser de alto riesgo, conviene hacer una [auditoría legal de IA](/auditoria-legal-ia-empresa-2/) antes de desplegarlo de forma amplia y revisar el encaje con servicios de [AI Act compliance](/ai-act-compliance-zaragoza/).
7. Propiedad intelectual, confidencialidad y outputs
La revisión no termina en privacidad. Muchas herramientas de IA se usan para generar textos, imágenes, código, propuestas comerciales, documentación técnica o respuestas a clientes. Eso abre preguntas de propiedad intelectual, confidencialidad y calidad del resultado.
Conviene comprobar:
- qué dicen las condiciones sobre inputs y outputs;
- si la empresa conserva derechos suficientes sobre los resultados;
- si se introducen materiales de terceros o contenidos protegidos;
- si el proveedor impone restricciones de uso;
- si hay cláusulas de confidencialidad adecuadas;
- si los outputs deben revisarse antes de publicarse o entregarse;
- cómo se documentan correcciones, fuentes y validaciones.
La política interna debería prohibir que los empleados entreguen resultados generados por IA como si fueran trabajo validado cuando el contenido pueda afectar a clientes, derechos de terceros, decisiones empresariales o cumplimiento normativo.
8. Señales de alerta antes de aprobar
Hay proveedores y usos que merecen una pausa antes de contratar. Algunas señales de alerta son:
- no hay DPA o condiciones empresariales claras;
- el proveedor no explica subencargados, retención o uso para entrenamiento;
- la herramienta exige permisos excesivos sobre correo, documentos o repositorios;
- se usará con datos sensibles sin evaluación previa;
- no hay registros de uso, usuarios, decisiones o incidencias;
- no se puede limitar por departamentos o perfiles;
- el proveedor cambia condiciones sin aviso razonable;
- compras no ha involucrado a privacidad, seguridad, legal o compliance;
- el caso de uso puede afectar a personas y no hay supervisión humana definida.
Estas señales no siempre implican prohibir la herramienta. A veces basta con limitar el uso, cambiar de plan, desactivar conectores, exigir garantías adicionales o empezar con un piloto controlado. Pero aprobar sin resolverlas deja a la empresa sin defensa si aparece un incidente.
Ficha mínima de proveedor de IA
Una forma práctica de ordenar la revisión es crear una ficha breve antes de contratar. Debería incluir:
- herramienta y proveedor;
- caso de uso concreto;
- departamento responsable;
- usuarios y permisos;
- datos tratados o fuentes conectadas;
- rol RGPD y contrato aplicable;
- subencargados y transferencias;
- entrenamiento, retención, borrado y residencia;
- encaje preliminar AI Act/RGPD;
- controles de seguridad y auditoría;
- evidencias que se conservarán;
- decisión: aprobar, aprobar con límites, bloquear o escalar.
Esta ficha no tiene que ser burocrática. Puede empezar con una página si obliga a responder las preguntas importantes. Lo esencial es que la empresa pueda explicar por qué aprobó la herramienta, para qué usos, con qué límites y quién asume la revisión.
Conclusión
La contratación de proveedores de IA debe pasar de la intuición a la gobernanza. La empresa necesita saber qué compra, qué datos expone, qué contrato firma, qué permisos concede, qué evidencias conserva y quién revisa los resultados.
Un buen proveedor ayuda, pero no sustituye las decisiones internas. La organización sigue necesitando inventario, política de uso, formación, supervisión humana y criterios de escalado.
Si tu empresa está incorporando ChatGPT, Copilot, asistentes SaaS o automatizaciones con IA, conviene revisar proveedores, datos, contratos, permisos y evidencias antes de que el uso crezca sin control. Puedes empezar por el [checklist legal para usar ChatGPT en empresa](/checklist-legal-uso-chatgpt-empresa/) o pedir una revisión inicial desde [contacto](/contacto/).
Fuentes y referencias útiles
- Comisión Europea: directrices y materiales sobre obligaciones de transparencia del AI Act.
- European Data Protection Board: Guidelines 03/2026 on web scraping in the context of generative AI, abiertas a consulta pública en 2026.
- Microsoft Learn: documentación sobre privacidad, seguridad y protección de datos en Copilot empresarial.
- OpenAI: documentación de privacidad, seguridad, no entrenamiento por defecto en planes business/API y residencia de datos para clientes elegibles.