IA en empresas: riesgos reales que nadie está contando
Introducción
La IA generativa ya está dentro de las empresas, aunque nadie la haya “aprobado”. No entra por un proyecto formal: entra por el navegador. Un empleado pega un texto, un contrato, un correo, un dato de cliente, un fragmento de código, y obtiene una respuesta útil en segundos.
El problema es que la mayoría de organizaciones están viviendo la adopción de IA como si fuera una herramienta ofimática más. No lo es. Es una tecnología que introduce riesgos nuevos: fuga de información, alucinaciones, sesgos, dependencia de proveedor, y decisiones mal justificadas que se convierten en hechos “porque lo dijo la IA”.
Este post es una guía seria y operativa: qué riesgos existen de verdad, qué señales los delatan, y qué controles mínimos puedes implantar hoy sin frenar la productividad.
El riesgo nº1: Shadow AI (IA en la sombra)
Shadow AI es usar IA en el trabajo sin gobernanza: sin política, sin control de datos, sin trazabilidad y sin evaluación de riesgos. Es el equivalente moderno al “Shadow IT”, pero con un matiz: aquí el activo crítico son los datos que pegamos y lo que el modelo devuelve.
Señales típicas de Shadow AI:
- Uso de chatbots públicos para redactar ofertas, contratos, propuestas o informes.
- Empleados pegando datos de clientes o incidentes para “que la IA lo resuma”.
- Uso de IA para programar con fragmentos de código propietario o credenciales “sin querer”.
- Decisiones internas basadas en respuestas sin verificación (“la IA dice que…”).
Si no tienes una política de uso, ya tienes Shadow AI.
Riesgo 1: fuga de información (la más común y la más silenciosa)
El riesgo principal no es que “hackeen a la IA”. Es que tu gente use la IA como si fuera un bloc de notas y le entregue:
- datos personales (clientes, empleados),
- datos financieros,
- información comercial sensible (precios, márgenes, estrategia),
- código y arquitectura propietaria,
- incidentes de seguridad con detalles operativos.
Aunque el proveedor prometa no entrenar modelos con tus datos, sigues teniendo: riesgo de exposición (procesamiento externo), riesgo contractual (qué permite el servicio), y riesgo humano (qué decide pegar la gente).
Regla de oro (simple y brutalmente útil)
Si un dato no lo enviarías por correo a un tercero, tampoco lo pegues en una IA externa.
Riesgo 2: alucinaciones que se convierten en verdad operativa
La IA generativa produce texto plausible, no necesariamente verdadero. En una empresa, el peligro aparece cuando ese texto entra en un flujo real:
- un informe interno que se usa para decidir,
- un documento legal que se envía a un cliente,
- un procedimiento de seguridad que se aplica “tal cual”,
- código que se despliega sin revisión.
El patrón es siempre el mismo: la IA suena segura → el humano baja la guardia → el error se ejecuta. En entornos profesionales, eso no es un “fallo simpático”: es un incidente.
Riesgo 3: sesgos, discriminación y decisiones injustificables
Cuando usas IA para filtrar CVs, priorizar leads, evaluar riesgo, recomendar decisiones o generar informes de personas, estás entrando en terreno de alto impacto.
El sesgo puede venir de:
- los datos de entrenamiento,
- la forma de preguntar (prompt),
- el contexto incompleto,
- la ausencia de revisión humana.
El mayor riesgo aquí es doble: injusticia real y falta de trazabilidad. Si no puedes explicar por qué el sistema sugirió X, no deberías usarlo para decisiones relevantes.
Riesgo 4: dependencia de proveedor (lock-in y “caja negra”)
Muchas empresas están construyendo procesos enteros sobre un proveedor de IA sin:
- alternativa técnica,
- control de costes,
- plan de salida,
- visibilidad de cambios de modelo.
Si mañana suben precios, cambian términos, limitan uso o cambia el comportamiento del modelo, tu proceso se rompe. Eso es riesgo operativo, no técnico.
Riesgo 5: cumplimiento y reputación
Aunque tu IA “solo redacte”, si procesa datos personales o afecta a clientes, entran en juego obligaciones (RGPD, confidencialidad contractual, y cada vez más AI Act).
Además, el impacto reputacional es real: un correo con datos filtrados, una respuesta incorrecta al cliente o un documento con citas inventadas puede convertirse en un problema público en horas.
Tabla rápida: riesgo → señal → control mínimo
| Riesgo | Señal típica | Control mínimo |
|---|---|---|
| Fuga de datos | Prompts con clientes, contratos, incidencias, código interno | Política “qué no se pega” + formación + herramientas corporativas |
| Alucinaciones | Resultados con citas/leyes exactas sin fuente verificable | Regla: salida = borrador + verificación obligatoria |
| Sesgos | Evaluación de personas o decisiones automatizadas | Human-in-the-loop + trazabilidad + límites de uso |
| Lock-in proveedor | Procesos críticos dependen de un único modelo | Plan de salida + alternativas + contratos revisados |
| Reputación/compliance | Uso en comunicación externa sin control | Política de publicación + revisión + registros mínimos |
Controles mínimos que una pyme puede implantar ya (sin frenar productividad)
1) Política de uso (una página, no un libro)
- Qué se puede usar IA para hacer (borradores, resúmenes, ideas).
- Qué NO se puede pegar nunca (datos personales, contratos, credenciales, clientes, incidentes sensibles).
- Qué requiere revisión humana sí o sí (legal, seguridad, comunicación externa).
2) “Salida de IA = borrador” (regla dura)
Si el output sale fuera de la empresa o afecta a clientes, debe verificarse. Si no hay tiempo para verificar, no hay tiempo para usar IA ahí.
3) Herramienta corporativa o entorno controlado
Si todo el mundo usa cuentas personales, no puedes gobernar nada. Idealmente:
- cuentas corporativas,
- configuración de privacidad,
- y registro mínimo de uso si se usa en procesos sensibles.
4) Formación corta y recurrente (30 minutos)
No hace falta un curso de 20 horas. Hace falta enseñar 4 cosas: qué no se pega, qué es una alucinación, cómo verificar y cómo actuar si algo “suena raro”.
5) DoD mínimo para contenido generado
- Verificación de hechos y cifras.
- Fuentes citadas cuando corresponda.
- No incluir datos sensibles.
- Revisión final humana.
Qué NO hacer nunca (porque es pedir un susto)
- No usar IA externa para datos de clientes o empleados sin un marco claro.
- No copiar-pegar código con secretos, tokens o endpoints internos.
- No publicar respuestas generadas sin revisión (especialmente a clientes).
- No usar IA para evaluar personas sin trazabilidad y revisión humana.
- No delegar decisiones críticas en un modelo generativo.
Mini guía en 15 minutos (para empezar hoy)
- Define y comunica una regla: “no pegar datos sensibles”.
- Activa MFA en cuentas corporativas usadas para IA.
- Establece que todo lo que salga fuera se revisa (borrador ≠ final).
- Elige una herramienta corporativa o, como mínimo, cuentas corporativas.
- Revisa 3 casos de uso reales de tu empresa y decide: permitido / permitido con revisión / prohibido.
Checklist rápida
- ¿Sabes qué datos NO se deben introducir en una IA externa?
- ¿Hay una política mínima de uso (aunque sea una página)?
- ¿La salida de IA se revisa antes de enviarse fuera?
- ¿Hay cuentas corporativas y MFA?
- ¿Estás usando IA en decisiones sensibles sin trazabilidad?
Conclusión
La IA en empresas no es peligrosa por sí misma. Lo peligroso es usarla sin gobierno. Lo que hoy parece productividad rápida puede convertirse mañana en fuga, incidente o reputación dañada.
La solución no es prohibir, sino poner controles mínimos y realistas: política clara, revisión humana, protección de datos y responsabilidad.
En Gondor ayudamos a organizaciones a adoptar IA con criterio: casos de uso, riesgos, controles, formación y documentación, sin hype y sin improvisación.