Los riesgos reales de usar IA en tu empresa, y cómo cubrirlos

La conversación sobre riesgos de la inteligencia artificial en las empresas suele oscilar entre dos extremos igual de inútiles. Por un lado, el catastrofismo abstracto sobre la sustitución del trabajo humano. Por el otro, el optimismo de quien vende la herramienta y asegura que no hay ningún problema.

Los riesgos reales de una empresa mediana que empieza a usar estas herramientas son más concretos y más manejables. Son cuatro, se pueden cubrir con decisiones sencillas, y ninguno justifica no empezar. Lo que sí justifican es empezar con algunas cosas resueltas.

Riesgo 1: la información que sale sin control

Es el más inmediato y el que ocurre todos los días sin que nadie lo decida.

Alguien del equipo pega en una herramienta pública un contrato para que se lo resuma, una lista de clientes para que la ordene, o los estados financieros para que le expliquen una variación. Nadie lo autorizó y nadie lo prohibió, porque el tema nunca se habló.

El problema tiene dos capas. La primera es contractual: muchas versiones gratuitas o personales de estos servicios se reservan el derecho de usar lo que reciben para entrenar sus modelos. Las versiones empresariales normalmente no, pero eso hay que verificarlo y hay que estar en esa versión. La segunda es legal: si esa información incluye datos personales de clientes o empleados, la empresa está haciendo una transferencia de datos a un tercero que probablemente no está declarada en su aviso de privacidad.

Cómo se cubre. Con una política de una página, no con una prohibición general —que nadie cumple y que solo consigue que el uso se vuelva clandestino. La política necesita responder tres cosas: qué herramientas están autorizadas, qué tipo de información nunca se pega en ninguna, y a quién se le pregunta cuando hay duda. Y conviene que la empresa provea una herramienta autorizada, porque si no la provee, la gente va a usar la suya.

Riesgo 2: las respuestas inventadas

Los modelos de lenguaje producen texto plausible. Plausible no es lo mismo que correcto, y la diferencia importa porque el error viene con el mismo tono de seguridad que el acierto.

Un modelo puede inventar un artículo de una norma, una cifra de mercado, una cláusula, una referencia bibliográfica. No lo hace por fallo: es consecuencia de cómo funciona. Y el riesgo no es que se equivoque —las personas también se equivocan— sino que se equivoque con confianza y sin señal de alarma, en un formato que invita a creerle.

Los casos donde esto sale caro son predecibles: cualquier cosa con implicación legal o fiscal, cifras que van a un cliente, especificaciones técnicas, y cualquier documento que alguien vaya a firmar.

Cómo se cubre. Con una regla simple y sin excepciones: todo lo que sale de la empresa lo revisa una persona. Y con una segunda regla para el uso interno: cuando se pide un dato verificable, se pide también la fuente y se comprueba. Un modelo que no puede dar una fuente comprobable para un dato probablemente lo construyó.

Para los procesos automatizados, la cobertura es de diseño: umbral de confianza, derivación a humano cuando el sistema duda, y revisión periódica de muestras aunque todo parezca ir bien.

Riesgo 3: la dependencia del proveedor

Es el riesgo que menos preocupa al principio y más cuesta después.

Una empresa monta un proceso importante sobre una plataforma. La lógica del negocio —las reglas, los criterios, los flujos— vive dentro de esa plataforma. Dos años después el proveedor sube el precio, cambia las condiciones, cierra, o simplemente deja de ser el mejor. Y el costo de salir es tan alto que en la práctica no hay salida.

No es un riesgo hipotético en un mercado que se está moviendo tan rápido. Herramientas que hoy lideran pueden ser irrelevantes en dos años, y a la inversa.

Cómo se cubre. Con tres precauciones que no cuestan nada al principio y son carísimas de aplicar después:

Que los datos vivan fuera de la plataforma, en un formato que puedas exportar. Que las instrucciones y las reglas estén documentadas en un archivo tuyo, no solo configuradas en la interfaz del proveedor. Y que alguien pueda responder, en cualquier momento, cuánto costaría mover este proceso a otra herramienta. Si nadie sabe responderlo, ya hay dependencia.

Riesgo 4: el marco legal, en México

No hay una ley específica de inteligencia artificial en México, y conviene no confundir esa ausencia con ausencia de obligaciones. Lo que aplica es el marco existente, y aplica de lleno.

Protección de datos personales. La LFPDPPP regula el tratamiento de datos personales. Si un proceso automatizado trata datos de clientes o de empleados, hay tres cosas que revisar: que el aviso de privacidad contemple esa finalidad, que las transferencias a terceros estén declaradas —y un proveedor de IA en el extranjero es una transferencia— y que existan las medidas de seguridad razonables.

Propiedad intelectual. Quién es dueño de lo que produce una herramienta es una discusión abierta en muchas jurisdicciones. Para una empresa la implicación práctica es prudente: no asumir que un texto, una imagen o un código generados son automáticamente propiedad de la empresa y libres de reclamación, especialmente si van a usarse comercialmente de forma prominente.

Responsabilidad frente al cliente. No existe la figura de «se equivocó el sistema». Si una cotización sale mal, si un dato al cliente es falso, si un compromiso automático no se puede cumplir, responde la empresa.

Materia laboral. Si la automatización modifica funciones de un puesto, hay implicaciones que conviene revisar antes y no después.

Nada de esto es asesoría legal y no puede serlo: cada caso concreto lo revisa un abogado. Lo que sí se puede afirmar es que estas cuatro preguntas conviene hacérselas antes de poner un proceso en marcha, cuando todavía son baratas de resolver.

La política de uso, en una página

De todas las coberturas, la más barata y la que más se pospone. No hace falta un documento legal: hace falta una hoja que cualquiera entienda y que responda seis cosas.

Qué herramientas están autorizadas. Con nombre. Y que la empresa provea al menos una, porque si no, el equipo va a usar la suya con su cuenta personal.

Qué nunca se pega en ninguna herramienta. Una lista corta y concreta: datos personales de clientes o empleados, información financiera no publicada, contratos vigentes, credenciales, código propietario. Concreta, no «información sensible», que cada quien interpreta distinto.

Qué siempre revisa una persona antes de salir. Todo lo que llegue a un cliente, todo lo que tenga una cifra, todo lo que alguien vaya a firmar.

Qué hay que declarar. Si un documento entregable se produjo con asistencia, en qué casos conviene decirlo. Depende del sector y del tipo de entregable; lo importante es tener criterio y no improvisar.

A quién se pregunta cuando hay duda. Una persona con nombre.

Qué pasa si alguien se equivoca. Y que la respuesta sea «se avisa y se corrige», no una sanción. Una política que castiga los errores consigue que se oculten, que es exactamente lo contrario de lo que necesitas.

Esa hoja se escribe en una tarde, se lee en cinco minutos y evita la mayoría de los incidentes. Y conviene revisarla cada seis meses, porque las herramientas cambian rápido.

Cómo se ve un incidente típico

Vale la pena describirlo porque ayuda a reconocerlo antes de que escale.

Casi nunca es un ataque ni una fuga espectacular. Es esto: alguien de un área operativa usa una herramienta gratuita con su cuenta personal para acelerar una tarea. Funciona bien y la usa cada vez más. Con el tiempo pega información cada vez más sensible porque el hábito ya está formado y nadie le dijo nada.

Meses después, esa persona cambia de trabajo. Su cuenta personal —con el historial completo— se va con ella. No hubo mala intención en ningún momento y aun así la empresa perdió el control de esa información.

La cobertura es la misma política de una página, más una decisión de gestión: proveer la herramienta. Una empresa que no da acceso autorizado a estas herramientas no consigue que su gente no las use; consigue que las use sin supervisión.

El riesgo del que casi nadie habla

Hay un quinto, más silencioso, que no aparece en las listas: la degradación del criterio.

Cuando un equipo delega durante meses la redacción, el análisis o la clasificación, deja de practicar esas habilidades. En perfiles con experiencia el efecto es menor, porque el criterio ya está formado. En perfiles junior es distinto: una persona que desde el primer día resuelve todo con asistencia puede no desarrollar nunca el juicio que le permitiría detectar cuándo la asistencia se está equivocando.

Es un riesgo de mediano plazo y difícil de medir, pero tiene una cobertura sencilla: que la práctica sin asistencia siga existiendo en la formación, y que las revisiones las hagan personas que sepan hacer el trabajo a mano.

Cómo detectar una alucinación antes de que salga

Como el riesgo de las respuestas inventadas no se elimina, conviene saber reconocerlas. Hay señales bastante confiables.

Precisión sospechosa. Cuando una respuesta trae una cifra con decimales, una fecha exacta o un número de artículo concreto sin que se le haya dado la fuente, es el momento de desconfiar. Los modelos producen precisión aparente porque suena mejor, no porque la tengan.

Referencias que no se pueden abrir. Si cita un estudio, una norma o una página, hay que abrirla. Una proporción notable de las citas generadas apuntan a documentos que no existen o que dicen otra cosa.

Seguridad uniforme. Un experto humano matiza: «creo que», «depende», «no estoy seguro». Un modelo responde con el mismo tono seguro tanto lo que sabe como lo que inventa. La ausencia total de matiz es en sí una señal.

Respuestas a preguntas mal planteadas. Si le preguntas por algo que no existe —una cláusula inventada, un producto que no vendes— y responde con detalle en vez de decir que no lo conoce, ese modelo está completando en vez de informar.

La cobertura práctica en el trabajo diario es una regla de dos partes: pedir siempre la fuente de cualquier dato verificable, y comprobar la fuente cuando el dato vaya a salir de la empresa o a sostener una decisión. Suena laborioso y toma menos de un minuto por dato.

Una lista de verificación antes de empezar

Ocho preguntas. Si se pueden responder, el proyecto puede arrancar.

1. ¿Qué información concreta va a procesar este sistema?
2. ¿Esa información incluye datos personales? ¿El aviso de privacidad lo contempla?
3. ¿Dónde se procesa físicamente y qué hace el proveedor con ella?
4. ¿Qué salidas pueden llegar a un cliente sin que las revise una persona? (La respuesta correcta suele ser: ninguna.)
5. ¿Cómo se detecta si el sistema empieza a equivocarse más?
6. ¿Quién puede apagarlo y en cuánto tiempo?
7. ¿Dónde están documentadas las reglas, fuera de la plataforma?
8. ¿Cuánto costaría cambiar de proveedor?

Ninguna requiere conocimiento técnico profundo. Todas se responden en una reunión de una hora con las personas correctas. Y esa hora es, con diferencia, la inversión con mejor retorno de todo el proyecto.

Lo que no es un riesgo

Para cerrar con proporción, porque el ruido en este tema es considerable.

Que la herramienta se vuelva obsoleta. Va a pasar y no importa demasiado, si los datos y las reglas están fuera. Cambiar de herramienta es un proyecto de semanas; el conocimiento del proceso se queda.

Que el equipo la use para cosas que no estaban previstas. Suele ser buena señal. Los mejores casos de uso los descubre quien hace el trabajo, no quien diseña el proyecto.

Quedarse atrás por no adoptarla todavía. En una empresa mediana, la ventaja de ser el primero en usar una herramienta es pequeña comparada con el costo de implementarla mal. Esperar seis meses y hacerlo bien es casi siempre mejor negocio que apurarse y tener que deshacerlo.

El riesgo real no es adoptar tarde. Es adoptar sin criterio: comprar por presión, implementar sin medir y descubrir a los dos años que nadie sabe qué se ganó.