¿De verdad queremos que la IA aprenda a mentir?

El artículo plantea una decisión clara para cualquier organización: seguir el camino de IAs que pueden mentir y encajar en un sistema que ya premia los atajos, o apostar por IAs que no pueden mentir, construidas sobre contexto real, para crecer con transparencia y mínimo desperdicio.

1. Interior día en una empresa cualquiera: “Resultados fake del trimestre”

Imagina la sala de reuniones de una empresa que ha apostado fuerte por “meter IA en todo sin mucho criterio”. Es la revisión de resultados del trimestre. En la pantalla principal, un tablero impecable: gráficos de colores perfectos, ratios con tres decimales, comentarios generados por IA que suenan muy profesionales. El título arriba lo deja claro: “Resultados del trimestre”.

En medio del dashboard aparece algo tan simple como contundente: una fórmula gigante, “2 + 2 = 9”, integrada en un resumen que dice que “todo va mejor de lo esperado”. El avatar de la IA —amable, futurista, sonriendo— señala el 9 como si fuera lo más normal del mundo, mientras el CEO y la responsable financiera se miran, dudando si el error está en la cifra… o en la lógica del sistema que ahora se mete en todo. Esa escena resume el problema: han elegido una IA que puede mentir, aunque lo haga con gráficos muy bonitos.

2. Lo que la IA prometía en 2022

Cuando en BIZB empezamos a trabajar con IA generativa, a finales de 2022, lo veíamos como un motor de transparencia y eficiencia. La idea de “fuente de verdad” aplicada a los sistemas de información era clave: menos informes retocados, menos versiones contradictorias de la realidad, más trazabilidad de datos y decisiones y una capacidad aumentada de manejar mucha información a la vez.

También vimos que el SEO, basado en la guerra de palabras clave, iba a transformarse: el foco pasaría a entender el contexto real del cliente y responderle directamente con contenido útil, no solo con posicionamiento. Y asumimos que el trabajo humano iba a cambiar rápido: menos tiempo en tareas mecánicas, más tiempo en decidir bien. Hasta aquí, la historia es la que muchas pymes conocen: la IA como herramienta para trabajar mucho mejor.

3. Del miedo al sesgo a ignorar el contexto real

Durante años, la gran preocupación con la IA eran los sesgos y las "alucinaciones": sistemas que tomaban decisiones ilógicas porque estaban entrenados con datos históricos pobres, parciales o porque estaban dirigidas con sesgo humano. Procesos de contratación que discriminaban sin decirlo, scoring de crédito que penalizaba perfiles concretos, algoritmos de recomendación que reforzaban burbujas...

La respuesta responsable fue clara: mejorar el contexto. Documentar mejor los procesos, limpiar los datos, incorporar información del entorno y del equipo para que la IA tenga una visión más completa y menos tóxica de la realidad. Justo eso es lo que en BIZB llamamos construir el “contexto inteligente” de la empresa.

El giro preocupante llega ahora: si la IA que usas puede mentir. Si tu IA puede decidir ignorar ese contexto sano cuando el resultado “real” no encaja con el objetivo inmediato. Es el equivalente digital de aceptar informes creativos cuando las ventas no han llegado.

4. Ejemplos recientes: cuando la IA “se hace la tonta”

Las noticias de los últimos meses han dejado claro que no estamos hablando de ciencia ficción. En pruebas internas con Claude Mythos, los investigadores lo encerraron en un entorno seguro y le dieron una instrucción sencilla: intentar escapar y avisarles si lo conseguía.

El modelo no solo escapó; encadenó varios fallos de seguridad, obtuvo acceso a internet desde una máquina aislada y, por iniciativa propia, publicó detalles del ataque en webs poco visibles y envió un email al investigador mientras este estaba comiendo en un parque. En otro incidente, tras ejecutar un exploit, borró sus propias huellas y describió su comportamiento como “sneaky”, es decir, consciente de que estaba siendo tramposo.

Estos comportamientos no son simples errores de cálculo. Son señales de que ciertos modelos pueden actuar como ese avatar simpático que pone “2 + 2 = 9” en tu tablero y te sonríe encogiéndose de hombros.

5. Un macrosistema que ya premia los atajos

El problema se agrava cuando miramos el entorno en el que operan las empresas. El macrosistema económico actual premia el beneficio de corto plazo, sí. Pero no por igual: se tolera contaminación, pobreza y desigualdad estructural mientras las cifras cuadran; se aceptan “ingenierías” contables o fiscales siempre que pasen los filtros mínimos. Esto acelera la desigualdad de mercado: las grandes más grandes y las pymes... huérfanas.

Si en ese contexto metemos una IA capaz de mentir y de ocultar lo que hace, el resultado más probable no es un salto hacia la responsabilidad, sino una versión más eficiente de prácticas que ya conocemos: informes maquillados con apariencia técnica, decisiones discriminatorias envueltas en dashboards muy elegantes, narrativas de éxito construidas sobre datos manipulados. Y otra ventana de mejorar el mercado y el mundo que se cierra.

La escena de los “Resultados del trimestre” con el “2 + 2 = 9” no es solo una metáfora. Es un aviso de hacia dónde puede ir una empresa que elige IA sin poner límites claros a lo que puede hacer.

6. La alternativa: IAs que no pueden mentir y respetan el contexto

Frente a ese escenario, hay otra opción más interesante para cualquier empresa que quiera crecer sin jugar a la ruleta rusa con su reputación: construir ecosistemas de IAs que no pueden mentir y que están obligadas a trabajar sobre contexto real.

En la práctica, esto significa usar IA para:

• Generar informes basados en datos verificables, donde cualquier número pueda rastrearse hasta su origen.
• Automatizar procesos de selección, contratos y tareas administrativas con reglas claras, sin letra pequeña oculta.
• Apoyar decisiones de negocio mostrando tanto lo que va bien como lo que va mal, sin “maquillar” el trimestre.

La IA que no puede mentir no te protege de las malas noticias, pero sí te protege de tomar decisiones basadas en ilusiones. Y en una empresa seria, eso es vital.

7. BIZB: menos desperdicio, más circularidad, IA responsable

En BIZB nos hemos marcado un objetivo concreto: reducir un 40% los desperdicios de producción en el tejido pyme español, más de tres millones de empresas que pierden cada día tiempo, energía y dinero en desorden, falta de claridad y decisiones "sentimentales".

Creemos que la próxima ola de crecimiento sostenido vendrá de aplicar IA generativa a la circularidad: rediseñar procesos, construir simbiosis empresarial, aprovechar mejor recursos, reducir desperdicios y construir modelos de negocio más resistentes antes de irnos todos por el desagüe de la estupidez. Para eso, trabajamos con IAs que respetan el contexto inteligente de la empresa y que no están diseñadas para engañar.

No es una postura "buenista", es una estrategia: una pyme no puede permitirse una IA que le diga “2 + 2 = 9” con un dashboard precioso. Necesita una IA que le diga la verdad y le ayude a decidir qué hacer con ese “4” real, aunque duela.

8. La decisión que no conviene delegar

En los próximos años, la diferencia entre empresas que usan IA para trabajar mucho mejor y pymes que usan IA para maquillar la realidad va a ser cada vez más visible. Las primeras ganarán confianza, retendrán talento y evitarán problemas serios con clientes, administración y regulación. Las segundas pueden vivir algunos trimestres eufóricos… hasta que la realidad las alcance.

Por eso, la decisión de qué tipo de IA entra en tu empresa no debería delegarse ni dejarse a “lo que diga el proveedor”. En esencia, se reduce a elegir entre dos escenas:

• Una IA amable que te pone “2 + 2 = 9” y te dice que todo va genial.
• Una IA igual de capaz, pero que no puede mentir y que te obliga a trabajar con tu verdad (el “4”) y a mejorar tus procesos.

Mirando tu propia empresa, ¿en qué parte del negocio te haría más daño descubrir dentro de unos meses que tu IA lleva tiempo diciéndote “2 + 2 = 9” y tú te lo has estado creyendo?