La IA convincente puede ocultar cómo llegó a una respuesta

Ciudad de México, 09-09-2026 |

Velocidad, lenguaje natural y automatización cambian las reglas de la confianza

Una respuesta clara, rápida y expresada en lenguaje cotidiano puede inspirar confianza. Ese es también uno de los riesgos de la inteligencia artificial: el resultado puede parecer correcto aunque el usuario no conozca los datos, modelos y procesos que lo produjeron. Para las empresas, la dificultad ya no consiste únicamente en detectar errores, sino en hacerlo antes de que una respuesta convincente se incorpore a una decisión.

Thomas Roehm, vicepresidente de marketing corporativo de SAS, explicó durante el SAS Innovate Tour 2026 en Ciudad de México que la diferencia frente a la analítica de los años noventa está en el volumen de datos, la velocidad de procesamiento y el avance tecnológico. En los modelos predictivos o pronósticos tradicionales, los especialistas podían observar las entradas y evaluar si el resultado parecía razonable.

La inteligencia artificial generativa y agéntica modifica esa dinámica. La automatización puede operar con tal velocidad que las personas solo vean la respuesta final. Si una organización no conserva mecanismos para revisar su origen, un resultado incorrecto pero creíble puede avanzar dentro de sus procesos sin ser cuestionado a tiempo.

Kristi Boyd, especialista sénior en IA confiable de SAS, añadió un componente humano: las interfaces conversacionales redujeron la barrera de entrada. Mientras la analítica tradicional exigía conocimientos técnicos y matemáticos, ahora más personas pueden relacionarse con los sistemas mediante lenguaje natural. Esa accesibilidad amplía el uso, pero también puede favorecer una confianza basada en la familiaridad de la conversación.

Según Boyd, un estudio realizado con IDC encontró que la IA agéntica puede recibir mayor confianza por defecto que otros sistemas de aprendizaje. La explicación planteada es que las personas tienden a confiar más en aquello que se comunica de manera semejante a ellas. El desafío consiste en aprovechar la eficiencia sin asumir que una respuesta es correcta solo porque suena natural.

La escala introduce otro cambio. Revisar individualmente cada decisión puede dejar de ser viable cuando la IA participa en operaciones de gran volumen. Boyd distinguió entre mantener a una persona dentro de cada decisión y establecer una supervisión sobre el comportamiento general del sistema. En este segundo enfoque, la atención se concentra en identificar patrones, desviaciones y señales de que la operación salió de lo esperado.

SAS plantea la gobernanza, la trazabilidad y la explicabilidad como bases de esa supervisión. Los datos deben poder rastrearse y los modelos necesitan mecanismos que permitan comprender cómo se generaron determinadas decisiones. La velocidad de la IA no elimina la necesidad de control: obliga a trasladarlo desde la revisión aislada hacia una vigilancia sistemática capaz de cuestionar incluso las respuestas que parecen correctas.