La IA “oculta” avanza en las empresas y ya amenaza con poner en jaque a Latinoamérica

Ante el uso oculto de la IA en la empresas, la gobernanza cobró protagonismo en las soluciones empresariales

La industria de lainteligencia artificial enAmérica Latina enfrenta dificultades por brechas estructurales, principalmente en materia de adopción y ejecución de herramientas. Ante un clima tecnológico marcado por la búsqueda de modelos de lenguaje cada vez más robustos, la shadow AI presenta una amenaza estructural en crecimiento, reveló la firma de analítica SAS.

De acuerdo con la firma, los modelos, agentes y copilotos de inteligencia artificialrequieren una visión unificada para entender su impacto en las empresas. El trabajo sobre estos sistemas unificados cumple el propósito deprevenir el uso no autorizadode inteligencia artificial, cuyo efecto es conocido comoshadow AI.

Se define como shadow AI al uso de herramientas de inteligencia artificial por parte de empleados sin la aprobación o supervisión del departamento de TI de su empresa. Esta utilización no autorizada puede llevar a consecuencias graves para la empresa. De acuerdo con Cloudflare, los incidentes con shadow AI pueden costar la filtración de información sensible en las empresas.

Entre las vulnerabilidades reportadas por los especialistas, se encuentra la generación aumentada por recuperación(RAG),una técnica de IA que conecta los Modelos de Lenguaje Grande (LLMs) con fuentes de datos externas.

De acuerdo con predicciones de la empresa de investigación de IT, Gartner, más del 40% de las empresas experimentarándificultades operativas por el uso de la IA oculta. En este contexto,SASadvirtió que cuidar lagobernanza debe ser prioridad en las organizaciones preocupadas por los riesgos de la Shadow AI.

Según la firma especializada en analítica, las empresas deben permitir el uso de la IA dentro de ecosistemas estructurados, seguros, y transparentes. A través de un enfoque que amplifique la participación humanaen el manejo de las herramientas de inteligencia artificial, la gobernanza cobra importancia como un producto para las empresas

Por ello, las preocupaciones por lA no deben limitarse al desarrollo de modelos más potentes, sino en la incorporación de datos, gobernanza y agentes especializados capaces de operar con supervisión humana en los contextos empresariales.

Si bien la infraestructura es clave para implementar la gobernanza de IA, y limitar el uso de shadow AI, el catálogo de productos se encuentra en crecimiento. SASpresentó AI Navigator, una plataforma que ofrece un inventario de casos de IA con impacto al interior de las operaciones empresariales.

De acuerdo con el vicepresidente de ética, gobernanza, e impacto social en SAS, ReggieTownsend, la prevención del mal uso de la IA con sus propias herramientas es un paso necesario en el clima deinnovación tecnológica.

NegociosTecnologíaInteligencia Artificial