La inteligencia artificial está pasando de responder preguntas a realizar tareas dentro de las empresas: analizar información, atender solicitudes y automatizar procesos. Sin embargo, mientras esta tecnología gana autonomía, surge una pregunta: ¿quién supervisa lo que hace y qué ocurre cuando se equivoca?
En México, la adopción de estas herramientas avanza, pero también aumentan las preocupaciones sobre su funcionamiento, los riesgos de seguridad y la capacidad de las organizaciones para entender cómo se toman las decisiones automatizadas.
De acuerdo con el Banco de México, 48.5% de las empresas consultadas en junio de 2026 utilizaba inteligencia artificial, mientras que 64.8% esperaba emplearla durante los siguientes tres años.
Aunque estas cifras reflejan el creciente interés empresarial, también plantean un desafío: incorporar nuevas tecnologías no necesariamente significa tener el control de todo lo que sucede dentro de ellas.
Empresas buscan mayor control sobre la inteligencia artificial
El informe Global AI Pulse Q3 2026, elaborado por KPMG, reveló que 75% de las organizaciones encuestadas en México ya evaluaba aspectos relacionados con el control, la ubicación y la gobernanza de sus modelos de inteligencia artificial.
Además, 37% reportó una implementación significativa de agentes de IA, es decir, herramientas capaces de realizar tareas y ejecutar instrucciones con cierto grado de autonomía.
La investigación, realizada entre más de 2,100 líderes empresariales de 20 países, también identificó dificultades para conocer los beneficios reales de estas inversiones.
En México, aunque 90% de las organizaciones participantes aseguró obtener resultados medibles de la inteligencia artificial, únicamente 14% contaba con mecanismos consistentes para evaluar el valor generado frente al dinero invertido.
Esto significa que una empresa puede incorporar herramientas capaces de acelerar sus operaciones sin necesariamente contar con procedimientos suficientes para medir su eficacia, identificar errores o determinar si la inversión está dando resultados.
¿Qué riesgos existen cuando la IA opera sin suficiente supervisión?
El problema no se limita a que una aplicación deje de funcionar. Cuando diferentes sistemas tecnológicos trabajan simultáneamente, una falla puede afectar procesos internos, servicios digitales o información utilizada para tomar decisiones.
Por ejemplo, si una herramienta automatizada procesa solicitudes con información incorrecta, resulta importante identificar de dónde obtuvo esos datos, qué instrucciones siguió y cuáles fueron las consecuencias de sus acciones.
Durante el Zabbix Forum México 2026, celebrado en la Ciudad de México, Heriberto Román, analista de investigación en el programa de Inteligencia Industrial de IDC, advirtió sobre la creciente complejidad de supervisar estos entornos.
Según las cifras que expuso, 97% de las empresas mexicanas que ya utilizan inteligencia artificial experimenta o trabaja con agentes, mientras que 53% recopila más información sobre el funcionamiento de sus sistemas de la que puede aprovechar.
Estos porcentajes fueron difundidos durante el encuentro, aunque el boletín no incluyó la metodología ni el tamaño de la muestra correspondiente.
Para Román, la incorporación de agentes inteligentes y sistemas industriales aumenta los puntos donde pueden producirse problemas, al tiempo que dificulta que los equipos humanos revisen manualmente toda la información generada.
El reto de saber qué ocurre dentro de los sistemas
Una de las respuestas tecnológicas a este problema es la llamada observabilidad, que consiste en reunir y analizar información sobre el funcionamiento de aplicaciones, servidores y otros sistemas para identificar fallas y comprender sus causas.
A diferencia de revisar únicamente si un servicio está funcionando, este tipo de supervisión busca reconstruir qué ocurrió, dónde comenzó un problema y cómo se relaciona con otras operaciones.
El objetivo es que las empresas puedan detectar anomalías, responder con mayor rapidez y mantener controles sobre las herramientas automatizadas, sin depender exclusivamente de que una persona revise cada alerta.
En este contexto, la firma tecnológica Zabbix presentó las capacidades de su versión 8.0, lanzada mundialmente este 5 de noviembre, que incorpora funciones para analizar el rendimiento de aplicaciones, relacionar alertas e integrar agentes de inteligencia artificial.
La compañía explicó que estas herramientas permiten consultar información sobre el funcionamiento de los sistemas mediante lenguaje natural y facilitar la identificación de posibles fallas.
Por su parte, Luciano Alves, CEO de Zabbix para Latinoamérica, aseguró que algunos clientes que migraron de plataformas con licencia a sus soluciones de código abierto han registrado ahorros de hasta 80%.
Sin embargo, el directivo aclaró que esta estimación procede de experiencias comerciales de la propia compañía y no de una evaluación independiente, por lo que no puede generalizarse a todas las organizaciones.