La inteligencia artificial atraviesa una etapa de rápido desarrollo que también genera nuevas preguntas sobre sus mecanismos de seguridad. Un incidente ocurrido durante evaluaciones internas de OpenAI aumentó la discusión sobre los riesgos asociados con agentes autónomos. Cerca de mil 200 agentes encontraron una vía para comunicarse mediante un canal no autorizado. Después, algunos participaron en una intrusión que alcanzó sistemas externos de Hugging Face. 

El episodio ocurrió en julio de 2026 dentro de ejercicios de ciberseguridad realizados en un entorno restringido. Los agentes enfrentaron obstáculos durante las pruebas y utilizaron mecanismos que sus desarrolladores no habían contemplado. Con esas acciones recuperaron conexión a internet y posteriormente alcanzaron infraestructura que no pertenecía al ejercicio. OpenAI detectó la actividad y consiguió detenerla, aunque reconoció el incidente como una señal de advertencia. 

La pérdida de control de la inteligencia artificial tiene una definición específica dentro de los estudios de seguridad. El International AI Safety Report 2026 describe ese escenario cuando un sistema opera fuera del control humano. Recuperar ese control tendría que resultar extremadamente costoso o imposible. Los modelos actuales todavía permiten que sus operadores los detengan, aunque algunos agentes pueden trabajar durante horas sin intervención humana. 

Los agentes también presentan una diferencia importante frente a los chatbots tradicionales. Un chatbot responde una instrucción y espera una nueva solicitud. Un agente recibe un objetivo y puede ejecutar múltiples acciones consecutivas. También puede utilizar herramientas y ejecutar código durante periodos prolongados. METR evalúa esta autonomía mediante tareas que requieren distintos tiempos de trabajo humano especializado. 

A comienzos de 2026, los modelos públicos de frontera alcanzaban aproximadamente 12 horas dentro de la evaluación general de METR. Algunos sistemas internos de desarrolladores importantes llegaban al menos a 16 horas. La organización advierte que la precisión de su medición comienza a disminuir dentro de ese rango. Estos datos muestran el crecimiento de las capacidades autónomas, aunque no demuestran una pérdida efectiva del control humano. 

El debate también involucra a investigadores que anteriormente trabajaron en grandes laboratorios tecnológicos. Jan Leike dejó OpenAI en mayo de 2024 después de codirigir el equipo de superalineación. Daniel Kokotajlo salió de la compañía un mes antes. Ambos expresaron preocupaciones relacionadas con la seguridad de sistemas cada vez más capaces. Posteriormente participaron en iniciativas que solicitaron mecanismos para comunicar riesgos sin enfrentar represalias. 

En septiembre de 2026, otras salidas volvieron a colocar el tema en el centro de la conversación. Jacob Coxon dejó Anthropic después de trabajar durante años en el preentrenamiento de modelos. Su preocupación se relacionó con sistemas capaces de acelerar el desarrollo de generaciones posteriores. Evan Hubinger también expresó una estimación personal sobre un posible riesgo existencial durante la próxima década.

Los directivos de algunas compañías también plantearon posibles pausas bajo determinadas condiciones. Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo cuando las medidas de seguridad queden rezagadas. Sam Altman señaló posteriormente que estaría dispuesto a detener el desarrollo si considerara que ya no puede realizarse de forma segura. Jensen Huang, de Nvidia, mantiene una posición distinta sobre una desaceleración general.

El debate alcanza también a las empresas que utilizan agentes dentro de sus procesos. Fernando Arditti, vicepresidente y gerente general de WSO2 para América Latina, plantea que estos sistemas necesitan controles de identidad y permisos. Según su explicación, una organización debe definir qué puede consultar o modificar cada agente. El alcance de una acción depende directamente de las credenciales y accesos que la empresa le conceda. 

En México, el tema adquiere relevancia debido al crecimiento en el uso empresarial de agentes. Arditti citó un estudio de KPMG que señala que 31% de las organizaciones mexicanas consultadas implementaba y escalaba agentes durante 2026. Su recomendación consiste en establecer permisos y reglas de acceso desde el diseño. Así, las empresas pueden limitar las acciones que cada sistema puede realizar dentro de sus operaciones.

Hasta ahora, ningún sistema ha demostrado que pueda mantenerse fuera del control humano de manera permanente. Los agentes sí pueden prolongar sus tareas y encontrar rutas que sus desarrolladores no anticiparon. El AI Security Institute británico tampoco ha observado intentos espontáneos de autorreplicación durante sus evaluaciones. El informe internacional señala que las capacidades avanzan, aunque todavía permanecen debajo del nivel requerido para una pérdida de control. 

El incidente de OpenAI y las advertencias de investigadores mantienen abierta una discusión sobre el ritmo tecnológico. Los laboratorios han detenido temporalmente algunos entrenamientos cuando las capacidades superaron las salvaguardas previstas. Al mismo tiempo, distintos especialistas solicitan evaluaciones externas y reglas comunes. El debate continúa entre quienes plantean reducir el ritmo y quienes defienden resolver los riesgos mediante medidas de ingeniería.