La inteligencia artificial avanzada puede generar riesgos existenciales para la humanidad, advirtió Volker Türk, alto comisionado de la ONU.

El funcionario pidió actuar con urgencia para establecer una gobernanza internacional. La regulación debe avanzar al mismo ritmo que la tecnología.

Türk dirigió una carta a los Estados y empresas que desarrollan los sistemas de inteligencia artificial más avanzados. También pidió evaluaciones de impacto, transparencia y controles efectivos para proteger los derechos humanos.

IA agéntica genera nuevas preocupaciones

El alto comisionado puso especial atención en los sistemas de IA agéntica. Estas herramientas pueden ejecutar tareas y tomar decisiones con mayor autonomía.

Türk advirtió que una falla podría paralizar servicios esenciales e interrumpir comunicaciones. También podría afectar infraestructuras críticas e instituciones democráticas.

El riesgo alcanza servicios indispensables para la población. Entre ellos aparecen el suministro de agua potable, la calefacción y los servicios financieros.

La inteligencia artificial también modifica la dinámica de los conflictos armados. Según Türk, reduce barreras de protección frente al posible uso de armas de destrucción masiva.

La preocupación abarca tanto los sistemas autónomos como sus posibles efectos sobre la vida cotidiana. Por ello, el funcionario pidió controles que consideren distintos escenarios.

Privacidad y desinformación también preocupan

Türk sostuvo que los daños derivados de la inteligencia artificial ya no representan una posibilidad hipotética. Entre los problemas actuales mencionó la automatización de servicios.

Esa automatización puede profundizar la exclusión de personas en situación de vulnerabilidad. También puede ampliar el uso de herramientas de vigilancia y la recopilación masiva de datos personales.

El alto comisionado alertó además sobre campañas de desinformación generadas mediante inteligencia artificial. Estas herramientas pueden distorsionar el debate público y debilitar la cohesión social.

También pueden aumentar la presión sobre las instituciones democráticas. La ONU mantiene así su preocupación por los efectos de estas tecnologías sobre los derechos fundamentales.

La Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos ya señaló riesgos similares. Entre ellos destacan la discriminación, los sesgos y la vigilancia masiva.

ONU pide supervisar a las empresas

Türk planteó que las empresas desarrolladoras de modelos de IA de frontera deben aplicar evaluaciones sólidas. Esos procesos deben medir posibles impactos sobre los derechos humanos.

También pidió una mejora continua de esos mecanismos. Además, propuso una supervisión interna independiente para fortalecer la transparencia y la rendición de cuentas.

Los Estados que albergan a las principales empresas tecnológicas también enfrentan una responsabilidad particular. Türk pidió exigir comportamientos responsables y mecanismos de rendición de cuentas.

Las compañías deberían responder cuando incumplan las obligaciones establecidas. El funcionario considera necesario evitar que las empresas definan unilateralmente los límites de los riesgos.

Gobiernos deberán verificar las capacidades

Türk llamó a los gobiernos a crear mecanismos independientes para verificar las capacidades de la IA agéntica. Esos organismos deberán contar con competencia técnica.

Las revisiones deberían incluir acceso a los modelos y documentación correspondiente. También deberían utilizar entornos de prueba para analizar posibles riesgos.

El funcionario pidió evaluaciones permanentes sobre los impactos en los derechos humanos. La supervisión debe acompañar la evolución de los sistemas más avanzados.

La regulación tampoco debería depender únicamente de los países donde se concentran las empresas tecnológicas. Türk considera insuficiente dejar estos procesos exclusivamente en manos de las compañías.

ONU propone una gobernanza internacional

Ante el rápido desarrollo tecnológico, Türk pidió utilizar los foros multilaterales para establecer una ruta común. La propuesta contempla modelos avanzados y sistemas de frontera.

Esa gobernanza debería sustentarse en el derecho internacional de los derechos humanos. El objetivo consiste en establecer reglas comunes ante una tecnología con alcance global.

La posición continúa los llamados anteriores del alto comisionado. En febrero de 2026, pidió evaluaciones de impacto antes de desarrollar, desplegar y comercializar herramientas de inteligencia artificial.

El mensaje de Türk plantea una responsabilidad compartida entre gobiernos y empresas. Ningún país puede controlar por sí solo una tecnología con alcance mundial.

La inteligencia artificial avanzada requiere mecanismos de supervisión que acompañen su desarrollo. Para la ONU, los derechos humanos deben ocupar un lugar central en ese proceso.