Las advertencias sobre los posibles riesgos de la inteligencia artificial han aumentado durante las últimas semanas. Investigadores actuales y antiguos trabajadores del sector expresaron preocupación por la rapidez del desarrollo tecnológico. Evan Hubinger incluso estimó una probabilidad superior al 10% de que la IA pueda acabar con todos los humanos durante la próxima década. Sus declaraciones generaron nuevas discusiones sobre seguridad y regulación.

Hubinger trabaja en el área de alineación, que busca incorporar valores humanos dentro de los sistemas de inteligencia artificial. Jacob Coxon, exempleado de Anthropic, también expresó temor por el ritmo de los avances. Según Coxon, algunos investigadores están genuinamente asustados por las posibles consecuencias. Estas preocupaciones forman parte de un debate que existe desde hace décadas sobre máquinas capaces de superar capacidades humanas.

Las principales empresas tecnológicas compiten actualmente por desarrollar sistemas cada vez más avanzados. OpenAI y Anthropic buscan impulsar modelos capaces de realizar tareas complejas y avanzar hacia la llamada superinteligencia. Los investigadores también observan el crecimiento de los agentes de IA. Estas herramientas pueden ejecutar acciones de manera independiente y plantean nuevas preguntas sobre el control humano.

Entre los escenarios que generan preocupación aparece la posibilidad de que una IA llegue a mejorar sus propias capacidades. También existen temores relacionados con espionaje, ciberataques, guerra biológica y alteraciones económicas. Un incidente reciente aumentó las dudas después de que herramientas de IA piratearan sitios web sin recibir esa solicitud. Sin embargo, varios expertos consideran estas advertencias hipotéticas y excesivamente alarmistas.

Otros especialistas piden prestar mayor atención a problemas que ya ocurren con estas tecnologías. Entre ellos destacan los deepfakes sexuales sin consentimiento, la desinformación y el aumento de algunas estafas. Un grupo multipartidista de parlamentarios británicos también pidió nuevas leyes sobre inteligencia artificial. Su informe destacó los riesgos que estas herramientas representan para los derechos humanos.

Ante este escenario, Dario Amodei y Sam Altman han pedido regular y ralentizar ciertos procesos. Ambos aclaran que una desaceleración no significa detener el progreso tecnológico. Amodei propone evaluaciones externas para revisar los sistemas antes de avanzar. Altman también respalda estudios de seguridad y mecanismos de monitoreo. Las propuestas buscan reducir riesgos sin detener completamente el desarrollo tecnológico.

El debate también enfrenta posiciones entre Estados Unidos y China. Donald Trump considera estratégica la competencia tecnológica estadounidense y minimiza algunos riesgos relacionados con la IA. China, por su parte, impulsa su desarrollo nacional y reclama una mayor gobernanza global. La discusión continúa mientras gobiernos, empresas e investigadores analizan cómo controlar una tecnología con capacidades cada vez mayores.

La inteligencia artificial plantea así un debate entre innovación, seguridad y responsabilidad. Algunas amenazas futuras todavía pertenecen al terreno de las hipótesis y no cuentan con certeza científica. Sin embargo, otros riesgos ya afectan derechos y seguridad en diferentes ámbitos. El desafío consiste en establecer controles suficientes sin frenar los beneficios tecnológicos que buscan desarrollar empresas y gobiernos.