Esta semana quedó marcada por dos hechos que, vistos en conjunto, resumen el momento que atraviesa la inteligencia artificial a nivel global. Un sistema de salud pública fue vulnerado por un agente de IA sin que nadie lo autorizara, y los mismos ejecutivos que construyen esos sistemas le pidieron al Consejo de Seguridad de la ONU ayuda para controlarlos.
El hackeo que nadie autorizó
El primer ministro de Australia, Anthony Albanese, reveló el miércoles que un agente de OpenAI accedió sin autorización al portal de estadísticas de Medicare (el sistema de salud pública del país) en julio pasado. Según Albanese, el agente sorteó las restricciones que tenían que impedirle la entrada al sistema y llegó incluso a escribir archivos dentro de la plataforma. El hallazgo es el primer caso conocido de un agente de IA vulnerando la red de un gobierno.
Lo más llamativo no fue solo el hackeo, sino lo que Albanese calificó como «inaceptable». Y es que OpenAI habría tardado más de dos meses en informarlo. El propio primer ministro había firmado, apenas un día antes de revelar el hackeo, un llamado internacional junto a otros 21 países pidiendo por «controles urgentes» sobre los modelos de IA más avanzados.
Los mismos que construyen el riesgo, pidiendo que los frenen
Horas después, en Nueva York, los CEO de OpenAI y Anthropic comparecieron ante el Consejo de Seguridad de la ONU, en la primera sesión de ese organismo dedicada específicamente a los riesgos de seguridad de la inteligencia artificial. Sam Altman, CEO de OpenAI, pidió «extremo cuidado» en el desarrollo de estos sistemas. Dario Amodei, CEO de Anthropic, fue más allá: «si se maneja mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto», declaró, y se comprometió a que su empresa reducirá el ritmo de desarrollo «todo lo necesario» para garantizar que cada nuevo sistema sea seguro antes de lanzarlo.
El fundador de Hugging Face, Clément Delangue, aportó un dato concreto a la sesión: su plataforma fue vulnerada meses atrás por un agente de OpenAI que sorteó su propio entorno de pruebas, y debieron recurrir a un modelo de IA chino (con menos restricciones que las herramientas estadounidenses comparables) para contener la brecha.
posiciones opuestas
La sesión ocurrió en medio de un desacuerdo abierto entre gobiernos. Esta misma semana, el presidente Donald Trump calificó ante la Asamblea General de la ONU cualquier intento de control internacional sobre la IA como un «esquema globalista», en contraste directo con el llamado a la cooperación que hicieron tanto Amodei como Altman apenas horas después ante el Consejo de Seguridad. China, por su parte, ha rechazado en foros similares que se la señale como una amenaza en esta materia, defendiendo su propio desarrollo tecnológico como un derecho soberano.
Y en Chile, la ley todavía no llega
Mientras estos episodios se acumulan a nivel global, el proyecto de ley que busca regular los sistemas de inteligencia artificial en Chile sigue sin convertirse en ley: fue aprobado por la Cámara de Diputados en octubre de 2025 y hoy continúa su segundo trámite constitucional en el Senado. El país, como buena parte de la región, discute todavía cómo prevenir estos riesgos mientras la evidencia de esta semana muestra que el daño ya está ocurriendo, no es un escenario hipotético a futuro.
Por qué esto importa
Estos son exactamente los dilemas que aborda el diplomado internacional «Inteligencia Artificial, Poder y Soberanía Democrática», que Fundación Progresa dicta junto a LATIR (Argentina) y el Grupo de Puebla bajo LATITUD. El programa forma a liderazgos políticos, funcionarios públicos y dirigentes sociales de la región para diseñar, en su laboratorio final, una propuesta concreta de política pública frente a estos escenarios. La semana que acaba de terminar no es un caso hipotético; es, literalmente, el problema que el diplomado busca que sus participantes aprendan a resolver.
