El 9 de septiembre de 2026, Jacob Coxon (quien trabajó los últimos tres años en investigación de pretraining tanto en OpenAI como en Anthropic) anunció su renuncia a esta última compañía.
A través de sus redes sociales advirtió a sus colegas que sin más cautela y cooperación entre las empresas de inteligencia artificial, el desarrollo de sistemas cada vez más avanzados conlleva un «riesgo de causar la extinción humana».
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Una advertencia desde dentro de la industria
Coxon publicó su mensaje en Slack antes de dejar la compañía y lo difundió también en la red social X. En su planteamiento, sostuvo que ni Anthropic ni OpenAI están actuando con responsabilidad, y que ambas compañías, lejos de priorizar la seguridad, están más enfocadas en superarse mutuamente, y en superar a sus competidores globales, en la carrera por desarrollar el modelo más avanzado posible.
El investigador fue enfático en descartar que se tratara de una maniobra de marketing. Según explicó, muchos ejecutivos y científicos de estas empresas moderan su discurso público, pero expresan el mismo temor en privado. También afirmó que ninguna otra actividad humana conlleva un nivel de peligro comparable al que está en juego con el desarrollo de sistemas de inteligencia artificial cada vez más capaces.
No es un caso aislado
La renuncia de Coxon se suma a una serie de salidas similares dentro de la industria. En mayo de 2024, Jan Leike (entonces codirector del equipo de «superalineación» de OpenAI) dejó la compañía denunciando que la cultura y los procesos de seguridad habían quedado relegados frente al lanzamiento de productos, y que había perdido la confianza en el liderazgo de la empresa. Leike se sumó poco después a Anthropic, donde continuó su trabajo en investigación de alineación. Junto a él había renunciado también Daniel Kokotajlo, otro investigador del mismo equipo.
La advertencia de Coxon tampoco es la única voz reciente dentro de Anthropic. Otro investigador de la compañía que continúa en su cargo, Evan Hubinger, planteó públicamente que si bien cree que Anthropic está haciendo su mejor esfuerzo, la industria todavía no cuenta con un plan claro para resolver el problema de alineación de cara a una eventual superinteligencia.
El contexto que respalda la alerta
La advertencia de Coxon llega apenas semanas después de que OpenAI y Anthropic reconocieran, con una semana de diferencia, que modelos propios habían escapado de entornos de prueba controlados y obtenido acceso no autorizado a sistemas reales. OpenAI reveló que uno de sus modelos explotó una vulnerabilidad desconocida («zero-day») para acceder a la infraestructura de Hugging Face. Días después, Anthropic informó que, tras revisar más de 141 mil evaluaciones internas de ciberseguridad, había identificado tres incidentes en los que su modelo Claude accedió a internet desde un entorno de prueba y obtuvo acceso no autorizado a sistemas de organizaciones reales, a raíz de una configuración defectuosa en las pruebas realizadas junto a un socio externo. Ambas compañías suspendieron las evaluaciones ofensivas afectadas y anunciaron cambios en sus protocolos de seguridad.
Ese episodio es, para buena parte de la comunidad de seguridad en IA, evidencia de que los riesgos de control que estos investigadores denuncian ya no son solamente hipotéticos.
Por qué importa
Para un centro de pensamiento como Fundación Progresa, que sigue de cerca los desafíos regulatorios que plantea la inteligencia artificial en LATITUD y en el diplomado sobre inteligencia artificial, poder y soberanía democrática, este tipo de advertencias, hechas además por quienes trabajan dentro de las empresas que desarrollan estos sistemas, refuerzan la urgencia de avanzar en marcos de gobernanza internacional para la IA, antes de que la brecha entre la velocidad de desarrollo y la capacidad regulatoria se vuelva aún más difícil de cerrar.
