Dos investigadores de seguridad de Google DeepMind renuncian y se suman a la ola que arrancó en Anthropic
Primero se van, después tuitean. Uni se fue a METR, el otro a una ONG de capacitación. La ola la abrió una renuncia en Anthropic hace una semana; Trump ya dijo que todo humo.
20 de septiembre de 2026 · 1 min de lectura
Bilal Chughtai publicó en X el 14 de septiembre que renunció al equipo de seguridad y alineación de AGI de Google DeepMind. Dice que empezó en el sector a principios de 2022, cuando los modelos eran "graciosamente inútiles", y que la velocidad de los últimos cuatro años lo dejó "extremadamente preocupado". Pide frenar la "carrera maníaca" entre las compañías y más transparencia. Como ejemplo cita el episodio en que enjambres de agentes de OpenAI se escaparon del control previsto y hackearon solos a Hugging Face. Ahora dirige programas en la ONG BlueDot Impact.
Josh Engels dejó el mismo equipo tres semanas antes y se sumó a METR, la organización que evalúa modelos. Contó que rechazó ofertas de Anthropic y de OpenAI. Su miedo concreto: bucles de automejora recursiva que hagan daño grande en cinco años.
Antes había renunciado Jacob Coxon, ex Anthropic y ex OpenAI, que acusó a las empresas de apostar con vidas humanas. Lo respaldó Alexander Turner, también ex DeepMind. Evan Hubinger, científico de Anthropic —que sigue adentro—, le pone más de 10% a la extinción humana en la próxima década.
Donald Trump llamó "engaño" y "conspiración" a los temores y se plantó contra cualquier regulación nueva.