Un investigador renunció a Anthropic y acusó a los principales laboratorios de avanzar sin garantías hacia una superinteligencia capaz de mejorarse a sí misma. Un responsable de seguridad de la empresa respaldó la advertencia y estimó un riesgo superior al 10%.
Jacob Coxon renunció a Anthropic y advirtió que la superinteligencia podría extinguir a la humanidad, en un mensaje publicado el martes 8 de septiembre en la red social X. El investigador, de 27 años, cuestionó tanto a esa compañía como a OpenAI por avanzar en el desarrollo de sistemas cada vez más poderosos sin contar, según afirmó, con garantías de seguridad suficientes.
Coxon trabajó durante tres años en el área de preentrenamiento, etapa en la que los modelos aprenden a partir de enormes volúmenes de información. Primero integró el equipo técnico de OpenAI y luego, en julio de 2026, se incorporó a Anthropic, empresa reconocida por poner el foco en la seguridad de la inteligencia artificial.
Su publicación alcanzó más de 44 millones de visualizaciones en nueve horas. “Ninguna de las dos empresas actúa con responsabilidad”, escribió. Luego aseguró que ambas compañías “corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
Un responsable de Anthropic respaldó la advertencia
La repercusión aumentó después de la respuesta pública de Evan Hubinger, responsable de un equipo de seguridad y alineación en Anthropic, quien continuaba trabajando dentro de la compañía.
“Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”, afirmó Hubinger. El especialista presentó esa estimación como una apreciación personal sobre el riesgo de que futuros sistemas avanzados escapen al control humano.
También reconoció que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y admitió que no estaba claro que pudiera encontrarlo. En inteligencia artificial, la alineación hace referencia a los métodos utilizados para lograr que un sistema actúe de acuerdo con objetivos y valores humanos.
Su paso por OpenAI y Anthropic
Coxon, de nacionalidad británica y con formación en matemática, trabajó en OpenAI desde 2023 hasta julio de 2026. Según Business Insider, participó en tareas vinculadas con GPT-4o antes de trasladarse a Anthropic por la reputación de la empresa en materia de seguridad.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Su permanencia en la nueva compañía duró aproximadamente dos meses. Tras presentar la renuncia, explicó a The Wall Street Journal que la aceleración en el desarrollo de los modelos podría conducir a escenarios difíciles de controlar.
“Estamos en camino a muchos de los escenarios más agresivos, donde a fines del año que viene las cosas ya podrían estar fuera de control”, sostuvo. Además, reveló que algunos de sus colegas utilizaban expresiones como crunchtime —“hora límite”— y endgame —“fase final”— para describir la evolución de las capacidades de la IA.
Diferencias en el abordaje del riesgo
En su publicación, Coxon diferenció la manera en que OpenAI y Anthropic analizaban los peligros asociados con la inteligencia artificial avanzada. Según su interpretación, en la primera compañía parte del personal no habría comprendido plenamente la magnitud del desafío.
“Muchos no internalizaron lo que está en juego para la civilización”, afirmó sobre su experiencia en OpenAI. En cambio, señaló que dentro de Anthropic existía una mayor conciencia sobre los riesgos, aunque la empresa permanecía involucrada en una competencia por desarrollar primero los sistemas más avanzados.
El investigador sostuvo que Anthropic consideraba necesario continuar porque, si se retiraba de la carrera, otras compañías podrían avanzar con menores controles. Para Coxon, esa lógica implicaba una competencia peligrosa, incluso cuando no estuviera impulsada únicamente por intereses económicos.
“Entrar en esa fase final es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”, sentenció. De esta manera, cuestionó que decisiones con posibles consecuencias globales quedaran concentradas dentro de un reducido grupo de compañías tecnológicas.
El reclamo de mayores controles
Coxon comparó el actual desarrollo de la inteligencia artificial con otros proyectos científicos de alto riesgo y reclamó mayores niveles de supervisión, coordinación internacional y participación estatal.
“Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”, declaró a The Wall Street Journal.
Las afirmaciones de Coxon y Hubinger expresaron sus estimaciones personales y no constituyeron una predicción científica comprobada. Sin embargo, expusieron públicamente el debate interno que mantienen investigadores y compañías sobre la velocidad del desarrollo tecnológico, la ausencia de mecanismos definitivos de alineación y el eventual riesgo de perder el control sobre sistemas más capaces que sus creadores. The Guardian también informó sobre la renuncia y las advertencias de ambos especialistas.
