Además llamó a no subestimar a esta tecnología ya que pronto serán "sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales". Suena como una película de ciencia ficción pero es la vida real "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing".
10/09/2026 - Edición Nº674
Sociedad
Alarmante advertencia
Renunció otro desarrollador de Claude y realizó una inquietante predicción sobre la IA: "Nos va a matar a todos"
09/09/2026 10:50 | Después de salir de la empresa Anthropic, un investigador de seguridad rompió el silencio y habló sobre no subestimar el poder de esta tecnología. "Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas", sentenció. ¿Qué podrá ocurrir?
Crece el temor por el rápido avance de la IA.
En las últimas horas renunció otro investigador de seguridad de Claude y rompió el silencio sobre los peligros que puede representar la Inteligencia Artificial a medida que avanza su desarrollo y realizó una inquietante advertencia: "Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década".
En varios posteos publicados en X, Jacob Coxon contó públicamente que pasó los últimos tres años investigando el preentrenamiento en OpenAI como en Anthropic."Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", aseguró.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
A pesar de las advertencias, Coxon cree que grandes empresas desarrolladoras de IA están "atrapados en una carrera por llegar primero" y añadió "no siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos".
Un exjefe de Antrophic respaldó la advertencia de Coxon en redes sociales
Evan Hubinger, exjefe de Antrophic salió a respaldar a Jacob Coxon respondiendo a la serie de posteos que realizó el experto en seguridad en redes sociales. "Jacob tiene razón aquí -realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo", sentenció.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Un posteo realizado por Antrophic sobre el desarrollo de Claude explicaron que "una IA capaz de autoconstruirse representaría un avance trascendental en la historia de la tecnología, con un potencial enorme para el mundo en ciencia, salud y otros ámbitos".
Aunque aclararon que una IA que se construye sola también representa un riesgo: "Sin embargo, la auto-mejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA. Si los sistemas son capaces de construir completamente sus propios sucesores, la forma en que los protegemos, los supervisamos y moldeamos su comportamiento adquiere una importancia mucho mayor".
