Jacob Coxon denunció que OpenAI y Anthropic compiten por una superinteligencia auto-mejorable que “están apostando con nuestras vidas”
The Daily Journal.- Jacob Coxon, investigador británico de 27 años especializado en el preentrenamiento de modelos de IA, renunció este miércoles a Anthropic y denunció que ni esta compañía ni OpenAI están actuando con responsabilidad en la carrera por la superinteligencia.
“Renuncié a Anthropic hoy. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable”, escribió Coxon en su cuenta de la red social X.
El investigador advirtió que las empresas “están corriendo directamente hacia una superinteligencia auto-mejorable y apostando con nuestras vidas”. Asimismo, subrayó que “las personas que están construyendo IA creen sinceramente que podría matarnos a todos antes de que termine la década”.
Añadió que “no es un truco de marketing” y que “muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado”.
La “carrera por llegar primero” en la IA
Coxon estableció una diferencia clave entre ambos laboratorios. Señaló que “en OpenAI, tal vez no han internalizado en profundidad los retos civilizacionales”. En cambio, “en Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”.
El investigador urgió a sus colegas a reflexionar sobre si vale la pena “potenciar un aprendizaje por refuerzo superinteligente sin un entendimiento riguroso de su mente”, advirtiendo que “ya está ocurriendo”. En contraposición, acotó que si no prefieren “aprovechar este momento para abogar por condiciones diferentes”.
Coxon abogó por acciones como una prohibición temporal de mejorar las capacidades de los modelos para evitar una carrera global descontrolada.
Evan Hubinger respaldó la advertencia sobre la IA
Evan Hubinger, responsable de ciencia de alineación en Anthropic, respaldó públicamente a Coxon. “Realmente creemos que la IA podría matar a todos los seres humanos. Personalmente, considero que la probabilidad es superior al 10% durante la próxima década”, escribió en X. Además, reconoció que Anthropic “aún no tiene un plan para resolver la alineación de la superinteligencia”.
En días recientes, El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió que la inteligencia artificial (IA) avanzada puede “suponer un riesgo existencial para la humanidad” si no se establecen controles efectivos.
Alerta similar emitió el magnate tecnológico Bill Gate quien comparó la IA con HAL, la inteligencia artificial de la película 2001. Asimismo, planteó que “la amenaza no es ficticia, ya está presente”.
