Jacob Coxon, investigador de Anthropic especializado en entrenamiento de modelos de inteligencia artificial, renunció este martes después de trabajar los últimos tres años en OpenAI y Anthropic.
"Pasé los últimos tres años haciendo investigación de preentrenamiento en ambas empresas. Ninguna está actuando de manera responsable. Están corriendo directamente hacia la superinteligencia automejorable y apostando con nuestras vidas", escribió en su cuenta de X el experto británico de 27 años,
Coxon advierte que la industria usa términos como "momento crítico" y "juego final" para describir la trayectoria hacia modelos que se mejoran a sí mismos.
"No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de 'hackear' cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", señaló.
Asimismo, en conversación con The Wall Street Journal, añadió que "vamos camino a muchos de los escenarios más agresivos en los que, para finales del próximo año, las cosas podrían estar fuera de control".
Según explicó, dejó OpenAI para unirse a Anthropic por sus esfuerzos de seguridad, pero ahora cree que ninguna compañía puede desarrollar de forma responsable inteligencia artificial general sin intervención gubernamental.
"La gente que construye IA cree sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing", afirmó.
Al mismo tiempo, argumentó por qué las empresas continúan a pesar de los riesgos. "Una respuesta común es 'si realmente creen esto, ¿por qué lo siguen construyendo?'", escribió, señalando que, si bien en Anthropic los riesgos son bien comprendidos, "están atrapados en una carrera para llegar primero: creen que nadie más actuará responsablemente, así que deben hacerlo ellos mismos, a pesar del riesgo".
"No hay un plan"
En ese sentido, Coxon instó a otros investigadores a considerar las implicaciones y enfrentarse a la disyuntiva de agachar la cabeza, porque "va a suceder de todos modos", o aprovechar este momento para pedir condiciones diferentes.
Su renuncia ha generado respuestas contundentes. Evan Hubinger, líder científico de alineación en Anthropic, confirmó en X que Coxon "tiene razón". "Realmente creemos sinceramente que la IA podría matar a todos los humanos", escribió, señalando que, personalmente, cree que hay más de un 10 % de probabilidades de que esto ocurra en la próxima década, al tiempo que reconoció que la empresa "aún no tiene un plan para resolver la alineación de la superinteligencia".
Por su parte, Steven Adler, cofundador de Guidelight AI Standards y exinvestigador de seguridad de OpenAI, reforzó estas advertencias. "Ninguna empresa de IA está ni cerca de tener la postura de seguridad correcta para el nivel de peligro que implica su investigación", declaró a Financial Times.
Mientras, el inversor Bill Ackman calificó la renuncia del investigador de "preocupante".
