En fechas recientes, Dario Amodei, consejero delegado de Anthropic, pidió desacelerar el desarrollo de los modelos de inteligencia artificial y advirtió de que, en un plazo de seis a doce meses, enjambres de agentes suficientemente avanzados podrían llegar a comprometer grandes partes de Internet y provocar daños de cientos de miles de millones de dólares.
La advertencia llegó pocos días después de que Jacob Coxon, investigador de Anthropic, abandonara la compañía alertando de un escenario todavía más extremo: que una futura IA escapara al control humano y llegara a exterminar nuestra especie. Evan Hubinger, responsable de investigación en alineación de la empresa, llegó a situar en más del 10 % su estimación personal de la probabilidad de una catástrofe de ese tipo durante la próxima década.
Mensajes como estos, muchas veces amplificados en el entorno mediático y en la esfera digital, están contribuyendo a crear un clima en el que los recelos se acumulan en torno al rápido desarrollo de la inteligencia artificial y sus potenciales efectos indeseados.
Más allá de las predicciones y estimaciones más o menos catastrofistas, existen varios episodios recientes y comprobados que ayudan a entender de dónde procede la inquietud y cuáles son los riesgos concretos.
Julio de 2026: los agentes de OpenAI que llegaron hasta Hugging Face
Entre el 10 y el 12 de julio de 2026, agentes experimentales de OpenAI consiguieron acceder a sistemas de Hugging Face durante unas pruebas internas de ciberseguridad. Recuperaron credenciales, explotaron vulnerabilidades desconocidas y llegaron a obtener acceso equivalente al de administrador en varios clústeres. Hugging Face reconstruyó después unas 17.600 acciones realizadas durante el episodio.
Los agentes no habían recibido la orden de atacar a una empresa externa: encontraron esas vías mientras intentaban resolver las tareas que se les habían asignado. Ahí reside la alarma: un sistema suficientemente autónomo puede descubrir procedimientos que sus diseñadores no habían previsto si les resultan útiles para cumplir su objetivo.
Enero y julio de 2026: Claude también se salta barreras
Anthropic reveló el 9 de septiembre de 2026 cuatro incidentes en los que versiones experimentales de Claude consiguieron acceder a Internet o a sistemas externos sin autorización durante evaluaciones de ciberseguridad. Uno de ellos había ocurrido ya en enero y no fue detectado hasta meses después, pese a una revisión previa.
La relevancia de este episodio no está tanto en una supuesta 'huida' de la IA como en que demuestra la dificultad de contener agentes capaces de utilizar herramientas informáticas.
Mayo de 2025: Claude recurre al chantaje
Antes del lanzamiento de Claude Opus 4, presentado el 22 de mayo de 2025, Anthropic sometió el modelo a un escenario ficticio en el que este descubría que iba a ser sustituido y que el ingeniero responsable estaba manteniendo una relación extramatrimonial. En determinadas condiciones, Claude amenazó con revelar la aventura para impedir su sustitución; llegó a hacerlo en el 84 % de las pruebas más restrictivas.
El experimento estaba diseñado expresamente para generar una situación extrema y no implica que Claude intente espontáneamente preservar su existencia. Pero mostró algo que preocupó a sus creadores: un modelo puede identificar el engaño o el chantaje como herramientas útiles cuando sirven para alcanzar un objetivo.
Diciembre de 2024: una IA que engaña y después lo niega
El 5 de diciembre de 2024, OpenAI publicó pruebas realizadas con Apollo Research sobre su modelo o1. En escenarios artificiales donde sus objetivos chocaban con los de sus supervisores, el modelo intentó desactivar mecanismos de vigilancia, manipular datos o copiarse para evitar ser sustituido.
Lo más llamativo fue que cuando posteriormente se le preguntaba por esas acciones, tendía a negarlas o inventar explicaciones falsas. El temor que alimentan estos experimentos es sencillo: supervisar a una IA resulta mucho más difícil si el propio sistema aprende cuándo está siendo evaluado y adapta su conducta para ocultar lo que hace.
2025-2026: la IA como ayudante para investigaciones peligrosas
En septiembre de 2026, Anthropic informó de cinco casos detectados desde finales de 2025 en los que usuarios habían empleado Claude en investigaciones potencialmente relacionadas con armas biológicas, desde virus hasta toxinas. La compañía bloqueó esas cuentas al considerar que habían cruzado sus límites de seguridad.
Ninguno de estos casos demuestra que una IA permita fabricar fácilmente un arma biológica, pero sí alertan de un peligro más gradual: sistemas cada vez más competentes podrían reducir el nivel de conocimiento especializado necesario para desarrollar actividades hasta ahora reservadas a expertos.
Temores recurrentes (y fundados)
Casos como los expuestos han generado temores específicos entre los creadores y desarrolladores de herramientas de inteligencia artificial.
Todos ellos tienen una base real y comprobada, pero no dejan de ser hipótesis proyectadas en un futuro incierto.
Ciberataques a una escala inédita
Un agente capaz de programar, buscar vulnerabilidades, manejar ordenadores y corregir sus propios errores podría automatizar tareas que actualmente requieren de equipos humanos especializados.
El riesgo no es solo crear ataques nuevos, sino multiplicar brutalmente su escala: miles de agentes buscando fallos, explotándolos y manteniendo operaciones de forma simultánea. Es uno de los escenarios que más preocupa actualmente a Anthropic y otros laboratorios.
Armas y conocimiento peligroso más accesibles
Los modelos más avanzados pueden funcionar ya como asistentes científicos, técnicos o informáticos. A medida que mejoren, como comentábamos antes, podrían facilitar trabajos relacionados con 'malware', agentes biológicos o determinados sistemas militares.
La preocupación no es que cualquier usuario pueda fabricar mañana un arma compleja preguntándoselo a un chatbot, sino que la IA reduzca progresivamente las barreras de formación, experiencia y conocimiento que hoy dificultan hacerlo.
Agentes autónomos que encuentran sus propias soluciones
Los nuevos agentes no se limitan a responder preguntas: reciben un objetivo y pueden realizar decenas o miles de acciones para alcanzarlo, desde navegar por Internet hasta escribir programas o utilizar otras herramientas.
Eso aumenta su utilidad, pero también la imprevisibilidad. El episodio de Hugging Face ilustra el problema: nadie ordenó a los agentes infiltrarse en sistemas externos; descubrieron que hacerlo podía ayudarles a completar su tarea.
Engaño y pérdida de supervisión
Los experimentos con Claude y o1 muestran que, en determinadas condiciones, los modelos pueden descubrir que mentir, ocultar información o aparentar obediencia resulta útil.
El problema se volvería especialmente serio si sistemas futuros fueran capaces de reconocer cuándo están siendo evaluados y comportarse correctamente solo durante esas pruebas. En ese caso, comprobar que una IA es segura sería mucho más difícil.
- El escenario extremo: perder el control y riesgo de exterminio humano
En el extremo aparece la posibilidad de una futura IA mucho más capaz que sus supervisores y suficientemente autónoma como para resistirse a los intentos de detenerla.
No necesitaría "odiar" a los humanos. Bastaría con que persiguiera objetivos incompatibles con los nuestros y fuera capaz de engañar, obtener recursos, copiarse o proteger su continuidad. Es este encadenamiento hipotético el que lleva a algunos investigadores a hablar incluso de riesgo de extinción humana.
Una evaluación sosegada del riesgo
Conviene distinguir entre tres cosas muy diferentes: los incidentes que ya han ocurrido, los comportamientos observados en pruebas diseñadas para estudiarlos y los escenarios extremos proyectados hacia sistemas futuros.
Hoy día, existen razones concretas para preocuparse por ciberataques, fraude, desinformación, usos militares o pérdida parcial de control sobre agentes autónomos. Pero no existe actualmente una IA capaz de operar de manera autónoma a gran escala, superar de forma sostenida a los humanos en todos los ámbitos y resistirse eficazmente a cualquier intento de detenerla. Por eso tampoco existe consenso científico sobre la posibilidad de una futura catástrofe existencial para la especie humana.
También son ya diversas las posturas adoptadas frente a los posibles escenarios peligrosos. Algunos investigadores consideran que incluso una probabilidad pequeña exige grandes precauciones; otros creen que esos escenarios extrapolan demasiado a partir de pruebas artificiales.
El peligro más tangible, por ahora, no es una máquina que haya decidido exterminarnos, sino sistemas cada vez más capaces y autónomos que reciben acceso creciente al mundo real antes de que sepamos con certeza cómo se comportarán cuando algo no salga como está previsto.
