De MIRI al 10% de probabilidad de extinción: veinte años de avisos sobre el riesgo existencial de la inteligencia artificial

El origen de esta corriente de pensamiento suele situarse en el año **2000**, con la fundación de lo que hoy se conoce como **MIRI (Machine Intelligence Research Institute)**, que reorientó su actividad hacia el riesgo existencial de la IA en torno a 2005. Su preocupación central era que un sistema de inteligencia artificial pudiera superar la capacidad humana de forma descontrolada si no se resolvían antes los problemas de alineamiento entre los objetivos del sistema y los de sus creadores.

En **2009**, el investigador **Eliezer Yudkowsky** contribuyó a fundar la comunidad online **LessWrong**, que combinaba ideas del transhumanismo y del altruismo eficaz con debates sobre el riesgo de una 'singularidad' tecnológica. Durante años, estas ideas circularon en círculos relativamente reducidos y especializados, lejos del debate público general sobre tecnología.

El salto a la visibilidad amplia llegó en **2015**, cuando un manifiesto impulsado por el Future of Life Institute reunió firmas de perfiles como Elon Musk, Demis Hassabis, Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y Stephen Hawking, con el mensaje de que los sistemas de IA debían hacer lo que sus diseñadores pretendían que hicieran. Musk donó ese mismo año diez millones de dólares para financiar investigación en seguridad de IA.

Lee también: El debate sobre seguridad de la IA enfrenta controles externos y carrera competitiva · EEUU propone a China una línea de aviso para incidentes graves de IA: es un mecanismo de crisis, no un acuerdo tecnológico

Con la irrupción pública de ChatGPT, el ritmo de advertencias se aceleró notablemente. En **marzo de 2023**, una carta abierta impulsada de nuevo por el Future of Life Institute, firmada entre otros por Wozniak, Musk, Jaan Tallinn y Max Tegmark, pidió una pausa de seis meses en el entrenamiento de nuevos modelos de gran tamaño. Dos meses después, en mayo de 2023, una declaración del Center for AI Safety introdujo una frase que se repetiría mucho: mitigar el riesgo de extinción por IA debía tratarse como una prioridad global al mismo nivel que las pandemias o la guerra nuclear, con firmas de Geoffrey Hinton, Dario Amodei, Demis Hassabis y Sam Altman, todos ellos responsables de laboratorios de IA de primer nivel.

La escalada del discurso ha continuado en los últimos años: en 2025, Yudkowsky publicó junto a Nate Soares el libro *If Anyone Builds It, Everyone Dies*, con un planteamiento abiertamente alarmista. Más recientemente, Evan Hubinger, responsable de alineamiento en Anthropic y anteriormente vinculado a MIRI y al Center for AI Safety, ha llegado a citar una probabilidad del **10%** de que la inteligencia artificial termine provocando la extinción humana, una cifra que, viniendo de un responsable interno de una de las principales empresas de IA, tiene un peso distinto al de un manifiesto firmado por observadores externos.