Escépticos del riesgo existencial de la IA: sus argumentos

Los escépticos del riesgo existencial de la IA no son un bando: son cuatro argumentos distintos con evidencia desigual. Mezclarlos es la forma más cómoda de descartarlos, o de aplaudirlos, sin leerlos.

Este artículo es parte de la serie Sin Oráculos. Ubica esta postura en el mapa del debate.

El escéptico no existe: son cuatro argumentos distintos

El riesgo existencial es el escenario en el que la IA provoca la extinción humana o un colapso sin regreso. La superinteligencia sería un sistema muy superior a la mente humana en casi todo.

INFERENCIA (clasificación nuestra, no de los autores): las razones de los escépticos caen en cuatro argumentos.

• El conceptual: “inteligencia” no es una escala única.
• El de ingeniería y control: los fallos se detectan por etapas, antes de dar poder.
• El epistémico: las probabilidades de catástrofe no tienen una base sólida.
• El de puntos de control: los humanos pueden decidir no construir o no conceder poder.

Entre los escépticos del riesgo existencial no hay un argumento, sino cuatro: conceptual, de ingeniería, epistémico y de puntos de control, y cada uno tiene su propio estatus de evidencia.

“Inteligencia” no es una sola cosa: el argumento conceptual

François Chollet, autor de Deep Learning with Python, sostuvo en Medium en noviembre de 2017 que la inteligencia es situacional: no existe una inteligencia general que se amplíe sin límite como quien sube el volumen, porque depende del cuerpo, del entorno y de la cultura. Su blanco es la explosión de inteligencia: la idea de I. J. Good (1965) de que una máquina que mejora su propio diseño se automejoraría cada vez más rápido. Chollet responde que la ciencia, que también se automejora, avanza de forma más bien lineal.

En abril de 2025, Arvind Narayanan y Sayash Kapoor, autores de AI Snake Oil, publicaron en el Knight First Amendment Institute el ensayo “AI as Normal Technology”. Sostienen que la literatura sobre superinteligencia carece de precisión al usar la palabra “inteligencia” y proponen medir el poder: la capacidad de modificar el entorno. Aceptan que las capacidades seguirán creciendo; discuten si eso se vuelve poder sin control. Ya desarmamos el término AGI en AGI: el concepto más poderoso y menos definido de la tecnología.

HIPÓTESIS: que la inteligencia no se pueda ordenar en una escala es justo lo que está por demostrarse, y ambos textos lo argumentan, no lo prueban.

Un problema de ingeniería, no un destino: el argumento de control

Yann LeCun, en una entrevista con The Hub previa al debate Munk de 2023, dijo que se trata de un problema de ingeniería más. LeCun comparó hacer segura la IA con hacer seguros los turborreactores, y dijo que hoy aún no existe la arquitectura de IA de nivel humano para la que habría que imaginar esa seguridad. En el debate calificó de absurda la idea de un despegue instantáneo. Decir que es solo ingeniería no resuelve el problema: lo cambia de escritorio.

Narayanan y Kapoor, por su parte, sostienen que las defensas principales deben ubicarse río abajo, no dentro del modelo, y que el desalineamiento catastrófico es el más especulativo de los riesgos.

HECHO: en 2023, LeCun era científico jefe de IA de Meta, según The Hub. En marzo de 2026 era presidente ejecutivo de AMI Labs, startup que desarrolla alternativas a los grandes modelos de lenguaje (LLM) y anunció una ronda de 1,030 millones de dólares, según tech.eu. INFERENCIA: hay un incentivo comercial coherente con su escepticismo. Eso no refuta su argumento.

Los números sin base y las predicciones que sí se pueden refutar

Narayanan y Kapoor sostienen que las probabilidades de catástrofe carecen de bases epistémicas sólidas. Una probabilidad confiable necesita una clase de referencia o un modelo preciso. Con la IA no hay ni lo uno ni lo otro: los cálculos son juicios personales que varían por órdenes de magnitud. Una probabilidad sin clase de referencia es una opinión con decimales.

INFERENCIA: el argumento cuestiona el método, no afirma que el riesgo sea bajo. Y su variante ofrece predicciones que se pueden refutar: la IA no superará de forma significativa a humanos entrenados al pronosticar eventos geopolíticos ni al persuadir a alguien de actuar contra su propio interés, y la adopción seguirá lenta en tareas de alto riesgo. No auditamos si esas predicciones, de abril de 2025, ya se cumplieron.

Lo que los escépticos no dicen

No dicen que el riesgo sea cero. En el análisis de The Hub tras el debate Munk, la investigadora Melanie Mitchell reconoce que el riesgo de cualquier cosa es distinto de cero y lo ilustra con la llegada de extraterrestres: posible, pero muy improbable. Mitchell también dijo que la historia de la IA ha sido una historia de predicciones fallidas, y que en los años cincuenta y sesenta ya se predecía lo mismo. Narayanan y Kapoor van más lejos: si la IA es una tecnología normal, los riesgos sistémicos, como la concentración de poder, importan más que los catastróficos.

Y no son un solo bando. Según el preprint de Swoboda y colegas, Timnit Gebru y Joy Buolamwini critican el foco en el riesgo existencial, y Gebru lo ve como una distracción de los daños presentes usada por quienes invierten en IA; LeCun, entonces en Meta, y Nick Clegg, de la misma empresa según el preprint, lo hacen desde la industria. Comparten una conclusión, no los motivos.

Dónde se les rompe el argumento: las críticas más fuertes y la encuesta incómoda

En 2025, Torben Swoboda y colegas publicaron en arXiv un preprint que reconstruye tres argumentos escépticos populares (distracción, fragilidad humana y puntos de control) y concluye que ninguno justifica descartar el riesgo existencial. Conflicto declarado: entre los coautores está Risto Uuk, del Future of Life Institute, organización que publicó la carta de 2023 que pidió pausar seis meses el desarrollo de IA. Sobre los puntos de control, objetan que, antes de crear una superinteligencia, el obstáculo es reconocer el peligro y coordinar a los desarrolladores. También admiten que casi no existe literatura académica que desarrolle la postura escéptica. INFERENCIA: eso no la vuelve falsa, pero sí menos examinada.

Grace y colegas, en un preprint de arXiv de enero de 2024, encuestaron a 2,778 investigadores que habían publicado en foros de primer nivel de IA (el resumen no precisa su geografía). Entre 38% y 51% dio al menos 10% de probabilidad a resultados tan malos como la extinción humana; aun así, 68.3% pensó que los buenos resultados de una IA sobrehumana son más probables que los malos. La encuesta no dice quiénes son mayoría: dice que muchos investigadores asignan probabilidades no triviales a la extinción y, aun así, la mayoría espera buenos resultados.

Tampoco sirve de evidencia el voto del público. En el debate Munk del 22 de junio de 2023, la audiencia pasó de 67% a 64% a favor de la tesis de que la IA plantea una amenaza existencial, un cambio de 3 puntos. Un voto de audiencia mide persuasión, no evidencia.

Señal o marketing: el detector aplicado a los dos lados

INFERENCIA: ¿quién gana si te lo crees? Si prevalece el escepticismo, las empresas que prefieren menos regulación; si prevalece el riesgo, el campo de la seguridad y la filantropía. La simetría es real. Swoboda y colegas, con su conflicto ya declarado, no hallaron evidencia de que ese discurso infle la inversión.

INFERENCIA: en refutabilidad, Narayanan y Kapoor salen mejor parados por sus predicciones; Chollet, a medias; el lado del riesgo, débilmente. El truco inverso al del marketing tecnológico sería “no es tan poderoso, no regulen”; Narayanan y Kapoor no lo aplican: piden regular las aplicaciones de alto riesgo.

INFERENCIA: hay señal intelectual real en los argumentos conceptual y epistémico; es más débil donde el escéptico tiene interés comercial, y ninguno de los dos lados ofrece hoy evidencia que lo refute.

Alertas que dispara. INFERENCIA: según el tablero del artículo 9, este artículo dispara S2 (una cifra de juicio presentada como dato), aquí usada contra las cifras ajenas; ahí se definen las cinco señales, S1 a S5.

Que alguien gane si te convence no vuelve falso su argumento; solo te obliga a pedir más evidencia.

Quién carga con la prueba cuando los errores no pesan igual

Si ninguno de los dos bandos puede mostrar hoy evidencia que lo refute, ¿quién debe cargar con la prueba cuando el error de uno es reversible y el del otro no?