El futuro de la humanidad con la IA: mapa del debate

El debate sobre el futuro de la humanidad con la IA (inteligencia artificial) mezcla hechos medidos, deducciones y especulación como si pesaran lo mismo. Este mapa los separa. No dice quién tiene razón: dice qué clase de prueba exige cada postura.

Es la página de entrada de Sin Oráculos, una serie de diez artículos: este mapa (00) y nueve más (01 a 09) sobre lo que dicen filósofos, científicos y otros especialistas del futuro de la IA. Aquí no hay investigación nueva: este texto resume esos otros nueve artículos y presenta todo como lo que dicen las fuentes revisadas, no como la verdad de este sitio.

Cómo leer este mapa: la regla de etiquetado y el detector de marketing

Cada afirmación del debate cae en una de tres casillas:

• HECHO: lo demostrado o medido, con fuente.
• INFERENCIA: lo que se deduce razonablemente de hechos.
• HIPÓTESIS: la especulación sin evidencia que la confirme o la descarte.

En la lectura de este sitio, casi todo el debate sobre riesgo existencial vive en la casilla de HIPÓTESIS, mientras que el daño presente vive sobre todo en la de HECHO. Un ejemplo con número: en una entrevista de 80,000 Hours de 2020, el filósofo Toby Ord calculó cerca de 50% de probabilidad de que este siglo se cree algo más inteligente que la humanidad y cerca de 20% de que se pierda el control en esa transición. Multiplicados, dan 1 de cada 10, y el propio Ord describe sus cifras como estimaciones subjetivas.

Ord también matizó su argumento. En 2024 escribió que el escenario clásico de amenaza, en el que se centró su libro de 2020, no aplica directamente a los modelos de lenguaje, porque no son agentes de forma inherente (un agente es un sistema que actúa por su cuenta para cumplir metas), aunque reconoció que con ellos se pueden construir agentes.

Este mapa ubica cada afirmación del debate sobre el futuro de la IA en una de tres categorías: hecho, inferencia o hipótesis; lo que casi siempre falta es una cuarta, la de quién decide qué cuenta como prueba.

El detector de marketing son cinco preguntas que se le hacen a cualquier afirmación, sin importar quién la diga:

1. ¿Quién gana si se lo creen?
2. ¿Es falsable? Es decir, ¿existe una observación que la desmienta?
3. ¿Trae calendario?
4. ¿Hay conflicto de interés declarado u omitido?
5. «Mi producto es tan poderoso que es peligroso»: ¿es advertencia o publicidad?

Las preguntas 1 y 5 son INFERENCIA, porque atribuyen motivos. Las señales de alerta detalladas (S1 a S5) están en el artículo 9 de la serie.

Que una afirmación convenga a quien la hace no la vuelve falsa; solo obliga a pedirle más pruebas.

Para ver cómo se fabrica la urgencia en torno a la IA, este sitio ya publicó El hype de la IA no es accidental: así lo diseñaron, un análisis del hype como estrategia de fundraising y de narrativa.

Las siete posturas del debate en una tabla

La tabla ubica cada postura con su tesis, sus defensores (y quién no aparece), el tipo de afirmación que predomina y la alerta que dispara. Las columnas «Qué predomina» y «Alerta» son clasificación de este sitio, es decir, INFERENCIA y no conclusión de los autores.

Postura	Tesis en una línea	Quiénes (y quién no)	Qué predomina	Alerta del detector	Artículo
Riesgo existencial	Una IA más capaz que los humanos, con metas mal especificadas, podría escapar a su control; es un argumento, no una predicción.	Bostrom, Ord y Russell (Russell es informático). Ninguno fija fecha para la superinteligencia; Ord habla de «este siglo».	HIPÓTESIS	Cifra subjetiva (el 1 de cada 10 de Ord).	1
Escépticos	El escepticismo son varios argumentos distintos (conceptual, de ingeniería, epistémico y de puntos de control; clasificación de este sitio) y no dice que el riesgo sea cero.	Chollet, Mitchell, LeCun, Narayanan y Kapoor.	Mezcla	Incentivos comerciales coherentes con el escepticismo (a verificar) y el inverso de «mi producto es poderoso».	2
Daño presente	Los daños de la IA ya existen y se miden.	Crawford, Gebru, Bender y Vallor (no todos son filósofas).	HECHO en lo medido	Atribución de motivos.	3
Abundancia y largoplacismo	Si la IA avanzada produce abundancia, el valor del futuro es enorme; comparte premisa con el riesgo existencial.	Kurzweil, Tegmark y Bostrom (discrepan en si hay que construir superinteligencia).	HIPÓTESIS	Calendarios y «mi producto es poderoso».	4
¿Entiende o manipula símbolos?	Manipular símbolos o formas no basta para tener significado.	Dreyfus, Searle, Bender y Koller.	INFERENCIA e HIPÓTESIS	Falsabilidad débil por diseño y afirmaciones sobre la mente de la máquina.	5
Conciencia y estatus moral	No se sabe si una IA es o será consciente; esa incertidumbre es un problema moral.	Chalmers, Birch y Schwitzgebel; crítica de Seth.	HIPÓTESIS	Cifras subjetivas y afirmaciones sobre la mente de la máquina.	6
Condición humana y sentido	Arendt, Han y Harari ubican lo humano en lugares distintos: la acción, la negatividad y el lenguaje.	Arendt (solo vía lectores actuales; murió en 1975), Han y Harari.	INFERENCIA e HIPÓTESIS (es la menos empírica)	Calendarios.	7

Estos son los números que ilustran las filas, según las fuentes revisadas:

• Daño presente. De acuerdo con la Agencia Internacional de Energía (IEA, por sus siglas en inglés), los centros de datos del mundo, no solo los de IA, consumieron alrededor de 1.5% de la electricidad global en 2024. En Kenia, TIME reportó en enero de 2023 (vía el Business and Human Rights Centre) que los trabajadores que etiquetaban contenido tóxico para ChatGPT ganaban entre 1.32 y 2 dólares por hora; su empleadora, Sama, dio otra versión: entre 1.46 y 3.74 dólares por hora después de impuestos. Incluso lo medido viene con versión contraria.
• Calendarios. Según el resumen de Wikipedia del libro The Singularity Is Near (2005), Ray Kurzweil fija 2029 para que una computadora pase la prueba de Turing (conversar sin que se note que no es humana) y 2045 para la singularidad (una transformación profunda de la capacidad humana). Dario Amodei, de Anthropic, escribió en 2024 que la «IA poderosa» podría llegar tan pronto como 2026.
• Comprensión. Una encuesta de 2022 a 480 investigadores de procesamiento de lenguaje natural, citada por Mitchell y Krakauer en 2023, preguntó si un modelo entrenado solo con texto, con suficientes datos y cómputo, podría entender el lenguaje en algún sentido no trivial: el 51% dijo que sí y el 49% que no. La fuente no precisa el país de los encuestados.

Dónde coinciden y dónde chocan las posturas

En las fuentes revisadas, el riesgo existencial y la abundancia comparten una premisa: que una IA avanzada sería enorme para el futuro. Difieren en el signo: una pone el énfasis en lo que se perdería y la otra en el valor que se ganaría.

Los choques son de otra naturaleza. Cada postura exige un tipo de prueba distinto: el daño presente se mide, el riesgo existencial se argumenta y la pregunta de si una máquina entiende parte casi por la mitad a los propios investigadores. También hay desacuerdo dentro de una misma postura. En una encuesta de 2024 a 2,778 investigadores que habían publicado en foros de IA de primer nivel, entre el 38% y el 51% dio al menos un 10% de probabilidad a que la IA avanzada llevara a resultados tan malos como la extinción humana (Grace y coautores; el resumen no precisa el país). Y la declaración de 2025 del Future of Life Institute pide prohibir el desarrollo de superinteligencia mientras no se cumplan condiciones de seguridad, control y respaldo público; ese instituto lo preside Max Tegmark, a quien la tabla agrupa con Kurzweil y Bostrom.

El detalle de las coincidencias y los choques está en el artículo 8. Esta lectura es INFERENCIA de este sitio.

Qué importa y qué es marketing: tres criterios

Este sitio usa tres criterios para separar lo que importa de lo que es ruido. Se aplican afirmación por afirmación, nunca a una postura entera:

• Ya se mide: la afirmación tiene una medición detrás.
• Ya se decidió: ya se tomó una decisión a partir de ella.
• Si fuera falsa, cambiaría una decisión: de su verdad o su falsedad depende algo concreto.

El desarrollo completo de los criterios está en el artículo 9 de la serie.

Cómo está armada la serie Sin Oráculos

Además de este mapa (00), son siete artículos por postura y dos de síntesis:

• Artículo 1: Riesgo existencial: Bostrom, Ord y Russell, el argumento de control.
• Artículo 2: Los escépticos del riesgo existencial, cuatro argumentos distintos.
• Artículo 3: Daños actuales de la IA: Crawford, Gebru, Bender y Vallor, lo que ya se mide.
• Artículo 4: Largoplacismo y abundancia: Kurzweil, Tegmark y Bostrom, el valor del futuro.
• Artículo 5: ¿Entiende la IA o manipula símbolos? Searle, Dreyfus y Bender, la pregunta por el significado.
• Artículo 6: Conciencia de la IA y estatus moral: Chalmers, Birch y Schwitzgebel, la incertidumbre como problema moral.
• Artículo 7: Condición humana y sentido: Arendt, Han y Harari, tres lugares para lo humano.
• Artículo 8: Dónde coinciden y dónde chocan las posturas, la lectura cruzada.
• Artículo 9: Qué importa y qué es marketing en el debate sobre IA, las señales de alerta S1 a S5.

Lo que este mapa no cubre: límites y transparencia

La selección de autores la hizo un modelo, no una revisión sistemática de la literatura. Eso es un límite de método, no un detalle.

Faltan voces: Yudkowsky, Hinton, Bengio y Marcus están ausentes. La literatura revisada es mayormente en inglés y no incluye autores latinoamericanos. Tampoco todos son filósofos: Harari es historiador; Russell, Tegmark y Seth vienen de la computación, la física y la neurociencia; Bender es lingüista; Crawford es investigadora y Suleyman es ejecutivo.

Datos al 13 de octubre de 2026.

Nota de transparencia: parte del flujo editorial de este sitio usa Claude, un modelo de Anthropic, y varios temas de esta serie tratan de Anthropic.

La pregunta que el mapa deja abierta

Si cada postura exige una prueba distinta y ninguna autoridad nombrada puede dar un veredicto, ¿qué debería tener un mapa para ser útil sin convertirse en una?