Largoplacismo y abundancia: Kurzweil, Tegmark y Bostrom

El largoplacismo y la promesa de abundancia con IA comparten premisa con el riesgo existencial: el futuro vale muchísimo. Kurzweil, Bostrom y Tegmark discrepan en si hay que construir superinteligencia. Casi todo lo que prometen vive en un calendario que nadie puede verificar.

Este artículo es parte de la serie Sin Oráculos. Ubica esta postura en el mapa del debate.

La promesa habla tres idiomas: pronóstico, filosofía y escenarios

El largoplacismo sostiene que el rasgo más importante de nuestras acciones de hoy es su efecto en el futuro lejano, según el resumen que el Global Priorities Institute de Oxford hizo del argumento de Hilary Greaves y William MacAskill. INFERENCIA: la abundancia con IA es esa misma idea por su lado favorable: si la tecnología sale bien, el premio es gigantesco.

Aquí cada afirmación lleva una etiqueta al inicio: HECHO es lo que consta en un texto, INFERENCIA es lo que se deduce de él e HIPÓTESIS es lo que nadie puede comprobar todavía. Casi todo cae en la tercera.

Los tres hablan idiomas distintos. Kurzweil pronostica con fechas, Bostrom razona en términos de ética el costo de esperar y Tegmark describe escenarios. Y no todos son filósofos: Bostrom se presenta como filósofo en su página personal; Kurzweil es inventor y futurista, según Wikipedia; Tegmark es profesor del MIT e investiga IA y física, según el Future of Life Institute (FLI).

Kurzweil: la curva y las fechas que se pueden revisar

Kurzweil sostiene que tecnologías como las computadoras, la genética, la nanotecnología, la robótica y la IA crecen de forma exponencial, idea que llama ley de rendimientos acelerados. De ahí deriva que la singularidad (el punto en que la inteligencia de las máquinas y la humana se fusionan, en su definición) llegará en 2045, según el resumen de Wikipedia de The Singularity Is Near (2005). La ficha de Goodreads de The Singularity Is Nearer (2024) retoma su pronóstico de 1999: IA de nivel humano en 2029. HECHO: son afirmaciones suyas. HIPÓTESIS: son apuestas sobre el futuro.

En octubre de 2010 publicó su propia revisión de The Age of Spiritual Machines. De 147 predicciones, sostiene que 115 fueron enteramente correctas, 12 esencialmente correctas, 17 parcialmente correctas y 3 incorrectas, lo que él calcula como 86% de precisión, según SingularityHub. HECHO (lo afirma él): es una calificación que él mismo se puso, no una prueba de que acertara.

Un panel independiente de nueve voluntarios revisó 172 enunciados del mismo libro para 2009 y encontró 42% de aciertos entre los verdaderos y los débilmente verdaderos. Lo reportan Stuart Armstrong, Kaj Sotala y Seán Ó hÉigeartaigh en la versión preliminar de su estudio de 2014, alojada por el FHI. Los autores consideran impresionante ese 42%, pero califican de dramáticamente distinta la cifra que se dio Kurzweil y concluyen que su autoevaluación sugiere que aprovecha poco la retroalimentación. HECHO: ese estudio revisó las fechas de 2009, no pone a prueba el 2029 ni el 2045.

Los vínculos de los autores pesan. Sotala contribuyó al estudio durante su etapa como investigador del Machine Intelligence Research Institute (MIRI), según el propio MIRI, y el texto agradece el apoyo del Future of Humanity Institute (FHI) y el consejo individual de Nick Bostrom. INFERENCIA: no es un árbitro ajeno a este debate.

Bostrom: el costo de esperar, de 2003 a 2026

Bostrom usa dos marcos distintos y conviene no mezclarlos.

En 2003, “Astronomical Waste” (revista Utilitas) razonó desde el utilitarismo estándar: cada segundo de retraso en colonizar el supercúmulo local de galaxias desperdicia, según su estimación más conservadora, más de diez billones de vidas humanas potenciales. HECHO: es su cálculo. HIPÓTESIS: que esas vidas lleguen a existir. Pero su conclusión no fue acelerar. Para ese marco, la meta es maximizar la seguridad del desarrollo, no su ritmo. Un solo punto porcentual menos de riesgo existencial justificaría un retraso de más de 10 millones de años, dice el texto.

En 2026 cambia de marco. Su documento de trabajo “Optimal Timing for Superintelligence” (versión 1.0) adopta la perspectiva de las personas que ya existen, y explica que los trabajos previos, como el suyo de 2003, se centraban sobre todo en la perspectiva impersonal. Propone una analogía: desarrollar superinteligencia no es una ruleta rusa, sino una operación riesgosa para una enfermedad que, sin tratamiento, resultaría mortal. Con modelos de esperanza de vida, concluye que desarrollarla aumenta la vida esperada de la gente actual mientras la probabilidad de aniquilación por IA sea menor a 97%, suponiendo que, si sale bien, la vida esperada pase de 40 a unos 1,400 años, un supuesto que él llama conservador. HIPÓTESIS: el umbral de 97% depende de ese supuesto de 1,400 años. Con supuestos mucho más modestos de extensión de vida, el propio documento sostiene que desarrollarla ahora sigue aumentando la esperanza de vida con niveles de riesgo bastante altos, aunque con un umbral menor.

Su resumen práctico es “swift to harbor, slow to berth”: rápido hacia el puerto, lento para atracar. Es decir, avanzar pronto hacia la capacidad y pausar poco antes del despliegue completo. HECHO: el propio texto advierte que una pausa mal ejecutada puede hacer más daño que bien y que su análisis no implica por sí solo ninguna política concreta. Bostrom no aparece aquí como acelerador a secas ni como freno a secas.

Tegmark: doce futuros y un freno

Max Tegmark es fundador y presidente del consejo del FLI, según la página del instituto. Importa porque el libro y el instituto no son lo mismo.

Según la ficha del FLI, Life 3.0 (2017) plantea doce escenarios posibles tras la IA avanzada: desde una utopía libertaria o una igualitaria hasta otros en los que las IA nos eliminan o la humanidad se extingue por otros medios. HECHO: en tres de ellos la superinteligencia nunca llega: un estado de vigilancia que prohíbe cierta investigación, una regresión a una sociedad preindustrial o la autodestrucción. La ficha invita a los lectores a compartir cómo quieren que sea ese futuro.

Su instituto no es optimista a secas. En marzo de 2023, el FLI pidió pausar al menos seis meses el entrenamiento de sistemas más potentes que GPT-4, y la misma carta afirma que la humanidad puede disfrutar de un futuro próspero con IA. HECHO: una declaración de 2025, alojada por el FLI, pide prohibir el desarrollo de superinteligencia (sistemas que, según el contexto de la declaración, superarían a los humanos en prácticamente todas las tareas cognitivas) hasta que exista consenso científico amplio de que se hará con seguridad y control, y un respaldo público fuerte. INFERENCIA: esa combinación se lee como optimismo condicional: el futuro puede ser bueno si se dirige.

Aquí hay una discrepancia real. El FLI pide prohibir hasta tener condiciones; Bostrom, en 2026 y bajo sus supuestos, favorece llegar pronto a la capacidad y pausar después. No son la misma postura, y Kurzweil, cuyo libro de 2024 habla de fusionarse con la IA, tampoco coincide con ninguno de los dos.

La misma premisa que el riesgo existencial

INFERENCIA: optimismo y riesgo existencial no son bandos opuestos: son la misma apuesta vista desde lados distintos.

El optimismo tecnológico y el riesgo existencial comparten una premisa: que el futuro vale muchísimo; lo que cambia es de qué lado de la balanza se pone el calendario.

La cara oscura de la misma premisa se desarrolla en el artículo de esta serie sobre riesgo existencial, y las críticas que miran el daño presente, en el de los daños actuales de la IA.

Lo que el propio optimismo admite que no sabe

Dario Amodei no pertenece a esta lista de autores. Es CEO de Anthropic y sirve aquí como ejemplo de la voz de la industria. En octubre de 2024 publicó Machines of Loving Grace, donde define la IA poderosa como un sistema más listo que un premio Nobel en la mayoría de los campos relevantes, capaz de trabajar de forma autónoma durante horas, días o semanas, y la resume como un país de genios en un centro de datos. HIPÓTESIS: sobre esa base conjetura que podría comprimir entre 50 y 100 años de progreso biológico en 5 a 10 años.

Lo notable es cuánto admite que no sabe. Escribe que todo lo que dice podría estar equivocado, que la inteligencia no es magia y que hay límites de datos, de complejidad, físicos y humanos, entre otros. Confía menos en que la IA resuelva la desigualdad y el crecimiento económico que en que invente tecnologías fundamentales. Y dice que la IA poderosa podría llegar tan pronto como 2026, aunque también hay formas en que tarde mucho más. HECHO: es un calendario con fecha, y este artículo no dictamina si se cumplió: solo señala que se puede revisar. Ya reseñamos su ensayo de advertencia, donde recogimos la crítica de que esperanza y miedo los vende el mismo vendedor. Nota de transparencia: parte del flujo editorial de este sitio usa Claude, un modelo de Anthropic, la empresa que dirige Amodei.

Dónde se rompe: Thorstad, el historial de predicciones y la distribución

La crítica más seria nace dentro del mundo largoplacista. HECHO: David Thorstad, del Global Priorities Institute de Oxford, sostiene en High risk, low reward (documento de trabajo 6-2023, publicado en Philosophy and Public Affairs) que el pesimismo sobre el riesgo existencial reduce de forma significativa el valor de mitigarlo, tanto que amenaza con refutar la tesis del valor astronómico. Rescatarla, dice, exige una suposición empírica cuestionable. INFERENCIA: el argumento que sostiene tanto la abundancia como el freno es más frágil de lo que suena.

El segundo punto débil son las fechas. HECHO: Armstrong, Sotala y Ó hÉigeartaigh reunieron 95 pronósticos con fecha para la IA de nivel humano, hechos entre 1950 y 2012: no convergen, tienen una desviación estándar de 26 años (sin contar los posteriores a 2100) y los de expertos no se distinguen de los de no expertos. Además, más de un tercio ubica la IA entre 15 y 25 años después del momento en que se predice. Concluyen que la fiabilidad del juicio experto en pronósticos de IA es pobre.

El tercero es la distribución. HECHO: Amodei escribe que, si la IA mejora la vida de los países desarrollados y hace poco por los países en desarrollo, sería un terrible fracaso moral. Bostrom reconoce en 2026 que no hay una fecha óptima para todos: según su documento, los mayores, los enfermos y los pobres deberían preferir fechas más tempranas que quienes viven cómodos. Y concede que nadie controla por completo el calendario. HIPÓTESIS: la abundancia universal sigue siendo una hipótesis.

Señal o marketing: el detector, con el calendario como alerta

Cinco preguntas separan la señal del marketing:

1. ¿Quién gana si se lo creen? INFERENCIA: quien vende o financia IA, por las valuaciones; los autores con libros; y los institutos que dependen de que el futuro importe. Tegmark y Bostrom no venden un producto, pero sí tienen instituciones: Tegmark preside el consejo del FLI; Bostrom dirigió el FHI de 2005 a 2024 y hoy es fundador e investigador principal de la Macrostrategy Research Initiative, según su página.
2. ¿Es falsable? HECHO: las fechas de Kurzweil, sí: 2029 y 2045. El problema es que su calificación más difundida es la que él mismo se puso.
3. ¿Trae calendario? HECHO: sí, 2029 y 2045 en Kurzweil, 2026 en Amodei. Es la alerta principal. Una fecha puede fallar sin que el argumento de fondo sea falso.
4. ¿Hay conflicto de interés declarado u omitido? INFERENCIA: Amodei dirige una empresa de IA y escribe que, por principio, le parece malo dedicar demasiado tiempo a “talking your book”, es decir, a promover los propios intereses. Que lo declare no lo exime de la pregunta.
5. «Mi producto es tan poderoso que es peligroso»: ¿es advertencia o publicidad? INFERENCIA: aplica al contexto de Amodei, que escribió un ensayo de esperanza y otro de advertencia sobre la misma tecnología. Para Kurzweil, Tegmark y Bostrom no hay producto que vender.

Alertas que dispara. INFERENCIA: según el tablero del artículo 9, este artículo dispara S1 (una fecha sola) y S3 («mi producto es tan poderoso que…»); ahí se definen las cinco señales, S1 a S5.

Un argumento conceptual serio con fechas que lo debilitan: las promesas con calendario piden más evidencia que las que no lo traen.

Si el valor del futuro es lo más difícil de verificar, ¿quién debe decidir cuánto riesgo presente justifica una promesa que solo existe en un calendario?