Debate sobre el futuro de la IA: coincidencias y choques

El debate sobre el futuro de la IA parece una pelea sin puentes, pero en las fuentes revisadas, posturas que se rechazan comparten hábitos que ninguna admite. Y sus choques no los resuelven más datos: cada postura exige un tipo distinto de prueba.

Este es el artículo 8 de la serie Sin Oráculos y no investiga nada nuevo: resume los siete anteriores sobre el riesgo existencial, los escépticos, los daños actuales, el largoplacismo y la abundancia, si la IA entiende, su posible conciencia y la condición humana. Cada afirmación va marcada como HECHO o INFERENCIA.

Tres hábitos que comparten posturas que no se hablan

Primer hábito: plazos cortos. HECHO: en las fuentes revisadas, Toby Ord estimó en 2020, en el podcast de 80,000 Hours, cerca de un 50% de que este siglo se cree algo más inteligente que la humanidad. Dario Amodei, CEO de Anthropic, escribió en octubre de 2024 que la IA poderosa podría llegar “as early as 2026”. David Chalmers sostiene que los obstáculos a una IA consciente podrían superarse en “the next decade or so”. Yuval Harari escribió en 2023, según el Hannah Arendt Center, que la contienda presidencial de Estados Unidos en 2028 quizá ya no la lleven humanos. Byung-Chul Han, en cambio, dijo en octubre de 2025 que la IA esclavizará a la humanidad “tarde o temprano”, sin fecha.

HECHO: Armstrong, Sotala y Ó hÉigeartaigh concluyeron en un estudio de 2014 que la confiabilidad del juicio experto en pronósticos de IA es pobre. INFERENCIA: lo que une a estos autores no es lo que predicen, sino la costumbre de poner el reloj en años o décadas. La discusión sobre el término AGI y sus plazos ya está en otro artículo del sitio; aquí solo importa el patrón.

Segundo hábito: cifras que se declaran subjetivas. HECHO: Ord llega a su 1 de cada 10 de riesgo por IA no alineada multiplicando cerca de un 50% de que este siglo aparezca algo más inteligente que la humanidad por cerca de 20% de que se pierda el control en esa transición, y presenta sus números como “subjective estimates”. Narayanan y Kapoor sostienen que las probabilidades de riesgo de la IA “lack meaningful epistemic foundations” y que tienden a variar por órdenes de magnitud. En la encuesta de Grace et al., de 2,778 investigadores que publicaron en foros de IA de primer nivel, entre el 38% y el 51% asignó al menos 10% a resultados tan malos como la extinción humana. Kyle Fish, del programa de bienestar de modelos de Anthropic, también dio una cifra sobre si hoy existe una IA consciente, según TechCrunch, que cita al NYT. INFERENCIA: lo que coincide es el estatus de la cifra, no su valor: unos la publican como juicio personal y otros sostienen que ese estatus la inutiliza como base de política.

Tercer hábito: vínculos con quien tiene intereses en el tema. HECHO: Amodei dirige Anthropic y, en el mismo ensayo, escribe que quiere evitar promover su propio negocio al hablar de los beneficios de la IA. Anil Seth declara en su artículo de Behavioral and Brain Sciences ser asesor de Conscium Ltd y AllJoined Inc. Risto Uuk, coautor de la crítica a la tesis de la distracción, aparece con afiliación al Future of Life Institute (FLI). INFERENCIA: es una simetría, no una acusación. En los casos verificados para este texto nadie opina desde fuera del tema, así que conviene leer cada afirmación con su afiliación al lado.

Hay coincidencias menores. HECHO: Ord reconoció en 2024 que los modelos de lenguaje no son agentes por diseño, por lo que el escenario clásico de riesgo no les aplica de forma directa, y Narayanan y Kapoor proponen ver la IA como tecnología normal, no como una entidad autónoma. La declaración del CAIS pide atender el riesgo de extinción junto a otros riesgos de escala social. Todos advierten contra el exceso de afirmación, cada uno sobre el otro lado: Bender y Koller contra el hype, Bender y Hanna contra doomers y boosters, y Amodei contra hablar a favor del propio negocio.

En las fuentes revisadas, posturas que se rechazan entre sí coinciden en tres hábitos: plazos cortos, cifras subjetivas y vínculos con la industria o con organizaciones que defienden una postura.

Cuatro choques que más datos no resuelven

INFERENCIA: son choques “reales” porque, en las fuentes revisadas, ninguna parte los resuelve con la misma prueba que pide la otra. Es nuestra lectura, no un veredicto sobre quién tiene razón.

Choque	Una postura	Otra postura
Construir o prohibir	Prohibir la superinteligencia hasta que haya consenso científico y respaldo público (carta del FLI, 2025)	Avanzar rápido hacia la capacidad y pausar poco antes de desplegar, bajo ciertos supuestos (Bostrom, 2026)
Sustrato de la conciencia	Evaluar IA con teorías que asumen funcionalismo computacional (Butlin et al.)	La conciencia depende de ser un organismo vivo (Seth)
El número	Una cifra subjetiva sirve para orientarse (Ord)	Esas cifras carecen de sustento epistémico (Narayanan y Kapoor)
La atención	El discurso de riesgo existencial distrae de daños presentes	Esa tesis está “largely unsupported” (Swoboda et al.)

Construir o prohibir. HECHO: la carta de 2025 del FLI, cuyo presidente es Max Tegmark según la AP, pide prohibir el desarrollo de la superinteligencia mientras no haya amplio consenso científico sobre que puede hacerse de forma segura y controlable, y un fuerte respaldo público. La superinteligencia, en la introducción de la carta, es un sistema que superaría de forma significativa a los humanos en prácticamente todas las tareas cognitivas. Bostrom, en un documento de trabajo de 2026, concluye que, bajo ciertos supuestos de su modelo, conviene “swift to harbor, slow to berth”, y aclara que el análisis no implica por sí solo ninguna política concreta. INFERENCIA: es una discrepancia entre quienes toman en serio el mismo riesgo.

El sustrato de la conciencia. HECHO: Butlin, Long y colaboradores concluyen que ningún sistema de IA actual es consciente y que no hay obstáculos técnicos obvios para construir uno que cumpla sus indicadores. Según Seth, ese trabajo se limita a teorías que asumen funcionalismo computacional, la idea de que cierto tipo de computación basta para producir conciencia, y sus conclusiones dependen de ese supuesto. Seth defiende el naturalismo biológico: la conciencia sería propiedad solo de sistemas vivos, y por eso ve improbable la conciencia artificial real en las trayectorias actuales. Atribuye a John Searle la formulación original de esa postura. INFERENCIA: no se discute un dato, sino qué cuenta como evidencia de conciencia.

El número. HECHO: Ord declara subjetivo su 1 de cada 10; Narayanan y Kapoor sostienen que cifras así no sirven para orientar políticas. INFERENCIA: la discrepancia no es de magnitud, sino de legitimidad: unos discuten qué cifra poner y otros, si cabe poner alguna.

La atención. HECHO: según Swoboda et al., críticos como Timnit Gebru, Melanie Mitchell y Nick Clegg sostienen que el discurso del riesgo existencial distrae de problemas presentes; los autores aclaran que reconstruyen el argumento sin atribuirlo a nadie en particular. Concluyen que la tesis está “largely unsupported”, y señalan que muchos defensores del riesgo existencial también atienden los riesgos de hoy. INFERENCIA: ningún dato zanja la cuestión mientras cada parte entienda por “distracción” algo distinto.

Lo que todos piden y nadie define: pruebas y decisores

HECHO: los siete artículos de la serie cierran con una pregunta propia de este sitio. Cuatro piden saber qué evidencia u observación decidiría la cuestión (artículos 1, 3, 5 y 7) y tres preguntan quién decide o quién carga con la prueba (2, 4 y 6). Son preguntas de este sitio, no tesis de los autores.

HECHO: la carta del FLI condiciona la prohibición a un consenso científico y a un respaldo público; Swoboda et al. señalan que el obstáculo es reconocer el peligro y coordinar a los desarrolladores; Bostrom admite que nadie controla por completo el calendario. INFERENCIA: en las fuentes revisadas, cada mecanismo es distinto y ninguno nombra una autoridad con poder vinculante. Por eso las posturas se rechazan sin encontrarse: pedirle evidencia a quien exige consenso, o consenso a quien exige evidencia, no cierra nada cuando no hay árbitro.

Los límites de este mapa (selección de autores, ausencias, idioma y fecha de corte) están en el mapa del debate y en el artículo 9.

Nota de transparencia: parte del flujo editorial de este sitio usa Claude, un modelo de Anthropic, y varias celdas de este mapa tratan de Anthropic.

Si todas las posturas terminan pidiendo una prueba que nadie sabe definir y una autoridad que nadie ha nombrado, ¿quién debería decidir primero qué cuenta como prueba?