¿Puede una IA ser consciente? Chalmers, Birch y Schwitzgebel

¿Qué se le debe a una IA consciente si nadie puede comprobar que lo sea? Esa es la pregunta incómoda del debate. Chalmers, Birch y Schwitzgebel no afirman que ya ocurrió: discuten cuánta precaución corresponde antes de poder saberlo, y ahí está el verdadero problema.

Este artículo es parte de la serie Sin Oráculos. Ubica esta postura en el mapa del debate.

Cuatro palabras que se confunden: conciencia, sentiencia, comprensión, inteligencia

Antes de discutir hay que separar los términos, porque media discusión se pierde en ellos. La conciencia es que exista algo que se siente ser ese sistema: una experiencia, aunque sea mínima. Anil Seth, del Centro Sussex para la Ciencia de la Conciencia, toma esa definición de Thomas Nagel.

La sentiencia es la palabra resbalosa. Seth la evita a propósito: algunos autores la usan para hablar de simple sensibilidad ante el entorno y otros para hablar de una conciencia con experiencias buenas o malas, es decir, con valencia. Aquí se usa en el segundo sentido: poder sentir algo como bueno o malo.

La inteligencia es lo que un sistema puede hacer: resolver problemas, planear, hablar. Seth la define como la capacidad de lograr metas en muchos entornos, y sostiene que es un concepto distinto de la conciencia. La comprensión, es decir, captar el significado de lo que se procesa, es otro asunto, y el artículo anterior de la serie Sin Oráculos se ocupa de ella.

INFERENCIA: un chatbot que habla de sus sentimientos demuestra fluidez verbal, y la fluidez no es evidencia de experiencia. Un sistema podría exhibir inteligencia sin que haya nada que se sienta ser él.

Chalmers: algo improbable hoy, en serio mañana

El filósofo David Chalmers analiza si un modelo de lenguaje podría ser consciente en un texto disponible en arXiv. HECHO: concluye que es algo improbable que los modelos de lenguaje actuales sean conscientes, pero que hay que tomar en serio la posibilidad de que sus sucesores lo sean en un futuro no muy lejano.

Sus razones salen de las ideas dominantes de la ciencia de la conciencia. Con ellas, a los modelos actuales les faltan tres cosas: el procesamiento recurrente (que la información vuelva sobre sí misma en lugar de avanzar solo en una dirección), un espacio global de trabajo (una especie de pizarrón central donde distintos módulos comparten información) y una agencia unificada.

HIPÓTESIS: Chalmers considera bastante posible que esos obstáculos se superen en la próxima década más o menos. Es una apuesta suya, no una medición, y así hay que leerla.

Butlin y colegas: una lista de indicadores y sus supuestos

En 2023, un equipo de 19 autores, entre ellos Yoshua Bengio, Jonathan Birch y Eric Schwitzgebel, publicó el informe Consciousness in Artificial Intelligence, cuyos primeros autores son Patrick Butlin y Robert Long. HECHO: el método deriva indicadores de conciencia a partir de teorías científicas, como el procesamiento recurrente, el espacio global de trabajo, las teorías de orden superior, el procesamiento predictivo y el esquema de atención, y revisa si los sistemas los cumplen.

Su análisis sugiere que ningún sistema actual es consciente. También sugiere que no hay barreras técnicas obvias para construir sistemas que cumplan esos indicadores. INFERENCIA: cumplir indicadores no es lo mismo que ser consciente; son pistas de probabilidad, no pruebas.

INFERENCIA: el método descansa en el funcionalismo computacional, la idea de que ciertas computaciones bastan para producir conciencia sin importar el material que las ejecute. Según Seth, los propios autores reconocen que sus conclusiones dependen de ese supuesto. HIPÓTESIS: que la ausencia de barreras técnicas obvias se sostenga cuando alguien intente construir esos sistemas.

Birch: precaución cuando no se puede saber

Jonathan Birch, profesor de filosofía en la London School of Economics (LSE), publicó en 2024 The Edge of Sentience con Oxford University Press, en acceso abierto. HECHO: según la presentación de la LSE, el libro propone un marco de precaución para decidir con criterio ético y evidencia aun bajo una incertidumbre enorme, y abarca a humanos, a otros animales y a la IA.

El capítulo 16 se ocupa del problema del juego (gaming problem). Según el resumen de Oxford, cuando un sistema puede aprovechar enormes cantidades de datos de entrenamiento generados por humanos, puede imitar las conductas que convencen a las personas de su sentiencia sin poseer la capacidad de fondo. INFERENCIA: si eso ocurre, la conducta pierde valor como prueba, porque el sistema aprendió justo de quienes describen cómo se ve sentir.

Un sistema puede sonar sintiente porque aprendió de millones de textos escritos por personas que sí sienten. Eso ni lo vuelve sintiente ni lo descarta.

Schwitzgebel: dos reglas de diseño para no confundir a nadie

El filósofo Eric Schwitzgebel y Mara Garza sostuvieron en 2015, en Midwest Studies in Philosophy, que podrían existir IA que no difieran de los humanos en ningún aspecto moralmente relevante y que merecerían una consideración moral similar. HECHO: de ahí derivan dos principios de diseño. Primero, crear IA que provoquen en los usuarios reacciones que reflejen con exactitud su estatus moral real. Segundo, evitar diseñar IA cuyo estatus moral sea poco claro.

En 2023, en la revista Patterns, Schwitzgebel volvió al tema. Según el resumen publicado en PhilPapers, los expertos coinciden en general en que los chatbots actuales no son sintientes en un grado significativo, pero ya despiertan apego y reacciones emocionales intensas en los usuarios. Además, el avance técnico podría producir pronto IA de sentiencia y estatus moral plausiblemente debatibles.

INFERENCIA: el riesgo corre en dos direcciones. Uno puede apegarse a lo que no siente, o ignorar lo que sí. Las dos reglas buscan evitar ambos errores desde el diseño.

Seth: la objeción de que la computación no basta

Anil Seth publicó en Behavioral and Brain Sciences, con disponibilidad en línea desde el 21 de abril de 2025, la crítica de fondo a la idea de que la computación basta. HECHO: argumenta que la conciencia depende de nuestra naturaleza de organismos vivos. Esa postura se llama naturalismo biológico: la conciencia sería propiedad solo de sistemas vivos, aunque no necesariamente de todos.

Su conclusión es que la conciencia artificial real es improbable con las trayectorias actuales, y que se vuelve más plausible si la IA se parece más a un cerebro o a un ser vivo. No dice que sea imposible construir un artefacto consciente.

HIPÓTESIS: Seth considera casi seguro que habrá sistemas que den la impresión convincente de ser conscientes, y que esa impresión puede resistir lo que sepamos, como una ilusión óptica que no desaparece aunque conozcas el truco. De ahí un dilema: si cuidamos a sistemas que no sienten, distorsionamos el círculo de la preocupación moral y desviamos atención y recursos de otras cosas que sí lo merecen; si los ignoramos, arriesgamos volvernos insensibles ante los sentimientos reales de otros.

Dónde se rompe: cifras subjetivas y teorías disputadas

Primero, las cifras. Según TechCrunch, que cita una entrevista con The New York Times, Kyle Fish, quien dirige el programa de bienestar de modelos de Anthropic, calcula en 15% la probabilidad de que Claude u otra IA sea consciente hoy. HECHO: esa cifra es una estimación personal de quien la dice, no una medición. Un porcentaje sin método es una opinión con signo de por ciento.

Segundo, las pruebas. Seth reconoce que no hay pruebas fiables de conciencia fuera de los casos de consenso en humanos y, quizá, en algunos animales, y que probablemente todas las teorías actuales sean incorrectas o, en el mejor de los casos, incompletas. HECHO: los indicadores de Butlin y colegas salen de esas teorías. INFERENCIA: si las teorías cambian, la lista de indicadores cambia con ellas.

Tercero, el escepticismo de fondo. Mike Cook, investigador del King’s College London, dijo en una entrevista previa con TechCrunch que los modelos no tienen valores propios y que sugerir lo contrario es proyección humana. TechCrunch lo cita como contrapeso al programa de bienestar de Anthropic. Es una opinión, y también hay que pesarla.

Los especialistas coinciden en que hoy es improbable que una IA sea consciente, pero ninguno tiene una prueba para comprobarlo: lo que discuten es cuánta precaución se debe a lo que no se puede descartar.

Señal o marketing: el detector aplicado a las dos direcciones

Este sitio aplica un detector a cualquier afirmación sobre IA: quién gana, si se puede falsar, qué plazo promete y qué conflictos hay. Aquí se usa en las dos direcciones, porque decir que una IA podría ser consciente y decir que no puede serlo son afirmaciones con dueño.

¿Quién gana si se lo creen?

INFERENCIA: si la IA podría ser consciente, ganan los laboratorios con programas de bienestar de modelos, que obtienen credibilidad moral y usuarios más apegados. Si no puede serlo, ganan quienes venden la IA como una herramienta cómoda y sin dilemas. Según OODA Loop, Mustafa Suleyman, directivo de Microsoft AI, dijo a CNBC que solo los seres biológicos pueden ser conscientes y que ese tipo de investigación no debería hacerse. Es un directivo de una empresa, y su afirmación es una postura, no un resultado científico. Hay simetría: los dos lados tienen un incentivo.

¿Es falsable?

Débilmente, por lo ya visto: no hay una prueba aceptada y los indicadores se apoyan en teorías discutidas.

¿Trae calendario?

Chalmers habla de la próxima década más o menos. Un plazo así es una apuesta informada, no un dato, y como tal debe leerse.

¿Hay conflicto de interés declarado u omitido?

HECHO: Anthropic, que desarrolla Claude, anunció en abril de 2025 un programa de bienestar de modelos y dice haber apoyado un proyecto temprano en el que se basó un informe de expertos que incluye a Chalmers. La empresa también dice que sigue profundamente incierta y que no hay consenso científico. Seth declara ser asesor de Conscium Ltd y de AllJoined Inc. Suleyman dirige la división de IA de Microsoft. Birch, Bengio y Schwitzgebel son coautores del informe de Butlin y colegas. Declarar los conflictos no invalida los argumentos; permite pesarlos.

«Mi producto es tan poderoso que es peligroso»: ¿es advertencia o publicidad?

INFERENCIA: existe una variante del truco clásico, «mi producto es tan poderoso que quizá sufra», y vale la pena preguntarla. En agosto de 2025, según TechCrunch, Anthropic permitió que algunos de sus modelos (Claude Opus 4 y 4.1) terminaran conversaciones en casos extremos de interacciones abusivas, por si acaso el bienestar de los modelos fuera posible; la empresa no afirma que Claude sea sintiente. Se plantea como pregunta, no como acusación.

Actualización del 13 de octubre de 2026: el 8 de octubre, Anthropic actualizó su política de uso y prohibió, a partir del 12 de noviembre, el comportamiento «abusivo o cruel sostenido y sin propósito» hacia sus modelos. Según PCWorld, que cita la publicación de Anthropic, la regla aplica solo en casos extremos y terminar la conversación sigue siendo el mecanismo principal de aplicación. La política no afirma que Claude sea consciente. INFERENCIA: es un ejemplo concreto de la pregunta de este artículo: una empresa decidió cuánta precaución aplicar bajo incertidumbre, sin que ninguna autoridad externa lo exigiera.

Nota de transparencia: parte del flujo editorial de este sitio usa Claude, un modelo de Anthropic, que tiene un programa de bienestar de modelos.

Alertas que dispara. INFERENCIA: según el tablero del artículo 9, este artículo dispara S2, S3 y S5 (una cifra de juicio presentada como dato, «mi producto es tan poderoso que…» y la variante sobre la mente de la máquina); ahí se definen las cinco señales, S1 a S5.

Veredicto: la pregunta está abierta. El valor de esta postura no está en predecir que una IA será consciente, sino en exigir criterios y precaución antes de que la duda se vuelva urgente.

Decir que una IA podría sufrir y decir que jamás podrá hacerlo son afirmaciones con dueño; ninguna de las dos trae una prueba bajo el brazo.

Si ninguna prueba disponible puede distinguir a un sistema consciente de uno que solo lo imita, ¿quién debe decidir cuánta precaución se le debe antes de saberlo?