Daños actuales de la IA: Crawford, Gebru, Bender y Vallor

Los daños actuales de la IA no son el opuesto del riesgo futuro: lo que se disputa es qué cuenta como daño. La postura de Crawford, Gebru, Bender y Vallor es sólida donde mide y frágil donde adivina motivos.

Este artículo es parte de la serie Sin Oráculos. Ubica esta postura en el mapa del debate.

Qué cuenta como daño: el debate de fondo

«Riesgo» es una palabra con demasiados usos. Según Swoboda et al., una reconstrucción académica de 2025, el debate sobre riesgo existencial mezcla escenarios distintos con términos ambiguos, en ambos bandos. Una cosa es el consumo eléctrico de un centro de datos; otra, una inteligencia hipotética fuera de control.

En el debate sobre IA, «riesgo» nombra cosas distintas: lo que ya se mide (energía, trabajo, sesgo) y lo que aún se supone; confundirlas es la forma más cómoda de ganar o de perder la discusión.

Aquí cada afirmación va etiquetada como HECHO, INFERENCIA o HIPÓTESIS, y no todas son filósofas: Crawford es investigadora; Gebru, informática; Bender, lingüista; Vallor sí es filósofa. Tampoco equivalen a los escépticos del artículo anterior de la serie: INFERENCIA, comparten la conclusión de que el riesgo existencial distrae, no necesariamente los motivos.

La IA como industria extractiva: el argumento de Crawford

Crawford sostiene que la IA es una tecnología de extracción de minerales, trabajo y datos, que además concentra poder. Así lo resume la ficha editorial de Atlas of AI (Yale University Press, 2021); aquí se cita la ficha, no el libro. INFERENCIA: «extractiva» es un marco interpretativo, no una medición.

La Agencia Internacional de Energía (AIE) pone las cifras y también el matiz. HECHO: en 2024 los centros de datos usaron alrededor del 1.5% de la electricidad mundial (415 terawatts-hora) y podrían más que duplicar su consumo hacia 2030, con mayor impacto local que global. Pero explican cerca de una décima parte del crecimiento de la demanda eléctrica mundial hasta 2030, y la agencia considera que las preocupaciones de que la IA acelere el cambio climático parecen exageradas.

El caso de Kenia tiene dos versiones. HECHO: según una investigación de TIME de enero de 2023, citada por el Business & Human Rights Resource Centre, OpenAI envió desde noviembre de 2021 textos violentos y de abuso a una empresa subcontratada en Kenia para etiquetarlos; el sueldo neto iba de 1.32 a 2 dólares por hora. Sama, esa empresa, respondió que eran 70 pasajes por turno de nueve horas, no hasta 250, y que el ingreso después de impuestos era de 1.46 a 3.74 dólares por hora.

Los casos concretos ya están en el sitio: Cuando el algoritmo discrimina: cuatro casos documentados y El trabajo oculto de enseñar a la IA a sonar humana.

Los costos que el paper de los loros pide pesar primero

El paper de los loros pregunta cuánto es demasiado. On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? (Bender, Gebru y dos coautoras más; FAccT 2021, DOI) recomienda, según su resumen, pesar primero los costos ambientales y financieros, curar y documentar los datos en lugar de absorber todo lo que haya en la web, y evaluar antes de desarrollar si el plan responde a los valores de las partes interesadas. INFERENCIA: eso es más fácil de someter a evidencia que una profecía.

La crítica al discurso de la AGI

La AGI es el centro de esta crítica. Se llama así (artificial general intelligence) a un sistema imaginado con más inteligencia que cualquiera conocido. HECHO: en «The TESCREAL bundle» (First Monday, 14 de abril de 2024, DOI), Gebru y Torres sostienen que sistemas indefinidos como la AGI no pueden evaluarse bien en seguridad, y que el marco que impulsa construirla se enraíza en la tradición eugenésica angloamericana del siglo XX. HIPÓTESIS disputada: que esa línea explique de verdad los objetivos actuales de la AGI.

TESCREAL agrupa siete corrientes: según Hughes y Sennesh, transhumanismo, extropianismo, singularitarismo, cosmismo, racionalismo, altruismo eficaz y largoplacismo.

Bender y Hanna atacan el relato. En The AI Con (Harper, 2025), según Publishers Weekly, sostienen que la IA suele ser menos capaz de lo que dicen sus promotores y que la amenaza real está en el abaratamiento del trabajo, la normalización del robo de datos y una vigilancia más sofisticada. Hanna dirige la investigación del Distributed AI Research Institute (DAIR).

Vallor y el daño a las capacidades humanas

Vallor propone un daño distinto. En The AI Mirror (Oxford University Press, 2024), la filósofa de la Universidad de Edimburgo plantea, según la ficha de la editorial, que los sistemas actuales son espejos hechos con datos del pasado: reproducen el pasado en lugar de abrir futuros. Rechaza las profecías de catástrofe. Según la reseña de Comment, si el razonamiento automatizado desplaza nuestras oportunidades de ejercer el razonamiento moral y político, el resultado es el moral deskilling: pérdida de habilidades morales. INFERENCIA: su énfasis está en las capacidades humanas más que en la economía política. La misma reseña la critica por vaga en sus propuestas.

Lo que esta postura no dice

Es una postura con matices, no un bloque. Según Publishers Weekly, Bender y Hanna sostienen que los modelos de lenguaje no pueden albergar intención de hacerle la guerra a la humanidad, pero son tan escépticas de los «AI boosters» como de los «AI doomers». Vallor rechaza las profecías de catástrofe, según la ficha de su libro, y advierte un daño distinto. Y Swoboda et al. recuerdan que muchos defensores del riesgo existencial también atienden los riesgos presentes.

Dónde se rompe: distracción sin respaldo, TESCREAL y motivos

La tesis de la distracción tiene poco respaldo empírico, según una reconstrucción académica. Swoboda et al. (arXiv, enero de 2025) evalúan la idea de que hablar de catástrofes hipotéticas desvía atención y recursos de los daños presentes, y concluyen que está en gran parte sin respaldo: atención y recursos no siempre son de suma cero, aunque admiten posibles compromisos. Entre sus apoyos hay un análisis de blog (Grunewald, 2023).

Hay un conflicto de interés que declarar. Uno de los autores, Risto Uuk, figura con afiliación al Future of Life Institute, que publicó en 2023 la carta que pedía pausar seis meses el desarrollo de IA. El propio artículo concluye que los argumentos contra el riesgo existencial no bastan para restarle prioridad.

TESCREAL también recibe fuego, y hasta sus críticos le conceden algo. Hughes y Sennesh (IEET, junio de 2023, anterior al artículo de 2024) lo critican como análisis de estilo conspirativo: ven culpa por asociación y, en sus palabras, «bad intellectual history and bad politics» (mala historia intelectual, mala política). Aun así, escriben que debería darse más atención a riesgos cercanos, como las patologías de las redes sociales y el desempleo tecnológico. Hughes dirigió la World Transhumanist Association, ligada a una de las corrientes del paquete: habla desde dentro.

Los motivos no son evidencia. INFERENCIA: decir que alguien promueve un discurso «porque le conviene» puede ser cierto, pero no demuestra nada sobre el discurso.

Señal o marketing: el detector en los dos lados

¿Quién gana si se lo creen? INFERENCIA: las organizaciones de investigación y los reguladores ganan relevancia con el marco del daño presente; las empresas que prefieren hablar de daños «manejables» ganan frente al riesgo existencial.

¿Es falsable? Sí en lo medible: energía, salarios, sesgos. Poco en lo que afirma sobre motivos y sobre el linaje eugenésico de la AGI.

¿Trae calendario? En las fuentes consultadas no aparece un calendario de catástrofes.

«Mi producto es tan poderoso que es peligroso»: ¿es advertencia o publicidad? En las fuentes consultadas, no aparece.

¿Hay conflicto de interés declarado u omitido? Según la ficha de Atlas of AI (2021), Crawford era investigadora principal sénior de Microsoft Research y cofundó el AI Now Institute (sin verificar si el cargo sigue vigente); según la ficha de su libro, Vallor fue especialista en ética de IA en Google. No todas son externas a la industria. Es un dato, no una descalificación; vale igual para Uuk y Hughes.

Alertas que dispara. INFERENCIA: según el tablero del artículo 9, este artículo dispara S4 (el motivo como prueba); ahí se definen las cinco señales, S1 a S5.

Señal fuerte en lo medible (energía, trabajo, sesgo); más débil donde se infieren motivos o linajes ideológicos. El debate «presente contra futuro» está menos partido de lo que se vende.

La versión local de estos costos está documentada en la colección Detrás del Prompt, 10 artículos que auditan el costo hídrico y eléctrico de la infraestructura de IA en México, estado por estado. El caso de Querétaro, el primero, es IA en Querétaro: el agua que cuesta cada prompt.

La pregunta abierta: ¿se excluyen o se complementan?

Si el daño de hoy se mide y el de mañana se supone, ¿qué evidencia haría falta para decidir si compiten por la misma atención o se complementan?