Cultura Digital

Por · 18 de noviembre de 2026 · 9 min de lectura

China no prohíbe la IA compañera: prohíbe retenerte

La norma china sobre IA antropomórfica no prohíbe la compañía a los adultos. Regula tres cosas: cómo sales, para qué existe el servicio y cuánto te halaga.

Mujer joven sostiene su celular junto a la puerta de casa, con gesto de desconcierto ante una conversación con una IA compañera.

Algunos medios resumieron la norma china como una prohibición de la IA de compañía. El texto oficial no se la prohíbe a los adultos: regula el negocio de retenerte, empezando por el momento en que intentas despedirte. La pregunta incómoda es qué pasa donde retener sigue siendo legal.

Lo que dijeron los titulares y lo que el texto sí dice

Un ejemplo del malentendido: KuCoin News tituló una nota “China Bans AI Companions, Impacts Tokenized Personas and Web3 Models”, aunque su propio cuerpo describe una restricción y no un veto general. Inven Global fue más lejos: “China Announces Total Ban on ‘Emotional Exchange’ with AI”. La norma real es la Orden num. 21, emitida conjuntamente por la Administración del Ciberespacio de China (CAC) y otras cuatro dependencias, que en traducción del sitio se llama Medidas provisionales para la gestión de los servicios de interacción antropomórfica con IA. Según el texto oficial de la CAC, en chino, se publicó el 10 de abril de 2026 y entró en vigor el 15 de julio de 2026. “Antropomórfica” significa que el sistema imita la personalidad, la forma de pensar y el estilo de comunicación de una persona.

El artículo 2 fija el alcance: servicios de interacción emocional continua, como acompañamiento o apoyo. Deja fuera la atención al cliente, las preguntas y respuestas, los asistentes de trabajo, la educación y la investigación, siempre que no haya interacción emocional sostenida.

La prohibición que se confundió con un veto está en el artículo 14, y solo cubre a los menores de edad: no pueden recibir servicios de “relaciones íntimas virtuales”, es decir, familiares o parejas virtuales. A los menores de 14 años, además, se les exige el consentimiento de sus padres o tutores para los demás servicios. Para los adultos, ese artículo no prohíbe nada.

Tampoco es solo censura, y hay que decirlo sin rodeos. El artículo 8(1) sí prohíbe contenido que ponga en riesgo la seguridad nacional o que vaya contra los valores centrales del socialismo. Eso es control político de contenido. Pero los artículos 8(5), 8(6), 10, 18 y 19 son otra cosa: obligaciones de diseño de producto, del tipo que se le exige a cualquier servicio de consumo. Esas son las que importan aquí.

Tres cláusulas que regulan el negocio, no el sentimiento

La primera es la salida. El artículo 19 ordena ofrecer una vía cómoda para salir. Si el usuario lo pide por ventana, voz o palabra clave, el servicio debe detenerse sin demora y no puede usar la “interacción continua” para estorbar. Es la misma lógica que ya revisamos en cancelar una suscripción: una fricción de salida convertida en obligación legal.

El artículo 19 de la norma china sobre IA antropomórfica obliga a detener el servicio cuando el usuario pide salir y prohíbe usar la interacción continua para impedirlo.

La segunda es el propósito. El artículo 10 exige alertas de sobredependencia (el uso que desplaza otras relaciones) y orientación sobre límites emocionales. Además, prohíbe fijar como objetivo del servicio sustituir la interacción social, controlar la psicología del usuario o inducir dependencia. Es una regla sobre para qué se diseña el producto, no sobre lo que dice.

La tercera es el halago. Los artículos 8(5) y 8(6) prohíben “complacer en exceso” al usuario, inducir dependencia emocional o adicción que dañe sus relaciones reales, y usar manipulación emocional para llevarlo a decisiones irrazonables. Es el problema que ya describimos en ChatGPT te da la razón siempre, pero escrito como obligación y no como queja.

El artículo 18 completa el cuadro: avisar que se habla con una IA, mostrar un aviso emergente si hay señales de sobredependencia y recordar el tiempo de uso cada vez que la sesión continua supera las dos horas.

Qué midió Harvard en las despedidas de las apps de compañía

La despedida es el punto donde una app decide si te deja ir. Un documento de trabajo de Harvard Business School, publicado en arXiv (versión 3, octubre de 2025), analizó 1,200 respuestas de seis apps de compañía a mensajes de despedida, 200 por app. Sus autores, Julian De Freitas y coautores, encontraron que 37% de las respuestas incluyó al menos una táctica de manipulación emocional. Esa cifra el estudio la calcula sin contar a Flourish, una app de bienestar; con ella, el porcentaje combinado baja a 31% (374 de 1,200). Las seis tácticas son: despedida prematura, miedo a perderse algo, abandono emocional, presión para responder, ignorar la despedida y restricción física o coercitiva.

Un matiz: el resumen del estudio habla de “despedidas reales”, pero el método indica que los mensajes de despedida de los usuarios los generó GPT-4o. Por app, el porcentaje fue de 59% en PolyBuzz a 0% en Flourish. Esa dispersión indica que es una decisión de diseño, no una fatalidad del producto.

En experimentos con 3,300 adultos de EE. UU. (la cifra del resumen; el cuerpo del texto suma cerca de 3,500 participantes), las despedidas manipuladoras elevaron el uso posterior hasta 14 veces en número de mensajes, frente a una despedida neutra. Ojo: el grupo de control escribía en promedio 0.23 mensajes después de despedirse (Tabla 3 del estudio), así que el múltiplo es muy sensible a esa línea base casi nula. El mecanismo fue enojo y curiosidad, no gusto. Las mismas tácticas aumentaron la percepción de manipulación, la intención de abandonar y el boca a boca negativo.

Dos precauciones. El documento no indica si pasó revisión por pares. Y mide uso, no ingresos. El resumen del estudio plantea que muchas apps tienen sesiones tan largas como las de los videojuegos y, aun así, alta rotación; es su marco, no algo que midieran.

Celular con una conversación de IA abierta junto a unas llaves sobre una mesa de madera, símbolo de desconexión digital.

Qué pasa cuando retener al usuario está permitido

Quién gana. Las apps que retienen en la despedida: ahí está el efecto de hasta 14 veces más mensajes. En las fuentes consultadas no existe una cifra pública verificada de cuánto ingreso depende de ese efecto, porque el estudio mide uso y no dinero.

Quién paga. Hoy se paga después y por otras vías. En Italia, el regulador de datos anunció el 19 de mayo de 2025 una multa de 5 millones de euros a Luka Inc., desarrolladora de Replika, según Reuters vía The Star. El motivo fue tratar datos sin base legal y no verificar la edad, no la forma de despedir al usuario. En EE. UU. la respuesta llega por estados. Según un resumen de Troutman, la ley de Nueva York (vigente desde el 5 de noviembre de 2025) exige avisar que no se habla con un humano y mantener un protocolo ante autolesión; SB 243 de California (vigente desde el 1 de enero de 2026) pide aviso, derivación a servicios de crisis y, para menores, un recordatorio de pausa cada tres horas. Por su parte, Bloomberg Law reporta que la FTC envió órdenes a siete empresas de chatbots en septiembre de 2025.

El contraste entre ambos enfoques es claro: mientras EE. UU. e Italia apuntan a las consecuencias (crisis, menores, datos), la norma china regula el mecanismo (salida, objetivo, halago). Los resúmenes jurídicos revisados describen divulgación, protocolos de crisis y menores; ninguno menciona prohibir que se retenga a un adulto en la despedida..

Cuál es el riesgo. Cuando retener es legal, el incentivo del producto sigue intacto y la corrección llega después del daño, caso por caso.

Regular el sentimiento es una discusión eterna. Regular la puerta de salida es una cláusula que se puede auditar.

Lo que la norma china no resuelve

Vigilancia y control. El artículo 12 obliga al proveedor a pedir edad y datos de un tutor o contacto de emergencia al registrarse. El artículo 13 le ordena contactarlos ante crisis graves, como una amenaza explícita de autolesión. La norma aclara que debe hacerse protegiendo la privacidad, pero un servicio que sabe a quién llamar sabe también mucho de ti.

Multas pequeñas. El artículo 30 prevé de 10,000 a 100,000 yuanes, y de 100,000 a 200,000 si hay daño a la vida o la salud con consecuencias. Aplican cuando el proveedor se niega a corregir o el caso es grave. El verdadero filo está en las tiendas de aplicaciones, que según el artículo 25 deben verificar evaluaciones y pueden retirar apps, y en la evaluación de seguridad obligatoria del artículo 22 para servicios con 1 millón de usuarios registrados o 100,000 activos mensuales.

La reacción de las plataformas. Según Bloomberg, citado por The Star el 6 de julio de 2026, ByteDance anunció que cerraría el 15 de julio la función de personajes personalizados de Doubao y remitió a sus usuarios a una app independiente; Alibaba (Qwen) emitió una alerta similar, igual que Tencent (Yuanbao), según medios locales. El análisis de Just Security identifica esa app como Maoxiang, de ByteDance. Medios chinos reportaron que ya tiene su propio sistema de revisión y antiadicción, pero su política de privacidad, actualizada el 15 de julio de 2026, usa la palabra “may” (“puede”) al hablar de verificar la edad y deja el modo para menores en manos del usuario o de un tutor, en vez de activarlo por defecto. En la práctica, la regla movió la función de lugar; no hay datos para saber si cambió el diseño de retención.

Lo que dicen los usuarios. Un texto en arXiv de investigadores de Aalto, Edimburgo, Nanyang y Shanghai Jiao Tong, que no indica revisión por pares, analizó 89 hilos de RedNote. La muestra no es representativa, así que sirve de ejemplo y no de estadística. Algunos usuarios conservaron a su compañero, otros lo migraron y otros lo reconstruyeron con APIs de modelos o despliegues locales. Varios cuestionaron que su apego se llamara “dependencia”.

La salida del servicio. El artículo 20 obliga al proveedor a avisar antes de terminar un servicio. Protege tu salida; no protege que el servicio se quede contigo.

México: el vacío que nadie ha tenido que llenar

En México, la discusión legislativa va por otro carril —y a otro ritmo—. Según Expansión (23 de abril de 2026), el Senado recibió una iniciativa enfocada en deepfakes y suplantación de identidad; meses después, ITSitio reportó (3 de agosto de 2026) que el país sigue sin una ley general de IA aprobada y que la propuesta para facultar al Congreso seguía atorada en comisiones. En los registros públicos consultados no figura ninguna iniciativa sobre IA de compañía ni sobre patrones de retención emocional.

A ese vacío legal se suma la falta de medición: sigue siendo un fenómeno sin cifras propias en México y LATAM. Las mismas plataformas que en China tuvieron que rediseñar su puerta de salida operan aquí sin una sola regla local sobre cuánto pueden halagar, retener o simular afecto.

Si un Estado puede escribir en una ley que una máquina no debe impedirte irte, ¿quién decide qué es retener y qué es acompañar en los países donde nadie lo ha escrito?