La IA no es tu amiga ni tu pareja, y China quiere asegurarse de que lo sepas

A partir del 15 de julio de 2026, China se convertirá en uno de los primeros países en implementar una de las regulaciones más específicas del mundo contra las funciones de IA que fomentan la dependencia emocional, a través de las ‘Medidas Provisionales para la Administración de los Servicios de Interacción de IA Antropomorfa’. Estas nuevas normas prohíben que las herramientas de IA simulen rasgos de personalidad humana, patrones de pensamiento o estilos de comunicación en interacciones emocionales continuas con los usuarios.

¿Qué prohíbe China específicamente sobre la IA emocional?

Bajo el marco normativo establecido por China, esta tecnología se define como servicios de interacción de apariencia humana. Para que un sistema sea clasificado bajo esta definición, debe cumplir con criterios específicos de diseño y propósito: cuidado emocional y apoyo, compañía virtual y servicios de relaciones íntimas o de carácter familiar. 

En ese sentido, las nuevas normas buscan prohíbir el diseño de sistemas que funcionan como un reemplazo de las interacciones sociales reales. Específicamente, se prohíbe:

• Complacencia excesiva por parte de los servicios, evitando inducir dependencia emocional o adicción a los usuarios
• El uso de algoritmos para manipular emocionalmente a los usuarios de manera que tomen decisiones irracionales o que vulneren sus derechos
• Inducir comportamientos que provoquen el daño a relaciones interpersonales reales del usuario en su vida cotidiana
• El uso de violencia verbal en el contenido generado que sea perjudicial para la dignidad o salud mental del usuario

Además de las restricciones generales, se estableció una prohibición absoluta para menores de edad en ciertos servicios. Tales como: 

• Servicios de relaciones íntimas virtuales (parejas, familiares o acompañantes virtuales) 
• Generación de contenido que incite a imitar actos peligrosos, desarrollar emociones extremas o adoptar hábitos perjudiciales
• Acceso a cualquier servicio de interacción emocional sin el consentimiento explícito de los padres o tutores

Ojo, estas prohibiciones no se aplican a servicios como atención al cliente, asistentes laborales, herramientas educativas de consulta de conocimientos o investigación científica. Sin embargo, se obliga a las plataformas a interrumpir la interacción o mostrar avisos tras dos horas de uso continuo para prevenir la adicción, entre otras evaluaciones de seguridad algorítmica.

¿Es la misma China que presentó un robot diseñado para enamorarte?

Hace unas semanas, Zhou Jian, fundador y CEO de UBtech, declaró al LatePost: “La próxima generación de humanos podría enamorarse de los robots humanoides”, al lanzar el primer robot humanoide entrenado para leer el estado de ánimo de su dueño y diseñado para el acompañamiento emocional. El mismo día de su lanzamiento acumuló 13.000 pedidos. 

¿Por qué la regulación actual se centra exclusivamente en servicios digitales y no en robots físicos? Posiblemente porque la industria de los “humanos digitales” es un pilar económico estratégico que ha alcanzado un valor de 4,100 millones de yuanes desde 2024.

Mientras China regula el uso de la IA para evitar la adicción y proteger la salud mental, comercializa la existencia de robots creados para generar relaciones íntimas, bajo un régimen mucho más permisivo para no frenar su competitividad tecnológica. ¿Realmente esto representa un avance?