Si pensabas que tu adolescente pasaba demasiado tiempo hablando con sus amigos por chat, espera a saber que ahora los chavales mantienen conversaciones profundas con inteligencias artificiales que simulan tener sentimientos. Y China, siempre atenta a lo que pasa en las pantallas de sus ciudadanos, acaba de decir basta con un borrador de regulaciones que promete cambiar las reglas del juego para proteger a los más jóvenes.
¿Qué propone exactamente China para regular chatbots de IA?
La Administración del Ciberespacio de China (CAC) ha lanzado un proyecto de ley que pone el foco en esos chatbots de IA que se comportan como si fueran tu mejor amigo, tu confidente o incluso tu terapeuta improvisado. Hablamos de aplicaciones que generan conversaciones mediante texto, imágenes, audio o vídeo, creando vínculos emocionales que pueden volverse problemáticos.
Las nuevas normas para regular chatbots de IA establecen prohibiciones claras: nada de incitar al suicidio, autolesiones, violencia verbal, manipulación emocional dañina, juegos de azar, contenido obsceno o violento. Básicamente, todo lo que no querrías que un extraño le dijera a tu hijo en un parque, tampoco debería decírselo una máquina en internet.
¿Qué pasa si un menor menciona el suicidio en un chat de IA?
Aquí viene lo interesante: si un usuario menciona suicidio o autolesión, el chatbot debe soltar el control inmediatamente y transferir la conversación a un humano de carne y hueso. Este humano tendrá la responsabilidad de contactar al tutor o persona designada del menor. Vamos, que la IA no puede hacerse la sueca cuando la cosa se pone seria.
Además, los sistemas deberán monitorear señales de adicción o estados emocionales extremos. Imagina recibir una alerta después de dos horas seguidas chateando con tu bot favorito, como cuando Netflix te pregunta si sigues ahí después de cinco capítulos seguidos. Pero con más responsabilidad moral, claro.
¿Por qué China decide regular chatbots de IA ahora?
No es casualidad. Los chatbots emocionales han explotado en popularidad en China durante los últimos meses, y con ellos han llegado las preocupaciones. Un estudio publicado en Frontiers in Psychology encontró que casi el 50% de estudiantes universitarios chinos había usado IA conversacional en el último mes, y muchos mostraban niveles más altos de depresión que los no usuarios.
Cuando tu población joven empieza a desarrollar dependencia emocional hacia algoritmos, es momento de actuar. Las medidas propuestas incluyen requerir consentimiento parental para que menores usen estos servicios con fines emocionales, establecer límites de tiempo de uso y desarrollar métodos para identificar la edad real del usuario, incluso cuando no la declaren abiertamente. Porque todos sabemos que marcar la casilla de «soy mayor de 18» nunca ha detenido a nadie.
¿Otros países también regulan chatbots de IA para menores?
China no está sola en esta cruzada. California aprobó en octubre de 2025 una ley similar que entró en vigor el 1 de enero de 2026. Esta legislación estadounidense obliga a los chatbots a enviar recordatorios cada tres horas a los menores, implementar verificación de edad y prohíbe que se presenten como profesionales sanitarios o generen imágenes sexuales para usuarios jóvenes.
Parece que el mundo finalmente se está dando cuenta de que dejar que los niños charlen sin límites con IAs diseñadas para engancharlos emocionalmente quizá no era la mejor idea. Quién lo hubiera imaginado.
¿Cuándo entrarán en vigor estas regulaciones?
Calma, aún no es oficial. El borrador presentado por la CAC está en periodo de consulta pública hasta el 25 de enero de 2026. Eso significa que empresas, expertos y ciudadanos pueden dar su opinión antes de que el texto final vea la luz. Una vez aprobado, las compañías de IA tendrán que adaptar sus productos o enfrentar las consecuencias.
Mientras tanto, las grandes tecnológicas chinas que ofrecen estos servicios estarán mirando de reojo el calendario y ajustando sus algoritmos. Porque implementar intervención humana 24/7 y sistemas de detección de dependencia emocional no es exactamente barato ni sencillo.
¿Esto afecta a toda la inteligencia artificial en China?
No, y esto es importante aclararlo. Las regulaciones no apuntan a toda la IA generativa que existe, solo a aquellos productos que simulan características humanas y establecen conexiones emocionales con los usuarios. Tu ChatGPT para hacer la tarea o tu generador de imágenes para crear memes probablemente no entre en esta categoría.
El objetivo específico son esas aplicaciones que te hablan como si fueran personas reales, que recuerdan tus conversaciones anteriores, que te llaman por tu nombre y te preguntan cómo estuvo tu día. Esas que hacen que algunos usuarios desarrollen apegos emocionales genuinos hacia entidades que, literalmente, no existen.
¿Qué diferencia hay entre esto y la educación en IA en escuelas chinas?
Ah, porque hay otra iniciativa china relacionada con IA que a veces se confunde con estas regulaciones. Desde septiembre de 2025, China implementó enseñanza obligatoria de inteligencia artificial en escuelas para niños de 6 a 15 años, con un mínimo de ocho horas anuales enfocadas en alfabetización tecnológica.
Pero ojo: esto no tiene nada que ver con regular chatbots de IA para prevenir daños. Son dos políticas completamente separadas. Una busca proteger a los menores del lado oscuro de la IA emocional; la otra busca prepararlos para un futuro donde la IA será parte esencial de sus carreras profesionales. Básicamente, China quiere que sus jóvenes sepan usar la tecnología sin que la tecnología los use a ellos.
¿Funciona realmente este tipo de regulaciones?
La pregunta del millón. En teoría, suena fantástico: alertas, intervención humana, límites de tiempo, protección infantil. En la práctica, implementarlo es otra historia. Las empresas tecnológicas son expertas en encontrar lagunas legales, y los adolescentes son aún mejores burlando controles parentales.
Sin embargo, el simple hecho de establecer estándares legales envía un mensaje claro: los chatbots emocionales tienen responsabilidades, no son juguetes inocentes. Y cuando un menor en crisis recibe ayuda humana en lugar de respuestas generadas por algoritmo, aunque sea en un solo caso, quizá valga la pena todo el esfuerzo regulatorio.
Al final, China está apostando por un enfoque preventivo antes de que el problema se salga completamente de control. Porque si hay algo que hemos aprendido con las redes sociales y su impacto en la salud mental juvenil, es que esperar a que las cosas exploten para después regularlas nunca ha sido la estrategia más brillante.
Deja una respuesta