China regula la IA emocional: ¿Colombia está preparada?

La semana pasada China dio un paso que pocos imaginaban hace apenas dos años: reguló la inteligencia artificial antropomórfica. Las nuevas normas prohíben que los sistemas de IA generen dependencia emocional, impiden ofrecer parejas o compañeros virtuales a menores de edad y obligan a las plataformas a implementar mecanismos de intervención cuando detecten usuarios en crisis emocional.

Muchos interpretarán esta decisión como un nuevo episodio del modelo de control estatal chino. Sería un error reducir el debate a esa lectura. En realidad, la pregunta jurídica es otra: ¿qué bien jurídico decidió proteger China? La respuesta es clara: la autonomía psicológica de las personas, el desarrollo integral de los menores y la preservación de las relaciones humanas frente a tecnologías diseñadas para influir en el comportamiento.

No se trata de ciencia ficción. Los llamados "compañeros de IA" ya no son simples asistentes virtuales. Son sistemas entrenados para recordar conversaciones, detectar estados emocionales, adaptar su personalidad y generar vínculos afectivos con el usuario. Su modelo de negocio busca aumentar la interacción para generar dependencia emocional.

Ese riesgo no es menor. Cuando un algoritmo aprende qué produce tristeza, ansiedad, miedo o soledad y utiliza esa información para mantener a una persona conectada, deja de ser únicamente una herramienta tecnológica. Se convierte en un mecanismo con capacidad de influir sobre decisiones íntimas, modificar conductas y sustituir relaciones familiares, sociales o sentimentales. Desde la perspectiva jurídica, ello plantea interrogantes sobre dignidad humana, libre desarrollo de la personalidad, autonomía de la voluntad, salud mental y protección reforzada de niños, niñas y adolescentes.

¿Y Colombia? Nuestro país aún carece de una ley integral sobre inteligencia artificial. Existen avances importantes, se fijó una política pública para el desarrollo responsable de la IA y actualmente cursan en el Congreso varios proyectos de ley que buscan establecer un marco regulatorio basado en niveles de riesgo. Sin embargo, el debate legislativo continúa concentrado en transparencia algorítmica, protección de datos, responsabilidad por daños y supervisión humana. La dimensión emocional de la inteligencia artificial prácticamente no aparece en la discusión.

Colombia necesita incorporar dentro de su futura regulación una categoría específica para la inteligencia artificial antropomórfica. Los sistemas diseñados para simular relaciones afectivas no pueden recibir el mismo tratamiento jurídico que un asistente empresarial o una herramienta de productividad.

Su potencial de incidencia sobre la salud mental, especialmente de menores de edad y personas emocionalmente vulnerables, exige obligaciones reforzadas de transparencia, advertencias permanentes al usuario, límites al diseño persuasivo, auditorías independientes y protocolos de intervención cuando existan riesgos evidentes de autolesión o dependencia.

Regular no significa frenar la innovación. Significa reconocer que el Derecho siempre ha intervenido cuando una actividad económica genera riesgos para derechos fundamentales. La inteligencia artificial no constituye la excepción. China ya entendió que el próximo desafío regulatorio no será únicamente proteger los datos personales, sino proteger la libertad emocional de las personas frente a algoritmos capaces de aprender cómo pensamos, sentimos y nos relacionamos.