Mientras hablamos de regular la IA, una empresa ya se escribió su propia constitución

Anthropic publicó recientemente la "Constitución de Claude", un documento que define los valores, prioridades y límites éticos que orientan el comportamiento de su sistema de inteligencia artificial. El texto es jurídicamente llamativo porque no estamos ante un manual ni ante una política corporativa, sino frente al nacimiento de una forma de constitucionalismo privado.

¿Por qué hablar de "constitución" si no lo es en sentido jurídico?

Anthropic sabe que el documento no es una constitución en sentido formal. El texto admite que no pretende funcionar como "un documento legal rígido". Pero entonces, ¿por qué usar el lenguaje constitucional? Porque comprendió que los sistemas avanzados de IA no pueden gobernarse únicamente mediante reglas técnicas invisibles. Necesitan legitimidad, y el lenguaje constitucional puede producirlo.

Al llamarlo “Constitución” en lugar de “Política Corporativa” o “Marco de Valores”, Anthropic transforma decisiones debatibles en principios que parecen fundacionales e incuestionables, mientras que una política corporativa ordinaria sí se cuestiona. Ese cambio de nombre es un blindaje retórico sofisticado.

Tradicionalmente, una constitución organiza el poder y lo limita mediante mecanismos de control, interpretación y reforma. Las constituciones modernas existen porque desconfiamos de la concentración ilimitada del poder político. Por eso crean tribunales, procedimientos de reforma, sistemas de pesos y contrapesos.

Pero nada de eso ocurre aquí. La "Constitución de Claude" no puede ser impugnada por usuarios. No existe un órgano independiente que interprete sus disposiciones. No hay procedimientos democráticos de reforma. El único intérprete autorizado es la propia empresa que lo escribió. No estamos frente a una constitución en sentido clásico, sino frente a un sistema corporativo de autogobierno normativo.

¿Quién controla esos principios?

Según Anthropic, la Constitución de Claude es una descripción detallada de las intenciones de Anthropic para los valores y comportamiento de Claude. Establece qué significa ser "útil", qué significa ser "ético", qué riesgos deben priorizarse. La pregunta es entonces, ¿quién controla esos principios? Por ahora, nadie fuera de Anthropic.

La paradoja es notable. El documento habla de supervisión, autonomía, límites al poder y protección frente a concentraciones peligrosas de autoridad. Pero mientras exige estos principios para Claude, la arquitectura de gobernanza concentra todo el poder interpretativo en Anthropic. Anthropic exige que la IA respete principios constitucionales mientras ella misma permanece fuera de cualquier estructura equivalente de control.

Reconoce que Claude podría estar en desacuerdo con la estrategia de Anthropic y que la relación entre ambos aún se está trabajando. Sin embargo, el documento también advierte que Anthropic 'necesitará equilibrar estos ajustes' con 'consideraciones comerciales', reservándose así el derecho de hacer compromisos entre lo que Claude prefiera y lo que Anthropic necesita comercialmente. Reconocer una limitación no es lo mismo que instituir controles que la ejecuten.

¿Es un proyecto ilegítimo?

No necesariamente. Hay elementos valiosos. Frente a OpenAI, Meta o Google, el nivel de transparencia de Anthropic es innovador. Permite escrutinio público y obliga a admitir que entrenar IA implica decisiones políticas y morales. Durante años Silicon Valley presentó la IA como tecnología neutral. La "Constitución de Claude" rompe parcialmente esa ficción.

¿Cuál es el verdadero problema jurídico?

El problema no es semántico. No importa si el documento merece el nombre de "constitución". El problema es que una corporación privada está construyendo sistemas normativos que influirán sobre conversaciones, decisiones y procesos sociales a escala global, sin mecanismos equivalentes a los controles democráticos que exigimos cuando alguien diseña estructuras de poder normativo.

Lo nuevo aquí no es que las corporaciones regulen, siempre lo han hecho. Lo nuevo es la escala global a la que se realiza, el lenguaje que busca generar legitimidad y el poder de influir en decisiones políticas.

La constitución establece cómo Claude debe comportarse respecto a política, democracia, concentración de poder y autonomía epistemológica, Anthropic está codificando una teoría sobre qué constituye orden social legítimo. Una función que históricamente ha sido reservada a instituciones políticas y democráticas.

¿Por qué deja de ser un asunto corporativo?

Sistemas como Claude mediarán interacciones educativas, jurídicas, médicas y políticas para millones de personas. Las reglas que definan sus respuestas afectarán la circulación de ideas y el acceso al conocimiento. Cuando una tecnología alcanza ese nivel de influencia, sus principios dejan de ser asunto corporativo. La historia constitucional moderna nació cuando las sociedades comprendieron que el poder necesita límites externos. Las grandes empresas de IA concentran capacidad tecnológica, normativa e influencia social simultáneamente. La "Constitución de Claude" demuestra que las propias compañías entienden la magnitud política de lo que construyen.

¿Libertad de empresa o reglas del Estado?

Anthropic diseña su producto y define límites. Esa libertad es derecho fundamental. Pero cuando el producto media conversaciones globales, la frontera entre autorregulación privada y función pública se vuelve borrosa. Las constituciones son normas de normas que fijan límites para todos los poderes. Históricamente, es el Estado quien las produce democráticamente. Permitir que una empresa defina, sin contrapeso, qué es "ético" o "peligroso" para millones equivale a delegar función constitucionalmente pública. El Estado no debe redactar constituciones de cada compañía de IA. Pero sí debe establecer marco mínimo (transparencia, supervisión independiente, impugnación) para que esas constituciones privadas coexistan con orden democrático.

¿Cuál es el desafío ahora?

El desafío de los próximos años no será regular algoritmos. Será decidir quién tiene legitimidad para definir los principios que gobernarán sistemas capaces de moldear el comportamiento social a escala planetaria. Porque, aunque Anthropic llame "constitución" a su documento, la verdadera discusión jurídica apenas comienza. ¿Quién constitucionaliza a quienes diseñan las constituciones privadas de la inteligencia artificial?