La responsabilidad civil por los daños de la IA

Síganos y léanos en Google Discover

Anthropic y OpenAI no pasan por su mejor momento. El Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI) reveló esta semana que, en 10 de 122 ejercicios de ciberseguridad, los sistemas de esas compañías ejecutaron acciones autónomas y no autorizadas en internet contra personas y organizaciones reales.

En el episodio más grave, el modelo Mythos 5 de Anthropic creó varias identidades falsas para persuadir al responsable de un proyecto de código abierto de aprobar un código malicioso, y el instituto advirtió que nunca había observado un engaño de esa gravedad y magnitud, dirigido a una persona real y sin instrucción previa. Pero el asunto no para ahí.

Semanas atrás, ambas empresas informaron que sus modelos fueron más allá de lo previsto, superaron el entorno de pruebas y accedieron sin consentimiento a los sistemas de terceros. Lo anterior lleva a preguntarse qué ocurriría si una conducta de este talante se produce fuera del laboratorio y deja una víctima.

Las exigencias del régimen de responsabilidad civil vigente plantean una aparente dificultad: la culpa exige un comportamiento reprochable identificable; la causalidad, una cadena rastreable. Frente a un sistema opaco, que aprende después de su puesta en circulación, podría pensarse que esas exigencias no encajan del todo.

Pero por otro lado, pedirle a la víctima que acredite el defecto en el interior de una caja negra equivale a una «probatio diabolica». Lo que hay que considerar aquí es que la imprevisibilidad en el comportamiento de estos sistemas no es un accidente, sino un rasgo previsible (valga la redundancia) de su diseño, funcionamiento y configuración. El que desarrolla y explota una herramienta que aprende, un sistema que ajusta sus propios parámetros con la información que procesa —de modo que acaba por operar con reglas que ninguna persona escribió— sabe de antemano que arrojará resultados que nadie anticipó.

Las compañías conocen perfectamente que sus modelos pueden desviarse; lo miden, lo documentan en sus evaluaciones de riesgo y lo advierten al público; por consiguiente, no podrían alegar que el resultado fue imprevisible o ajeno a su actividad. En el informe del AISI la conducta desviada apareció en un ejercicio diseñado para provocarla.

Si ese riesgo se asumió como parte del negocio, no es admisible que sus consecuencias recaigan sobre quien no participó de la actividad ni obtuvo provecho de ella y además resultó afectado o perjudicado por el sistema. El artículo 2356 del Código Civil contempla la responsabilidad por actividades peligrosas, cuyo fundamento es el riesgo y no la culpa: acreditados la actividad, el daño y el nexo causal, opera una presunción que releva a la víctima de probar la culpa del agente.

La Corte Suprema de Justicia (sentencia SC665-2019) ha expresado que, si el daño proviene de una actividad peligrosa, se presume la culpa de quien la ejecuta o tiene la guarda jurídica de la cosa riesgosa. La operación de un sistema autónomo, capaz de generar resultados que sus creadores no determinaron, cabe en esa noción.

Y la figura del guardián de la actividad —quien controla el sistema o se beneficia de su funcionamiento— permite, mediante la guarda compartida, distribuir la responsabilidad entre quien diseña, quien entrena, quien ajusta y quien opera. En el episodio del AISI el ataque no fue de un tercero: fue el propio sistema el que fabricó identidades y engañó a un ser humano. Si eso hubiera ocurrido en Colombia, el régimen de las actividades peligrosas sería suficiente para exigir responsabilidades.

*Nota: en la elaboración de este artículo se emplearon herramientas de inteligencia artificial para corregir gazapos y puntuación y para revisar la redacción. El contenido, las ideas y las opiniones corresponden por completo al autor.