Los diez principios de la justicia algorítmica

Ya hemos visto —y le hemos dedicado amplio espacio en esta columna— que la inteligencia artificial es una herramienta invaluable para el ejercicio del derecho, pero también implica riesgos graves y sutiles. En ciertas circunstancias, si no se usa adecuadamente, puede convertirse en una amenaza para el Estado de derecho.

Por ello, es necesario seguir pautas claras que aseguren su uso responsable y garanticen que este instrumento sirva como apoyo eficaz a la administración de justicia.

Organismos internacionales, como el Consejo de Europa, la Ocde y la Unesco, han propuesto algunos principios que no constituyen una lista oficial única, sino que sintetizan estándares internacionales y garantías constitucionales clásicas —debido proceso, defensa, igualdad, motivación, contradicción y responsabilidad— para usar la IA de manera confiable.

La Unesco, ha hecho énfasis en la supervisión humana, la auditabilidad, la trazabilidad y la protección de derechos; la Ocde ha insistido, en cambio, en la transparencia, la robustez, la rendición de cuentas y la gestión del riesgo; y el Consejo de Europa, cuya finalidad es promover la democracia, los derechos humanos y el Estado de derecho en Europa, ha resaltado la necesidad de garantizar la posibilidad de cuestionar decisiones algorítmicas.

De otra parte, el Reglamento Europeo de Inteligencia Artificial trata los sistemas usados en la administración de justicia como herramientas de alto riesgo, sujetas a documentación, registros, supervisión humana y control.

Por consiguiente, los principios que se derivan de estas pautas y que deben guiar el uso de la IA en la administración de justicia y el ejercicio del derecho se pueden sintetizar en los siguientes:

Primero - subordinación humana: la IA puede asistir al juez, pero no sustituir la responsabilidad de juzgar.

Segundo - transparencia: las partes deben conocer cuándo una decisión fue apoyada de manera relevante por una herramienta de IA.

Tercero - motivación: no basta afirmar que “el sistema arrojó” un resultado; la decisión debe expresar los fundamentos de hecho y de derecho en los que se basa.

Cuarto - contradicción algorítmica: si la IA influyó en la decisión, las partes deben poder ejercer su derecho de defensa frente a los datos, criterios, inferencias y resultados utilizados.

Quinto - trazabilidad: debe registrarse la forma como se utilizó la aplicación en cada etapa del proceso.

Sexto - no discriminación: se debe garantizar que los sistemas no reproduzcan sesgos ni prejuicios de ninguna clase.

Séptimo - proporcionalidad: el nivel de control sobre el desempeño de la herramienta debe ser proporcional a los derechos y valores que están en juego. No es lo mismo ordenar documentos que sugerir una decisión sobre la libertad de una persona.

Octavo - responsabilidad: siempre debe estar presente una autoridad humana responsable de la decisión.

Noveno - seguridad: se han de proteger los datos personales, prevenir manipulaciones y filtraciones, y asegurar la integridad de la información.

Décimo - revisión humana: toda persona afectada por una decisión asistida por IA debe poder acudir ante alguien capaz de revisar el caso con criterio propio.

En nuestros países, donde persisten la brecha digital, la desigualdad territorial y la congestión judicial, la relevancia de estos principios es más apremiante que nunca, por cuanto, en este contexto, la tecnología puede democratizar el acceso a la justicia o, por el contrario, profundizar la exclusión.

De ahí la importancia de difundirlos ampliamente, para procurar que la IA se utilice de manera adecuada y evitar que se conviertan en un factor disruptivo que agrave aún más las dificultades que afronta la administración de justicia.