¿Usa IA en su ejercicio jurídico? Esto es lo que todavía no se ha resuelto sobre la opacidad algorítmica

¿Qué dijo realmente la Corte?

La sentencia central es la T-067 de 2025. El accionante pidió acceso al código fuente de CoronApp, la aplicación pública de la pandemia, y la Corte se lo concedió, al considerar que el acceso a la información pública cubre también el funcionamiento de los algoritmos del Estado. Allí describió la opacidad con la fórmula del black box, sistemas de los que se conocen los datos de entrada y el resultado, pero no cómo se procesa la información en el medio. Pero también ofreció algo más, una definición de transparencia algorítmica creada a partir de varios estudios académicos, "…la disponibilidad de información sobre sistemas de algoritmos que permite conocer su operación y valorar su rendimiento…", y precisó que esa transparencia tiene dos elementos, (i) la accesibilidad, ir más allá de publicar información y permitir auditorías externas, y (ii) la explicabilidad, que las personas entiendan, en lenguaje sencillo, cómo el sistema llegó a un resultado. La Directiva Conjunta 007 de 2025, expedida por la Procuraduría General de la Nación y la Defensoría del Pueblo, copió esa misma definición en su glosario oficial para todo el Estado colombiano. El problema es que la Directiva presenta a la T-067 como la fuente original del concepto, cuando, como ya se explicó, la Corte tampoco lo creó, solo lo tomó prestado. Y ahí surge otra pregunta, ¿puede un caso concreto de tutela, resuelto entre una persona y un puñado de entidades, terminar fijando una regla general aplicable a todo el Estado?

¿Por qué esa definición no basta?

El problema es que se quedó en el plano conceptual. Ni la Corte ni la Directiva dicen cuánta información basta, qué nivel de auditoría satisface la accesibilidad, ni qué tan sencillo debe ser el lenguaje para cumplir la explicabilidad. El mismo patrón se repite en otras providencias, sea antes o después de la T-067. En la Sentencia T-323 de 2024 se habla sobre el uso de herramientas de inteligencia artificial, como ChatGPT, por parte de los despachos judiciales en el país. Allí la Corte ordenó regular esas herramientas en la Rama Judicial, pero sin fijar el estándar, es decir, ordenó algo que exige un concepto aplicable sin decir cuál es. Como ya se explicó, es el caso a caso el que está dando las reglas, en una tecnología que avanza más rápido de lo que podemos entender y aplicar, la Corte tiene una carrera difícil de ganar. La T-008 de 2026 volvió sobre la inteligencia artificial en funciones públicas, reiterando la necesidad de contrapesos. La investigadora Jenna Burrell, en “How the machine ‘thinks’: Understanding opacity in machine learning algorithms”, distingue al menos tres causas de opacidad, el secreto deliberado, el analfabetismo técnico del ciudadano que no sabe leer un código, aunque esté publicado, y la complejidad intrínseca de ciertos modelos que ni sus diseñadores logran interpretar del todo. Cada causa exige un remedio distinto, y la jurisprudencia colombiana todavía las trata como un solo fenómeno, solucionable con el mismo estándar general de transparencia. Sin embargo, nada de esto es enteramente nuevo. El uso adecuado de las fuentes, que la propia Directiva no respetó al presentar a la T-067 como el origen de un concepto ajeno, la motivación de las decisiones y el debido proceso, que exige que toda persona pueda conocer y controvertir la razón de una decisión que la afecta, son problemas tradicionales del derecho. La inteligencia artificial no los inventó, apenas les cambió el nombre y los está amplificando.

¿Quién debería llenar ese vacío operativo?

Una revisión de las ramas del poder podría brindar algunas respuestas rápidas. Comenzamos con el Congreso, el único órgano con legitimidad democrática directa. Pero incluso si el Congreso legislara, la Corte conservaría la última palabra, cualquier ciudadano podría demandar esa ley por acción pública de inconstitucionalidad, y la Corte terminaría revisando, otra vez, si el concepto que escogió el legislador es compatible con los derechos fundamentales y las reglas que ella misma ha venido perfilando. También podrían hacerlo los jueces, caso a caso, pero eso exige una velocidad que el sistema no ha demostrado tener frente a la multiplicación de herramientas de IA. Es el mismo sistema judicial que necesitó una pandemia para implementar la virtualidad, y que hoy todavía se pregunta cómo articular la inteligencia artificial en el día a día. Podría hacerlo el Ejecutivo, que ya se adelantó con el Conpes 4144 de 2025 y la Directiva Conjunta 007, con más velocidad que el Congreso, pero sin el mismo debate público. O podría quedar, de hecho, en manos de los privados que diseñan estos sistemas, los más capacitados técnicamente para explicarlos y los menos interesados en hacerlo. Eso deja una pregunta incómoda para el abogado que hoy usa estas herramientas, ¿con quién se siente más tranquilo, o menos expuesto, con el Estado o con el privado que programó el sistema? Colombia no ha decidido cuál de esas rutas seguir, y esa indecisión es, hoy, el verdadero contenido práctico de la opacidad algorítmica en el derecho colombiano. No falta una definición. Falta que quienes la regulen entiendan que cada caso será diferente, y faltan funcionarios que sepan qué están aplicando. Ahí es donde el derecho puede quedarse corto, y donde va a necesitar abogados que entiendan más de algoritmos, porque la profesión y su práctica, como ha venido pasando, tienen que dejar de ser solo conceptuales y volverse más prácticas e interdisciplinarias.