martes, 13 de junio de 2023
Sesgos y posible discriminación; privacidad y protección de datos; y la responsabilidad, aspectos claves en el uso de IA en los juzgados
En Colombia, por primera vez se tomó una decisión judicial haciendo uso de la inteligencia artificial con ayuda del ChatGPT, se trata de un juez en Cartagena que falló a favor de un niño autista. La sentencia decide a favor de una madre que solicitaba la exoneración del pago de citas médicas, terapias y transportes a centros hospitalarios a su hijo autista, pues ella asegura que no cuenta con los recursos económicos necesarios para cubrir la condición del menor.
Desde entonces, surgió un debate extenso sobre la utilización de herramientas TIC en los juzgados, discusión que se viene presentando desde 2020, momento en el que, por necesidad, se ratificó el decreto 806 de 2020 por el cual se adoptaron medidas para implementar las TIC en las actuaciones judiciales, con el fin de agilizar los procesos judiciales y flexibilizar la atención a los usuarios del servicio de justicia.
Este decreto y, posteriormente, la Ley 2213 de 2022, que lo vuelve legislación permanente, son los primeros pasos para una regulación de las IA. Esta Ley les permite usar en los juzgados diferentes recursos de las tecnologías para suplir funcionalmente el acceso a un expediente, para realizar una audiencia, para enviar memoriales, etc.
Estas implementaciones han hecho que las audiencias virtuales pasaran de 22.978 en 2019 a 229.483 en 2020, un aumento de 899%. En 2021 se redujo significativamente el porcentaje de las audiencias canceladas: mientras que en 2020 se canceló 11% de las audiencias judiciales programadas en el país, en 2021 se canceló 3,4% (7,6 puntos menos), según cifras de la Corporación Excelencia en la Justicia.
De hecho, Gabriela Forero, asociada en Cuatrecasas, aseguró que "una de las ventajas de tener herramientas TIC en los juzgados recae en la eficiencia que pueden brindar en los procesos, evidenciada. Por ejemplo, en la plataforma Samai, la cual permite radicar demandas en la ventanilla virtual, notificar electrónicamente a las partes y contestar o incluir pruebas y memoriales de manera digital. Dicho propósito se recalca en la ley 2213 de 2022".
Las herramientas TIC sin duda traen un acelerador a todos lo procesos que las implementan, sin embargo la IA en los sistemas judiciales puede traer implicaciones significativas. Es por esto que Sarah Carvajal Sarmiento, asociada Del Hierro Abogados, explicó que hay que considerar algunos aspectos como por ejemplo los sesgos y posible discriminación, "los sistemas de IA al ser una herramienta de autoaprendizaje basan sus decisiones en las fuentes que alimentan su algoritmo, de tal suerte que, si se usa la herramienta sin considerar estas posibles asimetrías de información, es muy probable que desconozca las condiciones particulares de cada caso de estudio. De esta manera, el algoritmo puede llegar a generar discriminaciones positivas o negativas que podría generar cambios en la decisión judicial", aseguró.
Otro aspecto fundamental es el de la privacidad y protección de datos, la IA en el sistema judicial puede implicar el procesamiento de grandes cantidades de datos personales, incluyendo datos sensibles como la información médica o financiera de los involucrados en el proceso. "De esta manera, se deben implementar medidas adecuadas para proteger la privacidad y seguridad de los datos personales, así como para garantizar que se respeten los derechos de los individuos en relación con sus datos", aseguró.
El tercer aspecto que mencionó fue la responsabilidad, en el caso de errores o decisiones incorrectas tomadas por sistemas de IA, es importante que se tengan en cuenta las implicaciones de las que se harían acreedores los jueces de conformidad la Ley Estatutaria de Administración de Justicia.
Registrándose puede personalizar sus contenidos, administrar sus temas de interés, programar sus notificaciones y acceder a la portada en la versión digital.
