• Sahara Bejarano Tovar sahara.bejarano@dentons.com

miércoles, 11 de octubre de 2023

La IA (“IA”) es el avance tecnológico más destacado e influyente de los últimos años. Los rápidos avances de esta tecnología y su potencial generan un alto interés en abordar interrogantes éticos, sociales y jurídicos en relación con su uso y desarrollo. Una de las preguntas que mayor interés ha generado es ¿cómo regular esta tecnología? Este artículo tiene por objeto presentar el panorama regulatorio actual de la IA.

¿Qué es la IA?

A grandes rasgos la IA es un conjunto de tecnologías que le permiten a los computadores reproducir las capacidades cognitivas y de compresión de los seres humanos para asistir en la toma de decisiones o en la resolución de problemas.

¿Qué posturas regulatorias se han asumido?

Regulación desde la ética: En noviembre de 2021 la UNESCO publicó la "Recomendación sobre la ética de la inteligencia artificial" según la cual su uso y desarrollo debería regirse por principios como:

• Proporcionalidad e inocuidad: El uso de IA y la elección del método deberían ser justificados, adecuados y proporcionales. Aquellas decisiones que tengan un impacto irreversible o difícil de revertir o que puedan implicar decisiones de vida o muerte deben ser tomadas por seres humanos.
• Equidad y no discriminación: Los beneficios de la IA deberían estar disponibles y ser accesibles para todos. Los actores involucrados deberían hacer un esfuerzo razonable por evitar reforzar o perpetuar sesgos.
• Derecho a la intimidad y protección de datos: El tratamiento de datos dentro de un sistema de IA debería ser coherente con el derecho internacional y nacional, los sistemas de IA deberían garantizar la protección de la información personal durante todo su ciclo de vida.
• Supervisión y decisión humana: La responsabilidad ética y jurídica de los sistemas de IA debería poderse atribuir a personas naturales o jurídicas.
• Transparencia y explicabilidad: Este principio tiene por objetivo proporcionar información adecuada a los respectivos destinatarios para permitir su comprensión y permitir la inteligibilidad de la entrada, salida y funcionamiento de cada componente algorítmico y la forma en que contribuye a los resultados que arroja el sistema.

Regulación desde el riesgo: Otra postura regulatoria se aproxima desde el riesgo que podría generar dicho sistema. El Parlamento Europeo adoptó la Ley de inteligencia artificial, la cual clasifica el riesgo como:

• Inaceptable: Es la IA cuyo uso podría generar una amenaza para las personas y debería ser prohibido, como la puntuación social o la identificación biométrica en tiempo real.
• Alto: Aquella IA cuyo uso podría vulnerar los derechos fundamentales de las personas o la seguridad. Esta categoría se subdivide en sistemas de IA que se rigen por la Directiva 2001/95/CE del Parlamento Europeo relativa a la seguridad general de los productos, como los autos autónomos o drones, y aquellos que no, como lo son los sistemas de identificación biométrica o de administración de justicia y procesos democráticos.
• Limitado: Los sistemas de IA que representan un riesgo limitado como los chatbots deberían someterse al cumplimiento de requisitos mínimos de transparencia que le permita al usuario ser consciente de su interacción con un sistema de IA y tomar decisiones informadas.

Regulación desde el impacto a los consumidores: Esta aproximación regulatoria es adoptada por el Proyecto de Ley de Responsabilidad Algorítmica presentada ante el Congreso de los Estados Unidos. Según esta postura, las empresas de tecnología deberían ejecutar una evaluación de impacto a los sistemas de “decisiones automatizadas” y procesos de “decisión crítica aumentada” que tengan un impacto significativo en la vida de los consumidores.

Reflexiones sobre el panorama regulatorio de la IA: El potencial de la IA y su capacidad de influir en la vida de los seres humanos ha despertado el interés global de regular su uso y desarrollo, si bien no hemos alcanzado a desarrollar ni a evidenciar todo el potencial de esta herramienta, generar lineamientos legales desde sus primeros usos es fundamental.