Jorge Ortega Cruz-Asociado de Martínez Báez Consultores
martes, 9 de mayo de 2023
La Unión Europea ha venido estableciendo diferentes propuestas para la regulación de la Inteligencia Artificial, generando diversos documentos al respecto como lo fue el Libro Blanco sobre a Inteligencia Artificial a través de la Comisión Europea, este tipo de documentos contienen propuestas de acción en algún campo específico, pudiendo causar un proceso de consulta.
Posteriormente, en el año 2021 se redacto una Propuesta de Reglamento del Parlamento Europeo y del Consejo; “Por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión” mostrando la Unión un importante interés en regular dicha tecnología, a fin de garantizar el aprovechamiento y desarrollo de conformidad con los valores, principios y derechos fundamentales de la Unión. La ase jurídica de la propuesta es el artículo 114 del Tratado de Funcionamiento de la Unión Europea, que señala la adopción de medidas para garantizar el establecimiento y funcionamiento del mercado interior, siendo clave para la Estrategia para el Mercado Único Digital de la Unión Europea.
¿Qué objetivos señala la propuesta de reglamento?
Son varias y diversas las razones de la presentación de la propuesta, siendo los objetivos principales los siguientes; el garantizar que los sistemas de Inteligencia Artificial que sean utilizados en el mercado de la Unión Europea, sean seguros y respeten la normatividad vigente, para facilitar la inversión e innovación, mejorar la gobernanza y efectiva aplicación de la normatividad, así como facilitar el desarrollo de un mercado único y uso legal fiable y evitar la fragmentación del mercado.
¿Qué prohibiciones establece el reglamento con relación a las prácticas de inteligencia artificial?
Las prácticas prohibidas abarcan todos los sistemas de IA por el uso inaceptable al ser contrario a los valores de la Unión, siendo un ejemplo, la prácticas con gran potencial de manipulación a las personas, a través de técnicas subliminales aprovechando la vulnerabilidad en ciertos grupos concretos como los menores o personas con discapacidad, pudiendo provocarles afectaciones físicas o psicológicas. También la propuesta prohíbe que las autoridades califiquen socialmente con el uso de la IA con fines generales y el uso de sistemas de identificación biométrica remota en tiempo real en espacios de accesos público.
¿La propuesta de reglamento que señala respecto de considerar a un sistema de IA como de alto riesgo?
Son considerados de alto riesgo los sistemas que generen un alto riesgo para la salud, la seguridad o los derechos fundamentales de las personas físicas. Es considerado de alto riesgo en función de su finalidad prevista, no dependiendo únicamente de la funcionalidad, sino también de la finalidad y de las modalidades de uso.
En la Propuesta se definen dos categorías principales de sistemas de IA de algo riesgo: los diseñados para uso como componentes de seguridad de productos, sujetos a ser evaluados y otros sistemas independientes con implicaciones primordialmente con los derechos fundamentales. Se indica también la participación de organismos que se encargarán de la evaluación de la conformidad de los sistemas de IA como terceros independientes, explicando los procedimientos de evaluación en los casos de alto riesgo, buscando reducir la carga de los operadores económicos.
Registrándose puede personalizar sus contenidos, administrar sus temas de interés, programar sus notificaciones y acceder a la portada en la versión digital.
