Ley de Inteligencia Artificial de la Unión Europea

La Unión Europea será la primera institución en acordar una ley que regule el uso ético y sostenible de la Inteligencia Artificial.

Vivimos un hito histórico en plena era digital. Cada semana ve la luz una nueva inteligencia artificial que genera textos, imágenes, vídeos… que nos promete hacer nuestros procesos mucho más ágiles, eficaces y ahorrarnos tiempo, esfuerzo y dinero que podemos dedicar a labores más productivas que permitan el desarrollo y expansión de nuestros negocios.

Al campo de la inteligencia artificial hay que ponerle valla.

Como ha pasado con otros grandes inventos de la humanidad, siempre aparecen praxis o usos cuestionables que fuerzan al sistema a regular el uso de la nueva herramienta. Un ejemplo en el caso de la inteligencia artificial es el uso para la divulgación de deepfakes en las fakenews.

Esto convierte uno de los usos de la inteligencia artificial en una poderosa arma de desinformación y propaganda. Como ejemplo de deepfake es la fakenews publicada en X en marzo de 2022, en la que se puede ver un vídeo del presidente ruso Vladímir Putin anunciando la rendición de Rusia en el conflicto contra Ucrania. El copy traducido al castellano: “El presidente de la Federación Rusa anunció la rendición de Rusia. ¡Soldado ruso, arroja tus armas y vete a casa mientras estés vivo!”.

Inteligencia artificial que respeta los derechos fundamentales, la democracia y fomenta la prosperidad.

El acuerdo provisional de reglamento para la regulación de la inteligencia artificial en Europa alcanzado entre el Parlamento Europeo y el Consejo tiene como objetivo garantizar una inteligencia artificial segura en la que los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental estén protegidos contra praxis no éticas de la inteligencia artificial. Y para eso establece obligaciones en función de riesgos potenciales y nivel de impacto.

La ley prohíbe de forma expresa las siguientes aplicaciones de la inteligencia artificial:

• El uso de sistemas de categorización biométrica que utilicen características sensibles como: las ideologías políticas, creencias religiosas, filosóficas, orientación sexual o raza.
• La extracción no dirigida de imágenes faciales de Internet o imágenes de circuito cerrado de televisión para crear bases de datos de reconocimiento facial.
• El reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
• La puntuación social basada en comportamiento social o características personales.
• Sistemas de IA que manipulen el comportamiento humano para eludir su libre albedrío.
• Uso para explotar las vulnerabilidades de las personas por cuestiones de edad, discapacidad o situación socioeconómica.

Esta nueva ley de inteligencia artificial también establece los usos policiales permitidos, sobre todo en el caso de la identificación biométrica (RBI) para el control de los espacios públicos, en el caso de la RBI en tiempo real, o para identificar a personas en búsqueda, en el caso de la RBI post-remota. En concreto, el uso de la identificación biométrica en tiempo real queda restringida a:

• Búsqueda selectiva de víctimas por secuestro, trata o explotación sexual.
• Prevención de una amenaza terrorista específica y presente.
• La localización o identificación de una persona sospechosa de haber cometido delitos por: terrorismo, trata, explotación sexual, asesinato, secuestro, violación, robo a mano armada, participación en una organización criminal o delitos medioambientales.

Derecho de los ciudadanos y ciudadanas de la Unión Europea

Tendremos derecho a presentar quejas sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten a nuestros derechos.

Para garantizar la protección de los derechos fundamentales la ley de inteligencia artificial de la UE establece requisitos de transparencia como: la elaboración de documentación técnica, el cumplimiento de la ley de derechos de autor de la UE y la difusión de resúmenes detallados sobre el contenido.

Se catalogan como sistemas de IA de alto riesgo los bancarios, de seguros, así como los que puedan influir sobre los resultados electorales o el comportamiento de los electores.

A esta propuesta le falta para convertirse en ley a todos los efectos el acuerdo formal del Parlamento Europeo y del Consejo.