Ley de Inteligencia Artificial EU #AIAct #EUAIAct

La Regulación Europea de Inteligencia Artificial #AIAct #EUAIAct ya está publicada en el Diario Oficial de la UE y además será efectiva ya a partir del 1 de Agost del 2024 --> Ver #AIAct

Objetivo

El objetivo de esta #AIAct es mejorar el funcionamiento del mercado interior de Europa mediante el establecimiento de un marco jurídico uniforme para:

• el desarrollo
• la introducción en el mercado
• la puesta en servicio
• la utilización

de sistemas de inteligencia artificial de conformidad con los valores de la Unión Europea.

Finalidad

1. Promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable
2. Garantizar un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales y el medio ambiente
3. Proteger frente a los efectos perjudiciales de los sistemas de IA
4. Apoyar la innovación

Enfoque basado en el Riesgo

Riesgos Inaceptables (prohibido el uso)

Básicamente todos los sistemas de IA considerados una clara amenaza para la seguridad, los medios de vida y los derechos fundamentales de las personas estarán prohibidos (desde la puntuación social por parte de los gobiernos hasta los juguetes que utilizan asistencia de voz que fomentan comportamientos peligrosos o los sistemas de reconocimiento o vigilancia masivos que puedan usarse para la manipulación de un colectivo).

Riesgo Alto

Los sistemas de IA identificados como de alto riesgo incluyen la tecnología de IA utilizada en:

• infraestructuras críticas (por ejemplo, el transporte), que podrían poner en peligro la vida y la salud de los ciudadanos
• formación educativa o profesional, que puede determinar el acceso a la educación y el curso profesional de la vida de una persona (por ejemplo, puntuación de los exámenes)
• componentes de seguridad de los productos (por ejemplo, aplicación de IA en cirugía asistida por robot)
• empleo, gestión de trabajadores y acceso al trabajo por cuenta propia (por ejemplo, software de clasificación de CV para procedimientos de contratación)
• servicios públicos y privados esenciales (por ejemplo, calificación crediticia que niega a los ciudadanos la oportunidad de obtener un préstamo)
• aplicación de la ley que pueda interferir con los derechos fundamentales de las personas (por ejemplo, evaluación de la fiabilidad de las pruebas)
• gestión de la migración, el asilo y el control fronterizo (por ejemplo, examen automatizado de las solicitudes de visado)
• administración de justicia y procesos democráticos (por ejemplo, soluciones de IA para buscar resoluciones judiciales)

Los sistemas de IA de alto riesgo estarán sujetos a obligaciones estrictas antes de que puedan introducirse en el mercado:

1. sistemas adecuados de evaluación y mitigación de riesgos
2. alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos y los resultados discriminatorios
3. registro de la actividad para garantizar la trazabilidad de los resultados
4. documentación detallada que proporcione toda la información necesaria sobre el sistema y su finalidad para que las autoridades evalúen su conformidad
5. información clara y adecuada al implementador
6. medidas adecuadas de supervisión humana para minimizar el riesgo
7. alto nivel de robustez, seguridad y precisión.

Todos los sistemas de identificación biométrica remota se consideran de alto riesgo y están sujetos a requisitos estrictos. El uso de la identificación biométrica remota en espacios de acceso público con fines policiales está, en principio, prohibido.

Riesgo Limitado

El riesgo limitado se refiere a los riesgos asociados a la falta de transparencia en el uso de la IA. La Ley de IA introduce obligaciones específicas de transparencia para garantizar que los seres humanos estén informados cuando sea necesario, fomentando la confianza. Por ejemplo, cuando se utilizan sistemas de IA como los chatbots, los humanos deben ser conscientes de que están interactuando con una máquina para que puedan tomar una decisión informada de continuar o dar un paso atrás.

Los proveedores también tendrán que garantizar que el contenido generado por la IA sea identificable. Además, el texto generado por la IA publicado con el fin de informar al público sobre asuntos de interés público debe etiquetarse como generado artificialmente. Esto también se aplica al contenido de audio y video que constituye falsificaciones profundas.

Riesgo mínimo

La Ley de IA permite el uso gratuito de IA de riesgo mínimo. Esto incluye aplicaciones como videojuegos habilitados para IA o filtros de spam. La gran mayoría de los sistemas de IA utilizados actualmente en la UE entran en esta categoría.