Dictamen del Comité Económico y Social Europeo — Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones — Inteligencia artificial para Europa

[COM(2018) 237 final]

(2018/C 440/08)

Ponente:	Giuseppe GUERINI
Coponente:	Gonçalo LOBO XAVIER

Consulta	Comisión Europea, 12.7.2018
Fundamento jurídico	Artículo 304 del Tratado de Funcionamiento de la Unión Europea
Sección competente	Mercado Único, Producción y Consumo
Aprobado en sección	4.9.2018
Aprobado en el pleno	19.9.2018
Pleno n.o	537
Resultado de la votación (a favor/en contra/abstenciones)	199/1/2

1.   Conclusiones y recomendaciones

1.1.

El CESE cree que la inteligencia artificial («IA») y los procesos de automatización presentan un enorme potencial para mejorar la sociedad europea en términos de innovación y transformación positiva, pero también plantean importantes retos, riesgos y preocupaciones. Por lo tanto, resulta fundamental que las instituciones europeas comiencen a desarrollar y regular plenamente la IA de forma rápida y exhaustiva.

1.2.

Un enfoque avanzado respecto de la IA en Europa debe comprender varios ámbitos, como: (i) inversiones públicas y privadas en I+D y en infraestructuras digitales avanzadas, (ii) aplicación de nuevas normas legislativas o adaptación de las normas aplicables en vigor, (iii) desarrollo de un conocimiento y una concienciación adecuados entre los ciudadanos y los consumidores y (iv) programas de formación específicos para trabajadores.

1.3.

En particular, deberían identificarse y abordarse de manera sistemática a escala internacional, de la UE y de los Estados miembros los retos relativos a la responsabilidad que se plantean en el contexto de las nuevas tecnologías digitales. El CESE desearía colaborar estrechamente con las instituciones de la UE en el análisis y la evaluación de toda la legislación de la UE en materia de responsabilidad, seguridad de los productos y responsabilidad civil, la cual deberá modificarse en consecuencia.

1.4.

El CESE concuerda con el objetivo de la Comunicación de la Comisión, esto es, reforzar la capacidad industrial y tecnológica de la UE con el fin de extender la IA en el mercado interior. El esfuerzo necesario para mantener el ritmo de otros actores globales es tan grande que se requiere un elevado nivel de coordinación entre todos los instrumentos y la financiación disponibles a escala europea y nacional. Dicho esto, los valores y principios de la UE no deben sacrificarse en aras de la competitividad mundial.

1.5.

Con respecto al objetivo de la Comisión de llevar la IA a todos los usuarios potenciales, con especial hincapié en las pequeñas y medianas empresas, el CESE considera que, para hacer frente al reto de la competitividad global, la IA debe ser accesible al mayor número posible de entidades. Por consiguiente, es crucial ponerla a disposición de los distintos tipos de empresas que operan en el mercado único de la UE, incluidas las pymes, los agricultores, las empresas sociales, las cooperativas, las empresas individuales y las asociaciones de consumidores.

1.6.

La Comisión Europea y los Estados miembros deben trabajar en conjunto para elaborar directrices sobre la ética de la inteligencia artificial y deben implicar a todas las partes interesadas públicas y privadas pertinentes en dicho esfuerzo. Estas directrices deberán incluir principios de transparencia en el uso de los sistemas de IA para contratar personal y evaluar o controlar su rendimiento. Además de los principios éticos, el CESE sugiere que se elabore —a nivel europeo— un marco jurídico claro, armonizado y obligatorio que regule debidamente la IA y actualice las normas existentes afectadas por la IA, en particular las relativas a la responsabilidad del productor y a la protección del consumidor. El CESE desea colaborar estrechamente con las instituciones de la UE en el análisis y la evaluación de la legislación de la Unión pertinente, que deberá modificarse en el futuro debido a los avances en IA.

1.6.1.

La Comisión Europea también deberá llevar a cabo una cuidadosa evaluación de los efectos de la IA en el mercado de trabajo. Dicho examen debe tener en cuenta la posible sustitución de algunos trabajadores por dispositivos electrónicos o robots y el hecho de que algunas funciones, aunque no sean por completo automáticas, se verán profundamente modificadas por las nuevas tecnologías.

1.7.

Por este motivo, el CESE recomienda que el deseo expresado de que «nadie se quede atrás» no se limite a una simple propuesta o exhortación, sino que se traduzca en hechos concretos.

1.8.

Es importante hacer hincapié en el papel que desempeñan los programas educativos y formativos en la protección de aquellos trabajadores europeos cuyo entorno laboral se ve profundamente afectado por la aparición gradual de la IA. Los ciudadanos europeos deberían tener acceso a información adecuada que les permita ser usuarios responsables y utilizar con conocimiento de causa los dispositivos y aplicaciones que ofrecen los rápidos avances tecnológicos.

1.9.

En aquellos casos en que las nuevas medidas permitan que las administraciones públicas utilicen la tecnología para tomar decisiones organizativas y hacer elecciones más rápidas, será necesario hacer frente a la cuestión de la responsabilidad jurídica de dichas decisiones, en un marco jurídico claro que garantice la plena rendición de cuentas de la administración ante los ciudadanos.

1.10.

Debería prestarse especial atención al papel que desempeñan las organizaciones de la sociedad civil y la economía social en el aumento de la participación activa de los ciudadanos en los procesos económicos y sociales que, gracias a la inteligencia artificial, incrementarán la participación en nuestra sociedad. Las organizaciones de la sociedad civil y las empresas sociales pueden desempeñar un papel importante para promover la comprensión y la aceptación de las tecnologías por parte de los individuos, en particular, mediante mecanismos colaborativos que permitan la participación de los ciudadanos en la actual transformación digital.

1.11.

La actual revolución tecnológica no puede —ni debe— llevarse a cabo sin incluir de manera significativa y activa a trabajadores, consumidores y organizaciones sociales, y los avances tecnológicos en curso deben ir dirigidos a garantizar una participación mayor y más responsable de ciudadanos plenamente informados. Por este motivo, el CESE recomienda que, al establecer la Alianza Europea de la IA, la Comisión Europea tenga en cuenta la necesidad de crear una plataforma inclusiva, pluridisciplinar y representativa de las distintas partes interesadas que representan a los ciudadanos europeos, entre otros los representantes de los trabajadores, que tendrán que interactuar con máquinas inteligentes (1).

2.   Observaciones generales

2.1.

Los dispositivos digitales y las máquinas de aprendizaje de gran escala están aumentando constantemente la capacidad de los algoritmos para trabajar con enormes cantidades de datos y es probable que esta capacidad aumente aún más en el futuro gracias a las «redes neuronales» (que ya utilizan, por ejemplo, los teléfonos inteligentes para el reconocimiento visual de objetos, rostros e imágenes).

2.2.

Estos cambios están transformando el modo tradicional de «aprender» que las máquinas de IA han empleado hasta ahora, pues ya no se limitan a aprender extrayendo reglas a partir de los datos, sino que también desarrollan una capacidad de aprendizaje flexible y adaptativa. Este proceso incrementará la capacidad de la IA para aprender y actuar en el mundo real.

2.3.

A la vista de la gran velocidad con que se producen los cambios tecnológicos, es crucial que la Comisión Europea y los Estados miembros colaboren para examinar en profundidad los nuevos retos que plantean los rápidos avances de la IA e implicar en el proceso a todas las partes interesadas pertinentes, tanto públicas como privadas, sin socavar las oportunidades de progreso y desarrollo tecnológico.

2.4.

La Comunicación COM(2018) 237 de la Comisión tiene como finalidad reforzar la capacidad industrial y tecnológica de la UE y fomentar la proliferación de la IA en la economía europea, tanto en el sector privado como en la administración pública. Como ya se mencionó en un Dictamen de iniciativa (2), el CESE respalda la iniciativa de la Comisión, que, de hecho, incorpora en su Comunicación una gran cantidad de propuestas anteriores del Comité, pero insta a la Comisión a que actúe de manera rápida y decisiva.

2.5.

La adopción de un enfoque europeo eficaz respecto de la IA conlleva promover una significativa inversión en investigación e innovación, entre otros en las infraestructuras digitales, necesarias para prepararse para los importantes desafíos socioeconómicos que los avances en las nuevas tecnologías plantearán a la sociedad y los mercados europeos en los próximos años.

2.6.

La Comisión Europea y los Estados miembros deben trabajar en conjunto para perfilar directrices sobre la ética de la inteligencia artificial e implicar en el proceso a todas las partes interesadas pertinentes, tanto públicas como privadas.

2.7.

Al mismo tiempo, debe aprobarse un marco jurídico armonizado a escala europea que sea conforme con la Carta de los Derechos Fundamentales de la Unión Europea y con los principios consagrados en los Tratados de la UE. El nuevo marco reglamentario debe incluir normas precisas que aborden los riesgos que entraña el aprendizaje automático, como la falta de transparencia del mercado, la falta de competencia, la discriminación, las prácticas comerciales desleales, las amenazas a la ciberseguridad y la seguridad de los productos. En particular, deben aplicarse estrictas salvaguardas reglamentarias para aquellas situaciones en las que los datos con los que operan los sistemas de inteligencia artificial se recuperen automáticamente durante la utilización de dispositivos electrónicos y ordenadores.

2.8.

El CESE observa que el documento de trabajo de los servicios de la Comisión SWD(2018) 137 final, adjunto a la Comunicación de la Comisión, analiza debidamente las implicaciones de la IA para la legislación de la UE y esquematiza los retos en materia de responsabilidad que surgen en el contexto de las nuevas tecnologías digitales.

2.9.

Asimismo, será necesario adoptar planes de acción globales para (i) apuntalar la modernización de los sistemas de educación y formación, alimentando las nuevas capacidades que requerirá el mercado laboral del futuro, y (ii) garantizar un alto nivel de protección de ciudadanos y trabajadores frente a los desafíos previstos (3).

2.10.

El CESE insta a la Comisión a que adopte sin demora más medidas encaminadas a regular y promover las inversiones: el rápido ritmo con que se producen los cambios también exige tiempos de respuesta ágiles.

3.   La propuesta de la Comisión Europea: apoyo europeo para la IA e inversión en ella

3.1.

La Comisión anuncia en su Comunicación que apoyará la difusión de la IA, tanto en la vertiente de la investigación básica como en el sector de las aplicaciones industriales. En este sentido, el CESE destaca la importancia de la participación en dicho proceso de todo tipo de agentes, incluidas las pymes, las empresas de servicios, las empresas sociales, los agricultores, las cooperativas, las asociaciones de consumidores y las asociaciones que representan a las personas de edad avanzada.

3.2.

Con respecto al objetivo de la Comisión de «llevar la IA a todos los usuarios potenciales, con especial hincapié en las pequeñas y medianas empresas», el CESE considera que, para hacer frente al reto de la competitividad global, la IA debe ser accesible al mayor número posible de entidades. Además de los pasos que la Comisión ya ha previsto para desarrollar una «plataforma de IA a la carta», también es importante establecer formas adecuadas de participación y consulta de las distintas partes interesadas, incluidas las pymes, las redes de la economía social y las organizaciones de la sociedad civil (estas últimas asumen la crucial función de implicar a los ciudadanos europeos de un modo informado y activo).

3.3.

La Comisión ha anunciado que apoyará la innovación basada en la inteligencia artificial a través de un proyecto piloto creado por el Consejo Europeo de Innovación, que cuenta con un presupuesto de 2 700 millones de euros para el período 2018-2020.

3.4.

El CESE cree que esta iniciativa puede resultar útil para el desarrollo de la IA, pero resalta al mismo tiempo que la financiación de la investigación debería pasar rápidamente de la fase de experimentación a la fase estructural. También es importante que la Comisión respalde los diversos centros de investigación que ahora tienen su sede en los Estados miembros, con el fin de desarrollar una red europea de colaboración dedicada a la inteligencia artificial.

3.5.

El CESE observa que la Comisión pretende aumentar la inversión en IA en el marco del programa Horizonte 2020 hasta unos 1 500 millones de euros para finales de 2020. Si este enfoque se adopta rápidamente en las asociaciones público-privadas actuales, podría generar 2 500 millones de euros adicionales de inversión en dos años. En el futuro programa marco Horizonte Europa también debe adoptarse el mismo enfoque.

3.6.

Desde una perspectiva diferente, es una buena señal que la Comisión Europea y el Fondo Europeo para Inversiones Estratégicas, que debería desempeñar un papel esencial en el apoyo al desarrollo de la IA en la UE, hayan puesto en marcha el programa VentureEU, un fondo de capital riesgo de 2 100 millones de euros consagrado a impulsar la inversión en empresas innovadoras de toda Europa.

3.7.

Sin embargo, el esfuerzo necesario para mantener el ritmo de otros actores globales es tan grande que se requiere un elevado nivel de coordinación y sinergia entre todos los instrumentos y la financiación disponible a escala europea y nacional. Está claro que competir en el ámbito de la IA con China y Estados Unidos requiere aunar las fuerzas de todas las partes interesadas públicas y privadas que operan en Europa, para garantizar que la UE desempeña un papel de liderazgo global.

3.8.

A fin de que la UE pueda asumir una función competitiva y rentable en el ámbito de la IA, también será importante realizar inversiones adecuadas en infraestructuras digitales y programas y equipos informáticos apropiados que garanticen a la Unión un papel creíble.

3.9.

La inversión en IA debería tener en cuenta que las empresas europeas son particularmente fuertes en las áreas de automatización y robótica. Por lo tanto, estos sectores, que forman parte de la IA en sentido amplio, podrían resultar verdaderamente importantes para garantizar un papel global significativo de la UE con respecto al desarrollo tecnológico en curso y, por ende, merecen una atención específica.

4.   La inteligencia artificial y su impacto en las personas y los trabajadores

4.1.

No cabe duda de que el desarrollo de la IA está avanzando a un ritmo muy rápido. Por este motivo, es preciso que las instituciones europeas, a la hora de evaluar el impacto de las medidas reglamentarias en materia de inteligencia artificial, adopten un enfoque pluridisciplinar que incorpore no solo los aspectos administrativos, jurídicos y económicos sino también consideraciones antropológicas, psicológicas, sociológicas y tecnológicas.

4.2.

Para apoyar estas innovaciones —pero sobre todo para encaminarlas en una dirección que garantice que los seres humanos sigan siendo los actores centrales—, es importante que la Unión Europea actúe para lograr un nivel elevado de competitividad tecnológica, sin pasar por alto las consideraciones esenciales de carácter ético, social y humano.

4.3.

Por consiguiente, el CESE considera esencial que (i) la privacidad individual y el tratamiento responsable de los datos personales estén regidos por la legislación adecuada, como la puesta en marcha del nuevo Reglamento general de protección de datos, que, en caso necesario, deberá actualizarse constantemente para seguir el ritmo del rápido desarrollo de la IA, (ii) se evalúen actos importantes de la legislación aplicable de la UE y, en su caso, se adapten a los nuevos escenarios generados por la IA, y (iii) se desarrollen las competencias y las capacidades que necesitan las personas, las administraciones y las empresas europeas para aprovechar de modo eficaz las ventajas que ofrece la inteligencia artificial.

4.4.

Como punto de partida para el análisis que debe realizarse, cabe destacar que la IA se apoya en el uso y el tratamiento de grandes cantidades de datos, que conforman el fundamento de cualquier aplicación basada en las nuevas tecnologías. Al ser este el caso, el principal reto para los reguladores europeos es establecer un acceso transparente y regulado a los datos de los usuarios finales.

4.5.

Cuanto mejor sea la calidad de los datos procesados, mejor será la precisión y el rendimiento de los sistemas de IA. Sin embargo, no debe olvidarse que los datos relativos a los individuos deben adquirirse de forma legal y utilizarse de un modo conocido por aquellos directamente afectados, a fin de garantizar la utilización de los datos personales para fines predeterminados y transparentes, para los que el usuario haya otorgado un consentimiento adecuado e informado.

4.6.

Vale la pena señalar que varios ámbitos importantes de la legislación europea —por ejemplo, los que se refieren a la publicidad en línea, las prácticas comerciales desleales, la seguridad y la responsabilidad de los productos, los derechos de los consumidores, las cláusulas contractuales abusivas, las ventas y garantías, los seguros y la indicación de precios— podrían tener que ser modificados y debidamente adaptados a los nuevos escenarios surgidos de un uso más generalizado y refinado de la inteligencia artificial, con el fin de proteger a los consumidores finales.

4.7.

La cuestión decisiva de la seguridad y la responsabilidad de los productos ha sido debidamente tenida en cuenta por la Comisión en su documento de trabajo SWD(2018) 137 final mediante el análisis de estudios de caso y la presentación de una lista de los actos legislativos de la UE que merecen un mayor análisis y evaluación. El CESE anima plenamente a la Comisión a que continúe esta labor y está dispuesto a aportar su propia contribución a este respecto.

4.8.

También es importante poner de relieve el papel de la formación cultural, educativa y académica, por una parte, y el suministro de información adecuada para el público en general, por otra, con el fin de proteger los derechos de los ciudadanos europeos frente a los avances de la IA. En particular, es importante garantizar la transparencia y la corrección en la gestión de los algoritmos de IA y de las bases de datos en las que operan.

4.9.

Por consiguiente, es esencial que los ciudadanos europeos reciban formación adecuada, así como información simple y comprensible que les permita ser usuarios responsables e informados de los dispositivos y las aplicaciones que pone a su disposición la rápida evolución tecnológica que se está produciendo actualmente y generalizándose cada vez más en todos los niveles.

4.10.

A la luz de todas estas demandas, la UE y los Estados miembros deben ofrecer soluciones claras y eficaces, en particular promoviendo un sistema educativo moderno y ampliando constantemente la formación permanente en el mercado laboral y la sociedad civil.

4.11.

La Comisión Europea deberá llevar a cabo una cuidadosa evaluación de los efectos de la IA en el mercado de trabajo. Esto suscita una gran preocupación entre numerosos trabajadores europeos que cuentan con una vida laboral avanzada pero que aún están lejos de la edad de jubilación y contemplan los cambios que se producen con desconfianza y miedo. Dicho examen debe tener en cuenta la posible sustitución de algunos trabajadores por dispositivos electrónicos o robots y el hecho de que algunas funciones, aunque no sean por completo automáticas, se verán profundamente modificadas por las nuevas tecnologías. El examen y la evaluación deberían centrarse, por lo tanto, no solo en los cambios inevitables y previstos en las líneas de producción, sino también en la nueva concepción de los procesos organizativos y los objetivos empresariales tras un diálogo social adecuado con los trabajadores.

4.12.

En algunas situaciones, tal y como sucede y ha sucedido con otras muchas tecnologías, será recomendable probar la IA en todas las fases y en los sucesivos grados de adaptación antes de utilizarla plenamente, con el fin de que los afectados se familiaricen con las nuevas tecnologías —también mediante itinerarios de formación adecuados— y solucionen los errores de adaptación durante el proceso (4).

4.13.

La introducción de las nuevas tecnologías en las empresas requiere un diálogo social entre los diferentes interlocutores implicados. A este respecto, las organizaciones de trabajadores y los sindicatos deberán ser informados y consultados constantemente.

5.   Inteligencia artificial, administración pública y sociedad civil

5.1.

La IA constituye una innovación tecnológica y social capaz de transformar radicalmente el conjunto de la sociedad y de mejorar el sector público y la relación entre los ciudadanos y la administración pública. Las oportunidades que ofrece la inteligencia artificial podrían aumentar la eficiencia administrativa y la satisfacción de los ciudadanos con los servicios prestados por la administración pública y con el funcionamiento eficaz de dicha administración.

5.2.

A fin de lograr estos objetivos también es esencial que los funcionarios estén preparados para hacer frente a los cambios y desafíos que traerá la IA a la sociedad europea. Es preciso que los empleadores públicos y los jefes de la administración —junto con los profesores, los formadores y el personal universitario mencionados— sean capaces de comprender en profundidad el fenómeno de la IA y decidir qué nuevas herramientas deben introducirse en los procedimientos administrativos.

5.3.

La introducción de la IA en los sectores público y privado requiere diseñar procedimientos que promuevan la comprensión y la aceptación de las tecnologías por parte de los usuarios, a través de mecanismos de cooperación que permitan a los ciudadanos contribuir —si es posible, mediante sistemas de gobernanza participativa— al desarrollo de las tecnologías basadas en la IA.

5.4.

Para obtener resultados significativos en este contexto, puede ser útil desarrollar modos de colaboración y asociación cada vez más fiables entre los sectores público y privado, encaminados a aprovechar las oportunidades que surjan de las aplicaciones tecnológicas, la inteligencia artificial y la robótica.

5.5.

El reto para las administraciones públicas es especialmente complicado en términos jurídicos y de legitimidad, ya que deberá lograrse el equilibrio adecuado entre los intereses públicos (que entrañan el ejercicio de las competencias públicas) y los individuales (manifestación específica de la libertad del individuo). A este respecto, por ejemplo, el uso de la inteligencia artificial por parte de las administraciones públicas exigirá conciliar el principio de transparencia y publicación de documentos administrativos con la protección de los datos personales y el derecho de los individuos a la privacidad, con arreglo a un marco reglamentario claro y explícito.

5.6.

En aquellos casos en que las nuevas medidas permitan que las administraciones públicas utilicen tecnología para tomar decisiones organizativas y hacer elecciones más rápidas —como la selección de un contratista en una licitación pública, la gestión de una lista de espera para servicios particulares o la contratación de nuevos empleados en una administración pública—, será necesario hacer frente a la cuestión de la responsabilidad jurídica efectiva de dichas decisiones, en un marco jurídico claro, que garantice la plena rendición de cuentas de la administración ante los ciudadanos.

5.7.

Las organizaciones de la sociedad civil y las empresas sociales asumen un papel importante para promover la comprensión y la aceptación de las tecnologías por parte de los individuos, en particular, mediante mecanismos colaborativos que permitan la participación en los procesos de transformación digital. En este sentido, reviste gran importancia la posibilidad de crear sistemas de gobernanza participativa para estos instrumentos, por ejemplo, de carácter cooperativo, que partan de las plataformas digitales ya en uso para configurar nuevas formas de relaciones económicas en la gestión del trabajo.

5.8.

Las autoridades administrativas encargadas de los mecanismos de vigilancia del mercado deberían tener la experiencia y las competencias necesarias para proteger la competencia leal, los derechos de los consumidores y la seguridad y los derechos de los empleados. Los organismos públicos o independientes deberían encargarse de la auditoría algorítmica. Al mismo tiempo, las empresas deben introducir mecanismos eficaces para auditar el uso de los datos por parte de la IA.

---

(1)  Véase el Dictamen aprobado del CESE INT/845 — Inteligencia artificial: anticipar su impacto en el trabajo para garantizar una transición justa (Dictamen de iniciativa); ponente: Franca Salis-Madinier (véase la página 1 del presente Diario Oficial).

(2)  INT/806 de 31 de mayo de 2017 — Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad — (DO C 288 de 31.8.2017, p. 1).

(3)  Dictamen aprobado del CESE SOC/578 — Gestión de la transición en un mundo laboral digitalizado (DO C 367 de 10.10.2018, p. 15).

(4)  Véase el Dictamen aprobado del CESE INT/845 — Inteligencia artificial: anticipar su impacto en el trabajo para garantizar una transición justa (Dictamen de iniciativa); ponente: Franca Salis-Madinier (véase la página 1 del DO).