ESMA ha publicado recientemente una declaración que proporciona orientación inicial a las empresas sobre el uso de la Inteligencia Artificial (IA) en servicios de inversión minorista. ESMA tiene como objetivo guiar a las empresas que utilizan o planean utilizar IA para garantizar el cumplimiento de los requisitos clave de #MiFID II, incluidos los requisitos organizativos y de conducta y la obligación de actuar en el mejor interés del cliente.
En mi opinión, la declaración es muy relevante y proporciona un marco necesario para las entidades, sirviendo como un recordatorio crucial de que, si bien la mayoría de los casos de uso de inversión pueden no considerarse de alto riesgo según la Ley de IA de la UE y, por lo tanto, solo están sujetos a transparencia o medidas voluntarias, igualmente deberán cumplir con regulaciones intersectoriales y tecnológicamente neutrales, como MiFID II. Estas regulaciones deberán interpretarse y cumplirse en el contexto del uso de la IA.
Finalmente, la guía de ESMA cubre tanto escenarios en los que las herramientas de IA se desarrollan internamente como situaciones en las que el personal de las entidades utiliza tecnologías de IA de terceros. La declaración enfatiza la necesidad de que las empresas tengan medidas que controlen todo uso del sistema de inteligencia artificial por parte de los empleados.
Los puntos clave del documento son los siguientes:
Beneficios y casos de uso: ESMA reconoce el potencial de la IA para transformar los servicios de inversión minorista, ofreciendo oportunidades de eficiencia, innovación y mejor toma de decisiones. La declaración destaca los usos potenciales de la IA en los servicios de inversión, incluido el servicio y soporte al cliente, servicios de asesoramiento de inversión/gestión de carteras, cumplimiento, gestión de riesgos, detección de fraude y eficiencia operativa.
Riesgos para empresas y clientes: la declaración describe los riesgos potenciales asociados con la IA, tales como:
- Falta de rendición de cuentas y supervisión: una dependencia excesiva de la IA puede correr el riesgo de descuidar el juicio humano, especialmente en mercados financieros complejos donde las predicciones de la IA pueden no ser precisas.
- Falta de transparencia y explicabilidad: los sistemas de IA a menudo pueden ser "cajas negras" con procesos de toma de decisiones que el personal de todos los niveles no comprende fácilmente, lo que potencialmente también afecta la calidad del servicio.
- Seguridad/privacidad de los datos: los amplios requisitos de datos, incluidos los datos personales, de las herramientas de inteligencia artificial pueden plantear importantes preocupaciones sobre la privacidad y la seguridad.
- Robustez/confiabilidad del resultado, calidad de los datos de entrenamiento y sesgo algorítmico: las herramientas de inteligencia artificial para la generación de lenguaje natural pueden producir resultados objetivamente incorrectos que parecen realistas. Los sesgos introducidos por los datos de entrenamiento pueden dar lugar a predicciones inexactas y, a menudo, son difíciles de identificar y corregir.
La ESMA enfatiza también la importancia del cumplimiento de los requisitos clave de MiFID II en el contexto del uso de IA en servicios de inversión y, específicamente:
- Interés del cliente e información a los clientes: un elemento central del uso de la IA en los servicios de inversión es el compromiso inquebrantable de actuar en el mejor interés de los clientes, un requisito general que se aplica independientemente de las herramientas que la empresa decida adoptar en la prestación de servicios. Las empresas de inversión deberían ser transparentes sobre el papel de la IA en los procesos de toma de decisiones de inversión relacionados con la prestación de servicios. Deben garantizar que dicha información se presente de manera clara, justa y no engañosa.
- Requisitos organizativos - Gobernanza, gestión de riesgos, conocimientos y competencias, y formación del personal: el órgano de dirección de las entidades debe comprender y supervisar las tecnologías de IA para garantizar la alineación con la estrategia, la tolerancia al riesgo y el marco de cumplimiento de la empresa. Las empresas de inversión deben establecer estructuras de gobernanza sólidas, probar periódicamente modelos de IA y monitorizar los sistemas de IA para mitigar posibles riesgos y sesgos. Además, las entidades deben desarrollar procesos de gestión de riesgos adaptados a los desafíos de la IA, implementar sistemas integrales de prueba y monitorización y establecer mecanismos claros de documentación y presentación de informes para la transparencia y la rendición de cuentas.
- Requisitos de conducta: cuando se utiliza IA para servicios de asesoramiento de inversiones y gestión de carteras es fundamental cumplir estrictamente con los requisitos de conducta de MiFID II. Las empresas deben aplicar una diligencia adicional para garantizar la idoneidad de los servicios e instrumentos financieros para cada cliente. Al utilizar IA en servicios de inversión, las empresas deben tener controles sólidos para garantizar que los sistemas de IA alineen la distribución de productos con el mercado objetivo y alineen las recomendaciones de inversión con la situación financiera, los objetivos de inversión y el conocimiento y experiencia del cliente.
- Mantenimiento de registros: ESMA espera que las empresas de inversión mantengan registros completos sobre la utilización de la IA y las quejas relacionadas de los clientes, garantizando el cumplimiento de los requisitos de MiFID II. Las entidades deberían documentar el uso de tecnologías de IA en los servicios de inversión, incluidos los procesos de toma de decisiones, las fuentes de datos, los algoritmos implementados y cualquier modificación a lo largo del tiempo.
Conclusiones y próximos pasos: a la vista del contenido del documento, la ESMA aconseja a las empresas de inversión que busquen recursos adicionales y se comuniquen con sus autoridades supervisoras para afrontar de manera eficaz los complejos desafíos relacionados con la IA. Mi valoración personal del documento es positiva, pues da algo de luz al camino que muchas entidades ya han iniciado de explorar los casos de uso de la IA en los servicios de inversión y además alinea los esfuerzos de entidades y supervisores en el marco regulatorio actual.
