Flow, Inteligencia artificial y una tesis de magíster

Como profesor del Magíster en Data Science de la Universidad de Las Américas (CL) me ofrecieron proponer un tema de tesis para estudiantes del programa. Kevin Reyes Vásquez el líder del equipo de data de Flow propuso algo bien sencillo, que a lo largo de su desarrollo ha provocado cambios importantes en cómo atendemos a nuestros clientes y cómo utilizamos herramientas de inteligencia artificial en nuestros procesos.

Flow lleva varios años desarrollando solución de machine learning para distintos procesos, pero el desafío para los futuros magíster buscaba algo distinto. Se propuso entrenar un modelo LLM (Large Language Model) utilizando RAG (Retrieval-Augmented Generation) en AWS Bedrock. Este modelo debería ser capaz de responder preguntas sobre Flow alimentándose solamente con data pública de Flow. AWS nos daría algunos créditos y el resto de los gastos en infra corría Flow.

A este llamado acudieron Marcos Vargas y Claudio Adaros Gonzalez , dos destacados estudiantes del programa. Con el apoyo de Diego Norambuena Vergara de nuestro equipo de datos, fueron cargando las preguntas y respuestas, sacando la información disponible en la web y recabando información de Flow de otras fuentes. Así en pocos días, lograron entrenar un modelo Claude de Anthropic que lograba contestar de manera bien precisa algunas preguntas sencillas sobre cómo integrar Flow, las tarifas de nuestros servicios, entre otras.

Hasta acá es como tener solo la obra gruesa de una casa, después vino el trabajo fino y de detalles. Se probaron distintos modelos, se hicieron varias pruebas de fine-tuning y se aplicaron técnicas de prompt engineering para mejorar las respuestas. A este punto las respuestas se acercaban cada vez más a lo que esperábamos de un agente virtual, la tesis iba encaminada, pero como equipo de datos todavía no quedamos tan maravillados como la primera vez que usamos chatGPT.

Nuestra percepción cambió completamente cuando decidimos conectar en modo de prueba nuestro modelo de inteligencia artificial al sistema de tickets de soporte de Flow. La idea era sugerir recomendaciones de respuesta a nuestros agentes de soporte. Algunas respuestas fueron tan buenas que perfectamente las podría haber escrito alguien experimentando de nuestro equipo y en menos de un minuto. Entre prueba y prueba, por error (error directamente mío en configurar un filtro 🤦🏻) se quedó todo un día el modelo entregando recomendaciones de respuesta a nuestro equipo de soporte según consultas de clientes iban llegando. Al día siguiente la reacción del equipo de soporte fue súper positiva, nos comentaban cómo habían acelerado sus tiempos de respuestas y nos mostraban recomendaciones muy certeras que entregaba nuestra IA. Con este feedback nos decidimos apostar con fuerza en esta línea y partimos a reprorizar nuestro backlog.

Hoy ya no solo soporte está utilizando activamente modelos de IA entrenados por nosotros, y pretendemos incorporarla en cada área y proceso donde entregue valor. Como en los inicios de internet, mientras más se utilizaba, más aplicaciones comenzaron a aparecer. Ahora nos surgen continuamente ideas donde la IA puede ayudar a resolver necesidades de nuestros clientes, mejorar nuestros proyectos y eficientar nuestro trabajo. Como dice el Juan Gregorio Pasten Arce , la IA tiene que ser nuestro exoesqueleto, para convertirnos en súper humanos en nuestras áreas. Lo mejor de esta historia es que recién comienza 💡.