UBA IALAB

🎯El ascenso de la IA sin programar. Predecir y automatizar tu 80/20.  Hace siete años, predecir y automatizar en organizaciones sobre tareas estandarizadas, era imposible sin la ayuda de programadores de vanguardia, mucho tiempo, un gran equipo y un proceso de etiquetado, revisión y entrenamiento de datos. Esto pasó con Prometea, el primer sistema predictivo que se convirtió en un caso de éxito internacional. 🌟En 2024, podés predecir y automatizar con tasas de acierto asombrosas, trabajando con dos personas expertas en el proceso, sin programar, en dos meses y pagando una licencia de 20 dólares. 🔍La metodología UBA IALAB que hoy les comparto, la probamos en muchas organizaciones y es increíblemente eficiente, transparente, explicable y trazable. 🔄Tiene cuatro fases principales. 1️⃣ Usar los grandes modelos de lenguaje con mayor tasa de acierto (ChatGPT, Claude, Copilot) para extraer patrones de casos que se riteran. Pedidos de proveedores, mail y cualquier clase de documento. 2️⃣El usuario “cura” esos patrones de los documentos en función de subgrupos de decisiones que adopta en función de cada uno. 3️⃣ Se “ancla” al modelo usando patrones que se agrupan en función de los modelos o templates de respuestas. 4️⃣ Se ejecutan con prompts optimizados, catálogo de patrones y modelos que pueden ser introducidos en Gpts, agentes o bien en el formato tradicional de prompting humano. Logramos que ChatGPT, Claude o Copilot adapten modelos de 10 páginas o más, sin ningún error. 💡Convertir cajas negras en cajas blancas La mayor virtud de esta metodología, se basa en darle trazabilidad, estabilidad y explicabilidad a las predicciones de IA generativa. Se reduce casi a cero las alucinaciones y se le pone un “freno” al modelo para que no tenga autonomía para predecir. 📊Los números que comparto son bastante increíbles, y se basan en aplicaciones reales en diferentes organizaciones. Es ideal para el sector público y para las empresas que necesitan garantizar transparencia y explicabilidad en las predicciones.

👽 Ovnis, frutilla, “espejito espejito” y la IA generativa: nuevo hito de UBA IALAB Es un orgullo contarles un hito para la Universidad de Buenos Aires y el UBA IALAB. El paper de nuestro equipo de investigación (FAIR) dirigido por María Victoria Carro, la coautora principal, fue aceptado para ser presentado en la Conferencia internacional Neural Information Processing Systems (NeurIPS) 🌍. Se trata del evento más importante del mundo sobre inteligencia artificial, en donde se presentan muchos papers que se convierten en los más citados en la industria. La frutilla del postre: vamos a presentarlo en el mismo workshop en el que es panelista Giambattista Parascandolo, miembro de Open IA y uno de los responsables detrás del último modelo “frutilla” de ChatGPT, presentado a los usuarios como modelo01 (preview y mini). 🪞La IA generativa en modo “espejito espejito” . Más allá de esta frase cinematográfica, los grandes modelos de lenguaje alucinan, fabulan y también adulan, exageran y encuentran relaciones causales donde no las hay. En uno de nuestros experimentos, la IA generativa tituló que los “Ovnis impulsan la innovación”, lo que claramente es una ilusión causal si observamos la información en el prompt introducido. Otro ejemplo burdo para entender correlaciones que no son causas: el canto del gallo, ¿provoca la salida del sol? Aunque son fenómenos correlacionados, es obvio que no. 🔮En el paper experimentamos sobre noticias periodísticas y el uso de IA generativa para armar titulares. Los resultados de "ilusión de causalidad" y de exageración que publicamos, dependen del tipo de modelo de lenguaje utilizado. Claude 3.5 Sonnet demostró un mejor rendimiento, seguido por ChatGPT en su versión GPT4o mini. También demostramos que, si el usuario introduce la opinión o preferencia en el prompt para realizar la tarea, el modelo la espeja y puede condicionar sus respuestas para seguir esa narrativa. Una versión sofisticada de “espejito espejito” o de la frase: “dime lo que quiero escuchar”. 🔍¿Qué innovación introducimos con este estudio? Este trabajo es pionero en la evaluación de grandes modelos de lenguaje para detectar lo que se llama “ilusión de causalidad como sesgo cognitivo”. Esto es importante, porque reproducir estos sesgos suele contribuir al prejuicio social, la formación de estereotipos o la desinformación, lo que en ciertos casos puede conducir a graves consecuencias para la salud. 🚨 🤖¿Cómo mitigamos todo esto? Un aspecto fundamental es formar a los usuarios en el uso de técnicas de prompting, que aprendan a desplegar estrategias o marcos de mitigaciones de sesgos y, esencialmente, que personas expertas filtren y editen las respuestas. Muchas felicitaciones a todos los integrantes de FAIR UBA IALAB y a los coautores Francisca Gauna Selasco, Denise Alejandra Mester y Mario Alejandro Leiva. 🎉 👉🏻Link del paper: https://lnkd.in/djkgf4GF

'Blade Runner' digital: los nuevos replicantes con IA generativa. En 'Blade Runner', los replicantes eran casi indistinguibles de los humanos. El Tsunami de IA generativa nos acerca a la ficción, creando 'replicantes digitales' que modifican nuestra percepción de lo real. 🤖Hasta ahora, la lógica se basa en detectar lo falso. La IA generativa cambia este paradigma, porque la identidad que se manifiesta digitalmente es fácilmente replicable y alterable. Hay que repensar el sistema por completo. La evolución del 'captcha' debería llevarnos hacia una validación de voces y rostros en tiempo real. 🧑💻Para que tengamos una dimensión de lo que estamos viviendo, hay estudios que demuestran que las personas confían más en rostros de personas que no existen. ¡Cuando lo falso es la regla, etiquetar lo auténtico es la clave! ⁉¿Qué son las réplicas digitales? Se trata de recrear y clonar digitalmente los datos biométricos de las personas. Con una foto, puedo generar un discurso en una plataforma digital; con un prompt puedo generar una simulación digital de un rostro humano, lo que se conoce como “persona fake”; se puede hacer hablar a Messi en inglés, hacerle decir a un político lo que nunca dijo y miles de otros posibles usos beneficiosos y maliciosos. 🌟La lista de lados luminosos es extensa: asistentes virtuales personalizados, doblaje automático, educación inmersiva, y asistencia a personas con discapacidad. Por ejemplo, Randy Travis, cantante de música country, tiene la función del habla limitada a causa de un derrame cerebral. Gracias a la IAgen, pudo lanzar nuevamente una canción luego de casi más de una década. Modo Darth vader de la IA gen: los lados oscuros de las réplicas digitales. 🚨Los casos más urgentes son las “deepfake” de pornografía con rostros de niños y niñas, la alteración de los procesos electorales y las nuevas modalidades de estafas o el “cuento del tío” con IA generativa. 🎙Por ejemplo, desde UBA IALAB relevamos más de 30 sitios que permiten clonar voces. Entre otras, Descript, iSpeech, o Resemble.ai. Estas plataformas suelen pedir que el usuario lea y grabe un texto específico, que luego se valida antes de proceder con la clonación. En pocos minutos se puede clonar cualquier voz y luego enviar un mensaje de whatsapp. Ahora bien, más de la mitad de las plataformas (15) permiten clonar voces sin ningún tipo de requisito como el consentimiento o algún tipo de validación. By human! Posteo hecho 100% por humano 📄Les dejo diversos papers y estudios sobre estos temas. rostro sintéticos: https://lnkd.in/d5Pbgg-F https://lnkd.in/d-Y_GtBE https://lnkd.in/dc4MdfKM https://lnkd.in/dpDwaZJX

🚀 Volver al futuro: efecto freno y paradojas de la IA generativa. 🎤 La banda Coldplay y su cantante Cris Martín subieron al escenario junto al protagonista de Volver al Futuro, Michael J. Fox, conocido como Marty McFly. Se despidieron con Fix You, su mejor canción. Lo curioso es que quise repasarla completa y por eso metí un prompt en la versión más avanzada de ChatGPT para tareas complejas: “Lo siento, no puedo proporcionarte la letra completa, ya que está protegida por derechos de autor”, me contestó. 🔍 Luego de varios intentos sin éxito (no usé un Jailbreak) y de expresar disculpas que no siente, busqué en Google. Desde hace varios años es muy fácil encontrar cualquier letra completa de las canciones. Este ejemplo es una muestra del efecto freno, mientras vivimos la revolución de la IA generativa e interactuamos con grandes modelos de lenguaje. ⛔ El “efecto freno”. La aceleración de la IA generativa se enmarcan en la cultura, el temor a la obsolescencia, las regulaciones y otros aspectos que desaceleran o incluso frenan, en muchos aspectos, sus avances. Al menos, lo limitan por diseño. 🚗 La socióloga Judy Wacjman lo ejemplifica con la evolución de los automóviles. Circular por el centro de Londres cuando hay mucho tráfico, es más lento que hacerlo en carruaje en 1900. 🤖 En la IAGen, un ejemplo de este efecto son los métodos para que los modelos “olviden” o “desaprendan” dentro de sus corpus de entrenamiento, sin desmejorar en otros conocimientos. El experimento con preguntas sobre Harry Potter muestra cómo omite contestar sobre cuestiones puntuales que están en los libros protegidos por derechos de autor. 🌀 Paradojas de la IA generativa. En Volver al Futuro II, este siglo nos encontraría con autos voladores. En 2024 ese futuro no llegó, aunque hay prototipos. Los autos autónomos empiezan a circular progresivamente pero en Latinoamérica, recién en 2050 se estima que serán el 50% y en 2065 el 100%, según un estudio exhaustivo. 📚 Lección aprendida: cuando pensamos el desarrollo de la IA es clave abordar estos fenómenos que nos llevan a sobreestimar o subestimar los contextos sociales y culturales complejos. La gestión de paradojas considerando el efecto freno es una estrategia clave para la adopción de la IA generativa en las organizaciones bajo un enfoque de “traje a medida”. 🎧 Bonus track: les dejo un fragmento del Tratado de IA que recopila algunas paradojas históricas de los avances tecnológicos. La más curiosa: cuando se inventó el micrófono, a los cantantes que lo usaban los llamaban “cantantes sin voz” (imagina lo que les queda a los que hoy usan “autotune” con IA en tiempo real). Link: https://lnkd.in/dCiGthVT Not by IA. Este posteo fue hecho 100% por este humano. 👉🏼Link autos autónomos: https://lnkd.in/dT6A6CXi 👉🏼Paper Harry Potter: https://lnkd.in/dKs5xq6M

IA by user y “Not by IA” 🤖La IA generativa democratizó el acceso a la IA, que avanza hacia un formato cada vez más centrado en resolver problemas específicos, lo que se conoce como “mixtura de expertos” y la evolución hacia “agentes de IA”. El paradigma IAgen comienza a parecerse a la lógica de “Avengers de Marvel”, en donde miles de IA se apoyan en grandes modelos de lenguaje para darnos “superpoderes”, que coexisten con grandes responsabilidades y desafíos.🕸️🕷😉 📝En este escenario, nacen nuevas habilidades. La primera, saber cómo redactar o elaborar buenas instrucciones, los famosos Prompts. En este breve paper, junto a uno de los máximos referentes Latinoamericanos en gestión de talento, Alejandro Melamed, reflexionamos sobre cómo cambian las reglas del juego. ✨La GenIA nos convoca a transformarnos de generadores de información a expertos en hacer preguntas y en editar respuestas. Pero con esto no alcanza. NOT BY IA 🙅♂️Entender dónde NO aplicar IA y aprender a garantizar cuándo y dónde asegurar la intervención humana en los procesos automatizados por IA, son otras dos grandes capacidades que tenemos que desarrollar. 🔍Planificar estratégicamente cómo diseñar ecosistemas laborales basados en tareas no automatizables, aumentará su valor en ciertos escenarios. Por ejemplo, detectar el valor de las emociones no simuladas, tareas que demandan mucha contextualización cultural, y otras que se basan en experiencias físicas y biológicas. Incluso, algunas en las que sea importante destacar la importancia de los procesos analógicos (cara a cara). Por ejemplo, comunicar un diagnóstico a un paciente. En este caso y en muchos otros, se aplica el concepto Not by IA. ⚡Como complemento, "equivalencia interespecie" será un concepto central en muchas actividades, al igual que “Human in the loop”, como categorías transversales que serán exigidas en procesos complejos, y también en escenarios de definiciones importantes para tomar decisiones críticas en las organizaciones. Un ejemplo de esto último: asegurar la evaluación humana de sesgos negativos antes de aplicar sistemas de IA en tareas de atracción y selección de talento. 🌱Finalmente, es importante cambiar el enfoque tradicional de: “automatizar todo lo que se pueda”, por otro que busque una transición más armónica.  Tenemos que reflexionar profundamente sobre cómo la humanidad va a afrontar el concepto de "obsolescencia cognitiva" Descarga el libro completo acá: https://lnkd.in/d8utwFGu