Publicación de Paolo Colonnello

🔍¿Sabías que existe una base de datos dedicada a rastrear incidentes relacionados con la inteligencia artificial? 🤖 Desde deepfakes hasta errores en sistemas de búsqueda, este recurso nos ayuda a aprender de los errores y a prevenir futuros problemas recopilando casos en los que la IA ha causado daño o casi daño en el mundo real. 🌐 Explora la base de datos aquí: https://lnkd.in/gFnYdyVY 🌟 ¡Compartamos conocimientos y sigamos debatiendo sobre la ética y el futuro de la IA!

Este artículo sobre el envenenamiento de conjuntos de datos es muy interesante. Ya sabíamos que los modelos de inteligencia artificial son un coladero de vulnerabilidades, pero esta forma de ataque es muy inteligente.

Los continuos avances en inteligencia artificial no sólo afectan a la productividad y la automatización, sino también el ámbito de la ciberseguridad. Adjunto enlace al artículo científico donde un modelo de IA puede superar los CAPTCHA al 100%; es la ejemplificación sobre cómo son los desafíos a los que nos enfrentamos como sociedad. Aunque estas pruebas estaban diseñadas para distinguir humanos de bots, la capacidad de las IA para resolverlas plantea cómo de rapido se avanza en esta temática y nos hace reflexionar sobre cómo proteger la integridad digital. Qué mundo🚀 https://lnkd.in/dGF-ek7X #Ciberseguridad #IA #TransformaciónDigital #Innovación cc: Miguel Ángel Arroyo

AI Pulse, nuestra nueva y emocionante serie de blogs, examina los últimos avances en IA de ciberseguridad y lo que se avecina en el horizonte, basándose en nuestros más de 20 años de experiencia en machine learning e IA. Acompáñanos en este emocionante viaje, que incluye desde el "Big Bang" de ChatGPT hasta el aumento del fraude basado en IA y los deepfakes en los Juegos Olímpicos de París, destacados en este primer artículo. Más información en https://bit.ly/4czN9xJ #AI #CiberseguridadAI

Para empezar el 2025, quería compartir con la comunidad este nuevo portal saif.google que fue lanzado a finales del año pasado. Como muchos de vosotros sabéis, SAIF (Security Artificial Intelligence Framework) es un modelo que muestra cuál es la aproximación que Google hace internamente sobre la Seguridad en Inteligencia Artificial En este portal (saif.google) podéis encontrar información sobre los riesgos más característicos sobre estas tecnologías así como los controles apropiados para mitigar tales riesgos. En otra sección (https://lnkd.in/dDe75-Zg) podéis hacer una autoevaluación del nivel de riesgo en vuestras organizaciones como paso inicial para definir un plan de mitigación al respecto. Confio en que esta información os resulte útil para definir vuestra estrategia de Seguridad en lo que se refiere a Inteligencia Artificial.

"Este es un intento de seleccionar y analizar rigurosamente los riesgos de la IA en una base de datos de riesgos de acceso público, integral, extensible y categorizada que cualquiera pueda copiar y usar, y que se mantendrá actualizada con el tiempo", dijo Peter Slattery, investigador del MIT. Dijo a TechCrunch el grupo FutureTech y líder del proyecto de repositorio de riesgos de IA. "Lo creamos ahora porque lo necesitábamos para nuestro proyecto y nos dimos cuenta de que muchos otros también lo necesitaban". Slattery dice que el repositorio de riesgos de IA, que incluye más de 700 riesgos de IA agrupados por factores causales (por ejemplo, intencionalidad), dominios (por ejemplo, discriminación) y subdominios (por ejemplo, desinformación y ataques cibernéticos), nació del deseo de comprender las superposiciones y desconexiones en Investigación de seguridad de la IA. Existen otros marcos de riesgo. Pero cubren sólo una fracción de los riesgos identificados en el repositorio, afirma Slattery, y estas omisiones podrían tener consecuencias importantes para el desarrollo, el uso y la formulación de políticas de la IA.

una publicación muy interesante. La evaluación ética de una IA es una tarea a ejecutar de forma continua a lo largo del ciclo de vida del sistema de IA que se implementa (desde el diseño, hasta su retirada) #IAética #RAI

🔍 Explorando los límites del razonamiento en IA 🧠 En este fascinante artículo de Benj Edwards, se discuten los desafíos y controversias que rodean al modelo “Strawberry” de OpenAI. Aunque promete avances en razonamiento paso a paso, la empresa está limitando el acceso a los detalles de su proceso interno. ¿Hasta dónde debe llegar la transparencia en el desarrollo de IA? Una lectura obligada para quienes seguimos de cerca la evolución de la inteligencia artificial. Lee más aquí:

¡Acabo de terminar el curso «Los datos sintéticos como el futuro de la privacidad, la explicabilidad y la equidad de la IA: una introducción para científicos y ejecutivos de datos» de Alexandra Ebert! Échale un vistazo: https://lnkd.in/gdUREqnd #iagenerativa #privacidaddedatos.

Todo está en el uso que le damos a la tecnología.