Post de Diplôme universitaire - Transformation numérique du droit (formation initiale)

Sécurité de l'IA Générative : L'ANSSI sort son premier guide ! 📖 Voilà un document bienvenu de l’ANSSI - Agence nationale de la sécurité des systèmes d'information alors que les projets d'intelligence artificielle #IA se multiplient et qu'il est crucial de les sécuriser à la conception !

Recommandations de sécurité pour un système d'IA générative Le récent engouement pour les produits et services d’Intelligence Artificielle (IA) générative, dont certains sont rendus facilement accessibles au grand public, a entraîné des réflexions au sein des organisations publiques et privées afin d’étudier les éventuels gains de productivité qui pourraient en découler. Si cette technologie offre de nouvelles perspectives, il convient d’adopter une posture de prudence lors de son déploiement et de son intégration dans un système d’information existant. Le guide de recommandations de sécurité pour un système d’IA générative de l’ANSSI s’intéresse à la sécurisation d’une architecture de système d’IA générative. Il vise à sensibiliser les administrations et entreprises aux risques liés à l’IA générative ainsi qu’à promouvoir les bonnes pratiques à mettre en œuvre depuis la phase de conception et d’entrainement d’un modèle d’IA jusqu’à la phase de déploiement et d’utilisation en production. Les problématiques de sécurité liées à la qualité des données et à la performance d’un modèle d’IA d’un point de vue métier ne sont pas traitées dans ce document, de même que les enjeux comme l’éthique, la vie privée ou encore la protection des données personnelles. https://lnkd.in/gVM9FXXB

Le récent engouement pour les produits et services d’𝗜𝗻𝘁𝗲𝗹𝗹𝗶𝗴𝗲𝗻𝗰𝗲 𝗔𝗿𝘁𝗶𝗳𝗶𝗰𝗶𝗲𝗹𝗹𝗲 (𝗜𝗔) 𝗴𝗲́𝗻𝗲́𝗿𝗮𝘁𝗶𝘃𝗲, dont certains sont rendus facilement accessibles au grand public, a entraîné des réflexions au sein des organisations publiques et privées afin d’étudier les éventuels 𝗯𝗲́𝗻𝗲́𝗳𝗶𝗰𝗲𝘀 𝗲𝘁 𝗴𝗮𝗶𝗻𝘀 𝗱𝗲 𝗽𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝘃𝗶𝘁𝗲́ qui pourraient en découler. Si cette technologie offre en effet de nouvelles perspectives, il convient cependant d’𝗮𝗱𝗼𝗽𝘁𝗲𝗿 𝘂𝗻𝗲 𝗽𝗼𝘀𝘁𝘂𝗿𝗲 𝗱𝗲 𝗽𝗿𝘂𝗱𝗲𝗻𝗰𝗲 lors de son déploiement et de son intégration dans un système d’information existant. Ce 𝐺𝑢𝑖𝑑𝑒 𝑑𝑒 𝑅𝑒𝑐𝑜𝑚𝑚𝑎𝑛𝑑𝑎𝑡𝑖𝑜𝑛𝑠 𝑑𝑒 𝑆𝑒́𝑐𝑢𝑟𝑖𝑡𝑒́ 𝑝𝑜𝑢𝑟 𝑢𝑛 𝑆𝑦𝑠𝑡𝑒̀𝑚𝑒 𝑑’𝐼𝐴 𝐺𝑒́𝑛𝑒́𝑟𝑎𝑡𝑖𝑣𝑒 de l’ ANSSI - Agence nationale de la sécurité des systèmes d'information s’intéresse à la sécurisation d’une architecture de système d’IA générative. Il vise à 𝘀𝗲𝗻𝘀𝗶𝗯𝗶𝗹𝗶𝘀𝗲𝗿 les administrations et entreprises aux 𝗿𝗶𝘀𝗾𝘂𝗲𝘀 liés à l’IA générative ainsi qu’à 𝗽𝗿𝗼𝗺𝗼𝘂𝘃𝗼𝗶𝗿 𝗹𝗲𝘀 𝗯𝗼𝗻𝗻𝗲𝘀 𝗽𝗿𝗮𝘁𝗶𝗾𝘂𝗲𝘀 à mettre en œuvre depuis la phase de conception et d’entrainement d’un modèle d’IA, jusqu’à la phase de déploiement et d’utilisation en production. Les problématiques de sécurité liées à la qualité des données et à la performance d’un modèle d’IA d’un point de vue métier ne sont toutefois pas traitées dans ce document, de même que les enjeux comme l’éthique, la vie privée ou encore la protection des données personnelles. 👉🏼 obtenir le guide et ses 𝟯𝟱 𝗿𝗲𝗰𝗼𝗺𝗺𝗮𝗻𝗱𝗮𝘁𝗶𝗼𝗻𝘀 📗 : https://lnkd.in/eB5--QnX #IA #IAgénérative #generativeAI #genAI #sécurité #

L'ANSSI a publié le 29/04/2024, "Recommandations de sécurité pour un système d’IA générative" Le document vise à sensibiliser les administrations et entreprises aux risques liés à l’IA générative ainsi qu’à promouvoir les bonnes pratiques dans la mise en œuvre de ce type de système. #IA #AI #ANSSI #intelligenceartificielle #securite https://lnkd.in/dxg72qAd

L'ANSSI vient de publier un guide de recos pour la sécurité des systèmes d'IA générative ! 📕 Il s'adresse aux entreprises qui utilisent ou envisagent d'utiliser ce type de système L'IA générative est un domaine en plein essor (je pense que vous l'avez remarqué 😅) qui présente de nombreux avantages, mais aussi des risques en termes sécurité 🛡️ Ce guide vise à vous aider à identifier et à maîtriser ces risques avec des recommandations pour les différents cycles de vie d'un système d'IA générative, de la phase entraînement du modèle jusqu'à la mise en production 💪 Il est fort probable que dans les prochains mois ou années vous devrez opérer des systèmes d'IA générative de manière sécurisée. C'est pourquoi je vous encourage vraiment à lire et à le partager ce guide ! 😁 👓 https://lnkd.in/e4szNahH #ANSSI #IAGénérative #sécuritéinformatique #IA #Guide #Recommandations

👉 La sécurité liée à l'intelligence artificielle générative est une préoccupation grandissante, car elle se développe et s'intègre de plus en plus dans notre vie de tous les jours. 👉 Cette expansion nécessite l'acquisition de compétences telles que la validation des messages et des résultats générés par l'IA, la gestion sécurisée des accès aux données, ainsi qu'une compréhension détaillée du fonctionnement du moteur d'IA. 🛑 Avec l'intégration de l'IA générative, les équipes DevSecOps font face à de nouveaux challenges concernant les données et la sécurité. De fait ils doivent développer des compétences pour gérer les risques, et une connaissance suffisante des modèles LLM et autre Moteurs IA afin de prévenir les éventuelles failles potentielles. 📣 A cet effet l'ANSSI donne quelques bonnes pratiques afin de d'ajouter de la sécurité et de la gouvernance aux projets IA (quelques exemples) : "Évaluer le niveau de confiance des bibliothèques et modules externes utilisés dans le système d'IA" "Évaluer le niveau de confiance des sources de données externes utilisées dans le système d'IA" Source :

Nouvelles recommandations de l'ANSSI concernant les IA génératives. Ce guide s’intéresse à la sécurisation d’une architecture de système d’IA générative. Il vise à : - sensibiliser les administrations et entreprises aux risques liés à l’IA générative ainsi qu’à promouvoir les bonnes pratiques - à mettre en œuvre depuis la phase de conception et d’entraînement d’un modèle d’IA jusqu’à la phase de déploiement et d’utilisation en  production. https://lnkd.in/eV7FZXnn

Récemment, l’intelligence artificielle générative a suscité de nombreuses réflexions au sein des organisations publiques et privées qui cherchent à évaluer les gains potentiels de productivité qui pourraient découler de ces avancées technologiques. 🔎   📰 De ce fait, l’ANSSI - Agence nationale de la sécurité des systèmes d'information a publié aujourd’hui un guide sur les recommandations de sécurité pour les systèmes d’IA générative.    🎯 L’objectif de ce document est de sensibiliser les administrations et les entreprises aux risques associés à l’IA générative, tout en détaillant les bonnes pratiques. https://lnkd.in/gVM9FXXB

🔒🌐 L'IA générative : une révolution à manier avec précaution 🌐🔒 Alors que l'engouement pour les produits et services d'Intelligence Artificielle (IA) générative explose, il est crucial de ne pas sous-estimer les risques qui y sont associés. Découvrez les recommandations de sécurité de l'ANSSI pour un déploiement sûr et maîtrisé de ces technologies au sein de votre organisation. 🚀 Dans un monde où l'IA générative devient de plus en plus accessible, il est essentiel d'adopter une posture de prudence lors de son intégration dans un système d'information existant. C'est pourquoi l'ANSSI a publié un guide de recommandations de sécurité pour un système d'IA générative, visant à sensibiliser les administrations et entreprises aux risques liés à cette technologie et à promouvoir les bonnes pratiques à mettre en œuvre. De la phase de conception et d'entrainement d'un modèle d'IA jusqu'à la phase de déploiement et d'utilisation en production, ce guide vous accompagne pour sécuriser votre architecture de système d'IA générative. Ne manquez pas cette lecture indispensable pour tirer le meilleur parti de l'IA générative tout en protégeant votre organisation ! 📖

#intelligenceartificielle - L’ANSSI vient de publier un guide essentiel pour les entreprises : « Recommandations de sécurité pour un système d’IA générative ». À mettre entre toutes les mains ! Destiné à sensibiliser les administrations et les entreprises aux risques de l’IA générative, ce guide propose une présentation très détaillée de l’iA. Très pédagogique, il permet de bien comprendre le fonctionnement si caractéristique des outils d’iA générative en détaillant, en particulier, ses 3 phases : “entraînement du modèle d’IA à partir de données spécifiquement choisies,(...) puis une phase d’intégration et de déploiement, et enfin une phase de production opérationnelle”… L’ANSSI fait bien évidemment le focus sur l’enjeu lié à la protection des données d'entraînement mais pas que… L’organisme précise ainsi que l’utilisation de l’iA générative doit répondre à des besoins de confidentialité, des besoins en intégrité et en disponibilité… Et rappelle au passage que « l’envoi de données sensibles à des outils grand public sur Internet est à proscrire »… Dans ce guide sont également détaillées des recommandations et bonnes pratiques pour chacune des phases de l’iA générative… Comment le développement d’applications, par exemple, peut nécessiter un encadrement spécifique. Au total, l’ANSSI partage 35 recommandations, des exemples et cas pratiques pour les entreprises… Un guide véritablement utile ! Si vous avez des questions précises au sujet du bon usage des outils iA en entreprises, posez-les moi en commentaire ou en DM ! #Dataprivacy #ia #ai #entreprise #corporate #digitalLaw #lawyer