Les technologies de l’information et de la communication transforment la société. Les algorithmes sont au coeur de toutes les attentions: objets industriels fondamentaux pour les entreprises, ils sont souvent perçus comme des "boites-noires" par les utilisateurs confrontés à leurs décisions. Ce constat ne va qu'en s'amplifiant avec le déploiement continu de solutions à base d'apprentissage machine, dont les dernières avancées techniques
(réseaux de neurones profonds) fournissent des décisions qui sont
inexplicables par construction.
L'objectif de cet atelier est de questionner ces boites-noires, leur nature, leur conception, et plus généralement leur impact sur leurs usagers et sur la société. La visée pluridisciplinaire et transversale de l'atelier cherchera par exemple à aborder des sujets tels que:
- Les biais de traitement des algorithmes, et les moyens de quantifier ce biais?
- L'implémentabilité de la notion de bien commun ?
- Quels outils et quelles métriques pour un audit citoyen des algorithmes ?
- Quelle responsabilité pour les concepteurs d'algorithmes opaques ?
- Les moyens pour l'utilisateur d'observer et d'appréhender les
résultats des algorithmes en boite-noire pour construire une compréhension.
- L'évolution de la société face au nombre grandissant de boites-noires à visées décisionnelles automatiques, et le manque avéré d'explications des décisions.
- Quelles notions d'éthique dans le développement courant de ces
boites-noires? Sont elles suffisantes et satisfaisantes ?
- Le traitement des données personnelles des utilisateurs, la notion de consentement et celle de la compréhension. Comment exercer un contrôlecritique sur le traitement de nos données critiques ?
Intervenants (confirmés):
* Dominique CARDON (sociologue, directeur du Médialab de Sciences Po)
* Loup CELLARD (designer, doctorant au Centre for Interdisciplinary
Methodologies de l'University of Warwick, UK)
* Claude KIRCHNER (directeur de recherches émérite d’Inria, membre de plusieurs commités liés à l'éthique)
* Claire MATHIEU (directrice de recherches CNRS, spécialiste des algorithmes et chargée de mission Parcoursup)
* Antoinette ROUVROY (Juriste et philosophe du droit, professeure à
l’université de Namur et chercheuse au FNRS, Belgique)
* Félix Tréguer (Membre LQDN, chercheur associé au Centre Internet et Société du CNRS, post-doctorant au CERI-Sciences Po)
Le programme courant est disponible ici :
http://atelier-blackbox.conf.citi-lab.fr
Localisation : Les Halles du Faubourg - 10 Impasse des Chalets, 69007 Lyon
Inscription (gratuite) :
http://atelier-blackbox.conf.citi-lab.fr/inscription/
