Accompagner les administrations dans l’usage des algorithmes publics

Les applications des algorithmes dans le champ public sont nombreuses et variées, tant en termes de secteur d’activité (éducation, ressources humaines, fiscalité, santé, emploi, sécurité publique etc.), d’objet du traitement (calculer des droits, prédire un risque, réaliser un appariement, cibler etc.) que de modalités d’intervention de celui-ci (aide à la décision vs. décision automatisée, décision de l’administration vs. outil à destination des usagers). Le contexte est favorable à leur développement, dans la mesure où l’Etat encourage explicitement les administrations à recourir aux technologies de l’intelligence artificielle.

Les algorithmes du secteur public présentent des spécificités propres par rapport à ceux développés et utilisés par le secteur privé : ils sont censés opérer au service de l’intérêt général, ils servent parfois à exécuter le droit et sont souvent incontournables. La puissance publique ne peut cependant pas ignorer les risques associés à ces traitements :

  • défiance de la société vis-à-vis d’outils perçus comme des « boîtes noires » et dont les décisions sont parfois mal comprises ou mal acceptées;
  • risque de biais ou de discrimination, en particulier pour les algorithmes apprenants;
  • risques éthiques associés à des utilisations peu ou mal anticipées des traitements algorithmiques.

Plusieurs textes sont ainsi venus encadrer l’usage des algorithmes. La loi pour une République numérique, promulguée en 2016, a notamment introduit un principe de transparence des algorithmes publics qui servent à fonder des décisions administratives individuelles[1]. Le Conseil constitutionnel a par ailleurs validé et explicité les conditions d’utilisation des algorithmes qui prennent seuls (ie. sans intervention humaine) des décisions à l’égard d’un individu. Le Règlement européen sur la protection des données personnelles a également introduit de nouvelles obligations en vue d’un usage plus transparent et responsable des algorithmes pour l’action publique.

Il convient dès lors, pour la puissance publique, d’assurer qu’elle use, de manière responsable des algorithmes.

Etalab accompagne les administrations dans la mise en œuvre de ces obligations et met à leur disposition un ensemble de ressources

Pour ce faire, Etalab travaille sur 4 axes différents :

  1. Mettre en oeuvre la loi 
  2. Identifier les enjeux et les bonnes pratiques
  3. Développer la redevabilité par défaut 
  4. Nouer des liens avec des partenaires et la société civile 

1. Mettre en oeuvre la loi

Pour accompagner les administrations dans la mise en oeuvre des obligations prévues au livre III du Code des relations entre le public et l’administration, Etalab met à disposition

2. Identifier les enjeux et les bonnes pratiques

Accompagner des administrations

Afin d’identifier les enjeux et les bonnes pratiques dans le domaine des algorithmes, Etalab a été en lien avec des administrations spécifiques sur des systèmes existants, tels que l’allocation des places en crèches à la Ville de Rennes, l’algorithme d’attribution des greffons du coeur à l’Agence de biomédecine. Il a par exemple aidé Pôle Emploi à expliquer le fonctionnement de l’algorithme de la Bonne Boîte sous format vidéo.

Approfondir la réflexion à travers des rapports

Partager ces bonnes pratiques

Enfin, Etalab partage ces bonnes pratiques et apprend de ses pairs grâce à des réseaux internationaux, tels que que le groupe de travail “Open Algorithms” (algorithmes ouverts) animé par le Partenariat pour un gouvernement ouvert.

Ce travail est documenté à travers des billets de blog (en anglais) rédigés par l’équipe du PGO.

Soizic Pénicaud a également partagé (en anglais) l’expérience française d’élaboration d’inventaires dans le billet “Building Public Algorithm Registers: Lessons Learned from the French Approach“.

3. Développer la redevabilité par défaut

L’équipe “algorithmes publics” a également collaboré avec plusieurs programmes d’intelligence artificielle et d’innovation ouverte portés par Etalab, tels que l’appel à manifestation d’intérêt “intelligence artificielle” et le programme Entrepreneurs d’Intérêt Général, notamment en collaboration avec la FING. L’objectif : intervenir pendant la conception et le développement de ces algorithmes pour y intégrer les enjeux de redevabilité dès le début.

Voir l’article d’Hubert Guillaud “Vers des algorithmes exemplaires?” (5 décembre 2018) qui mentionne notamment le travail réalisé sur le projet Signaux Faibles.

4. Nouer des liens avec la société civile

Organisation d’événements

  • Afin de créer une communauté autour des algorithmes publics, nous organisons depuis 2017 des événements, souvent en partenariat avec des associations, des institutions ou des membres de la société civile.
septembre 13, 2018

Forum Open d’Etat à Nantes : “data.gouv.fr et les algorithmes à l’épreuve de la médiation numérique.” 

Evénement participatif organisé avec Loup Cellard dans le cadre de la conférence “Numérique en Communs” et du partenariat pour un gouvernement ouvert.
> Lire le billet de blog de mise en contexte

septembre 13, 2018
novembre 29, 2019

Atelier “Histoire(s) d’algorithmes” lors de la Semaine de l’innovation publique

Evénement organisé avec Loup Cellard dans le cadre de la Semaine de l’innovation publique organisée par la Direction interministérielle de la transformation publique.
> Lire l’annonce sur le site de la DINUM

novembre 29, 2019
janvier 29, 2020

Atelier sur l’explicabilité des algorithmes pendant la conférence FAccT 2020 à Barcelone

Organisation d’un atelier en partenariat avec les ONG AlgorithmWatch (Allemagne), Panoptykon (Pologne) et Amnesty International sur l’explicabilité des algorithmes, lors de la conférence de machine learning “Fairness, Accountability and Transparency in Machine Learning”.

janvier 29, 2020
mars 10, 2020

Atelier “amélioration du guide des algorithmes”

Atelier fermé co-organisé avec Fiona du Mesnildot (Cité du Design de Saint Etienne) visant à améliorer le guide des algorithmes publics.
> Voir la V2 du guide des algorithmes

mars 10, 2020
juin 11, 2021

“Transparency for what? Public algorithm registers in practice”

Atelier stratégique organisé en collaboration avec AlgorithmWatch et Divij Joshi (chercheur indépendant, ex-Tech & Policy fellow chez Mozilla) lors de la conférence RightsCon 2021.

juin 11, 2021

Participation à des événements nationaux et internationaux

  • Par ailleurs, Etalab a pu intervenir en qualité d’expert dans plusieurs événements nationaux (Village de la Legal Tech 2019, séminaire sur les algorithmes organisé par la CNIL et le Défenseur des droits en mai 2020) comme internationaux (RightsCon 2020, Internet Governance Forum 2021, OSCE, American Society of Public Administration, hackathon de politique publique organisé par le think tank britannique Reform, etc.).

Certaines de ces interventions ont été enregistrées. Vous pouvez les voir ici :

Explorations

Afin de s’ouvrir à d’autres manières de penser, Etalab entretient des liens avec le monde de la recherche (Medialab de Sciences Po, Université de Warwick, INRIA…). En 2021, une collaboration avec Design Friction, un studio de design spéculatif, a également donné lieu à des ressources ludiques pour mettre en débat et dialoguer autour des algorithmes.



Pour en savoir plus sur notre bilan 2020

Nous avons fait un bilan de l’année 2020 sur le blog d’Etalab, en début d’année. N’hésitez pas à aller le lire


In English

It is Etalab’s role to help agencies build capacity with regards to algorithms and help them implement the French accountability legal framework. Here are some resources in English to know more about our work: