Faire l’inventaire des algorithmes publics : point d’étape sur les actions d’Etalab

Au cours du dernier trimestre 2020, Soizic Pénicaud et Simon Chignard d’Etalab ont animé un groupe de travail restreint réunissant des collectivités et des ministères. L’objectif : mettre en œuvre l’inventaire des algorithmes publics, l’une des trois obligations issues de la Loi pour une République numérique. Retour sur la démarche, ses principaux résultats et les prochaines étapes.

Le sujet des algorithmes publics a gagné en visibilité en 2020. L’échéance du 1er juillet dernier (et le risque de sanction en cas d’absence de la mention explicite prévue par la loi) a permis une prise de conscience des enjeux et des obligations, prise de conscience facilitée aussi par la presse. Signe d’un intérêt croissant, le premier webinaire organisé en juin 2020 par Etalab a accueilli plus d’une centaine de participants, soucieux d’en connaître davantage sur les enjeux juridiques et pratiques d’une plus grande transparence des algorithmes. 

Etalab organise un second webinaire consacré cette fois-ci à l’inventaire des algorithmes publics le 11 février 2021 à 10h. Inscrivez-vous !

Notre pays est l’un des premiers à s’être doté, dès 2016, d’un corpus législatif cohérent sur le sujet, avec d’une part la loi pour une République numérique et d’autre part l’adaptation du règlement général sur la protection des données à caractère personnel (RGPD). Cependant, on constate souvent que les administrations ont besoin d’accompagnement pour appliquer le cadre juridique existant. Dès lors, il nous a semblé indispensable d’aller plus loin que le rappel voire l’explication des lois, comme cela est déjà le cas avec le guide des algorithmes publics. C’est de cette volonté qu’est née l’idée d’un groupe de travail informel réunissant quelques administrations volontaires autour d’un objectif commun: progresser sur l’inventaire des algorithmes publics.

Un groupe restreint et informel pour avancer ensemble

Mi-2020, Etalab a sollicité un petit nombre d’administrations pour participer à un groupe de travail informel, en ciblant en priorité celles qui avaient manifesté leur intérêt pour le sujet des algorithmes. Nous avons fait le pari d’animer un groupe mêlant des ministères et des collectivités locales dans une même démarche. Ainsi, d’octobre à décembre 2020, nous avons animé cinq sessions de travail. Autour de la table (ou plutôt, de l’écran, crise sanitaire oblige) : Maryse Le Bras, du Ministère de l’Education nationale, Cécile Le Guen, de la Direction des douanes et des droits indirects, Anthony Claverie de la Ville d’Antibes et Nathalie Vernus Prost de la Métropole de Lyon. Tous ont accepté de partager leurs réalisations, leurs interrogations et parfois aussi leurs doutes pendant ce trimestre. Qu’elles et il en soient ici remerciés.

Le point de départ de nos travaux était l’article du Code des relations entre le public et l’administration qui évoque l’inventaire des algorithmes publics. Voilà ce qui dit le texte: les administrations sont tenues de publier en ligne “les règles définissant les principaux traitements algorithmiques utilisés dans l’accomplissement de leurs missions lorsqu’ils fondent des décisions individuelles”.

Le point d’arrivée est un modèle d’inventaire des algorithmes publics en version beta, que nous allons prochainement mettre en débat pour amélioration et commentaires. Ce modèle, une fois consolidé, pourra être adopté par toute administration souhaitant publier son propre inventaire et se mettre ainsi en conformité avec la loi. La ville d’Antibes a d’ailleurs récemment publié une première version de cet inventaire à l’aide de ce modèle. Au cours de ce trimestre de travail, nous avons aussi été inspirés par plusieurs initiatives d’inventaire des algorithmes publics, par exemple de Nantes Métropole, d’Amsterdam et d’Helsinki. Parallèlement à ce groupe de travail, l’équipe d’Etalab a aussi échangé avec plusieurs pays, dont le Canada, le Royaume-Uni, les Pays-Bas et la Nouvelle-Zélande dans le cadre des travaux du groupe “Open Algorithms” du Partenariat pour le Gouvernement ouvert (PGO).

Ce que nous avons appris en chemin

En préparant ce modèle d’inventaire, nous avons identifié plusieurs enjeux qui méritent d’être partagés.

Il faut tout d’abord souligner la proximité, de fait et de droit, entre le sujet de l’open data et la question des algorithmes. De fait, les agents des administrations mobilisés sur cette dernière question sont aussi ceux qui le sont pour l’ouverture des données publiques. De droit, ensuite: la plupart des dispositions liées aux algorithmes et à l’open data apparaissent dans le même Code des relations entre le public et l’administration. Les difficultés rencontrées sont identiques, avec notamment un très fort enjeu d’acculturation et de pédagogie en interne au sein des administrations. 

Comment parler des algorithmes ? Pas facile! La discussion a fait ressortir le besoin d’illustrations, d’exemples d’algorithmes dans le secteur public. Le terme même d’algorithme est souvent mal compris. Les frontières de l’algorithme et son tropisme numérique font aussi l’objet de discussion, et la confusion règne parfois entre algorithme, traitement automatisé et code source, trois notions qui cohabitent dans les textes juridiques. 

C’est bien souvent à partir d’exemples que les services métiers se saisissent de la question, plutôt que par la définition. Ainsi, la bonne question à poser en interne n’est pas tant “quels sont les algorithmes que vous utilisez ?” mais plutôt “quelles sont les décisions que vous prenez, par exemple envers les administrés ?”. Il est parfois plus aisé de commencer par identifier les décisions administratives pour arriver ensuite aux outils qui aident à prendre ces décisions, et non l’inverse.

Qui doit réaliser cet inventaire ? La gouvernance des algorithmes publics, au sens large, est encore largement à construire. À coup sûr, elle doit faire intervenir de nombreux intervenants dans l’organisation: direction métiers, direction du numérique, délégués à la protection des données, personnes en charge de l’accès aux documents administratifs (PRADA). Dans les administrations que nous avons rencontrées, c’est souvent la personne chargée de l’ouverture des données qui joue le rôle de chef d’orchestre de la transparence des algorithmes. On notera d’ailleurs avec intérêt que le rapport remis par le député Eric Bothorel au Premier ministre propose d’élargir le périmètre des administrateurs des données en leur confiant aussi les sujets d’algorithmes et de codes sources.

Un inventaire, pour qui ? Un inventaire pour quoi ? La question des cibles de cet inventaire est étroitement liée à celle des usages… et des moyens disponibles. On l’aura compris, réaliser un tel inventaire est une obligation légale. Mais rien n’interdit aussi de s’interroger sur les objectifs à atteindre et sur les publics cibles. Dans l’esprit du législateur, cet inventaire est l’une des trois composantes de la transparence des algorithmes, avec la mention explicite et le droit à l’information individuelle. En ce sens, l’inventaire contribue à rendre visible à la société des systèmes qui sont parfois invisibles. Cette mise en visibilité n’est que la première étape, c’est un moyen mais surtout pas une fin. Le travail de médiation à réaliser reste essentiel, pour permettre à chacun de s’emparer de ces informations. 

Pour aller plus loin

Comment réaliser cet inventaire ? Que doit-il contenir ? Où le publier ? Pour répondre à ces questions, Etalab organise le 11 février 2021 à 10h un webinaire en ligne sur l’inventaire des algorithmes publics, avec le témoignage des participants à ce groupe de travail. Inscription gratuite et obligatoire.