Algorithmes publics : Etalab publie un guide à l’usage des administrations

Etalab publie aujourd’hui un guide des algorithmes publics à l’usage des administrations.

Calculer le montant de la taxe d’habitation, attribuer une place en crèche à une famille, déterminer si un individu est éligible à une aide sociale ou gérer la mobilité des enseignants: les applications des algorithmes dans le secteur public sont nombreuses et variées. Le contexte est favorable à leur développement dans la mesure où l’Etat encourage explicitement les administrations à recourir à l’intelligence artificielle (notamment à l’occasion de l’appel à manifestation d’intérêt IA).

La puissance publique ne peut cependant pas ignorer les risques associés à ces traitements : méfiance voire défiance de la société vis-à-vis d’outils parfois perçues comme des « boîtes noires », risque de biais pour les algorithmes apprenants, risques éthiques associés notamment à des utilisations peu ou mal anticipées des traitements algorithmiques…

Pour un usage responsable des algorithmes publics

Il convient dès lors, pour la puissance publique d’assurer qu’elle use de manière responsable des algorithmes dans l’exécution de ses missions de service public. La Loi pour une République numérique, et plus récemment le Règlement européen sur la protection des données personnelles ont introduit en ce sens des obligations liées à la transparence et la redevabilité des algorithmes lorsqu’ils fondent des décisions administratives individuelles.

Pour accompagner les administrations dans l’appréhension de ces enjeux et des nouvelles obligations Etalab publie un guide à l’usage des administrations.

Un guide pratique à destination des administrations

Ce document pédagogique, destiné aux administrations qui conçoivent, développent et utilisent des traitements algorithmiques, est composé de trois parties.

  • La première partie donne des éléments de contexte: qu’est-ce qu’un algorithme ? à quoi servent les algorithmes dans le secteur public ? Nous y précisons en particulier la distinction entre des décisions automatisées (ie. sans intervention humaine) et les cas où les algorithmes sont des outils d’aide à la décision (par exemple pour classer les dossiers des familles en vue de leur examen par une commission d’attribution de places en crèches).
A quoi servent les algorithmes publics ? (extrait du guide)
  • La seconde partie détaille les enjeux en termes d’éthique et de responsabilité: pourquoi – et comment – les administrations doivent-elles “rendre des comptes” sur l’usage des algorithmes ? comment ces outils peuvent-ils aider à prendre des décisions plus “justes” ? Nous y explicitons notamment les principes de transparence, d’intelligibilité et de loyauté.
  • La troisième partie présente le cadre juridique applicable en matière de transparence des algorithmes, notamment suite à l’adoption de la Loi pour une République numérique. Le législateur a en particulier introduit, pour certains algorithmes qui sont utilisés pour fonder des décisions administratives individuelles, un ensemble d’obligations:
    • au titre de l’information générale: publier en ligne les règles définissant les principaux traitements utilisés dans l’accomplissement des missions lorsqu’ils fondent des décisions individuelles,
    • au titre de la mention explicite: faire figurer en ligne et sur les documents (avis, notifications) une mention précisant les finalités du traitement, le rappel du droit de communication, les modalités d’exercice de ce droit,
    • au titre de l’information individuelle: fournir à la demande de l’intéressé : le degré et le mode de contribution du traitement algorithmique à la prise de décision, les données traitées et leurs sources, les paramètres de traitement et leur pondération, appliqués à la situation de l’intéressé, les opérations effectuées par le traitement.

Un document ouvert aux contributions

Le document publié aujourd’hui est ouvert aux contributions extérieures. Vous êtes invités à proposer une amélioration du contenu, poser une question ou soumettre un nouveau cas d’usage, soit en travaillant directement sur la version éditable publiée sur Github, soit en nous contactant.

Ce document est publié dans le cadre du programme de travail d’Etalab sur les algorithmes publics, qui comprend aussi la réalisation de monographies (analyse de cas d’usages) et l’accompagnement de projets dans le cadre du programme Entrepreneur d’Intérêt Général et des lauréats de l’appel à manifestation d’intérêt. Certaines de ses actions s’inscrivent en outre dans le cadre des engagements du plan d’action national de la France au sein du Partenariat pour un gouvernement ouvert (OGP).

Liens