Accompagner les administrations dans l’usage responsables des algorithmes publics

Les applications des algorithmes dans le champ public sont nombreuses et variées, tant en termes de secteur d’activité (éducation, ressources humaines, fiscalité, santé, emploi, sécurité publique etc.), d’objet du traitement (calculer des droits, prédire un risque, réaliser un appariement, cibler etc.) que de modalités d’intervention de celui-ci (aide à la décision vs. décision automatisée, décision de l’administration vs. outil à destination des usagers). Le contexte est favorable à leur développement, dans la mesure où l’Etat encourage explicitement les administrations à recourir aux technologies de l’intelligence artificielle.

Les algorithmes du secteur public présentent des spécificités propres par rapport à ceux développés et utilisés par le secteur privé : ils sont censés opérer au service de l’intérêt général, ils servent parfois à exécuter le droit et sont souvent incontournables. La puissance publique ne peut cependant pas ignorer les risques associés à ces traitements :

  • défiance de la société vis-à-vis d’outils perçus comme des « boîtes noires » et dont les décisions sont parfois mal comprises ou mal acceptées;
  • risque de biais ou de discrimination, en particulier pour les algorithmes apprenants;
  • risques éthiques associés à des utilisations peu ou mal anticipées des traitements algorithmiques.

Plusieurs textes sont ainsi venus récemment encadrer l’usage des algorithmes. La loi pour une République numérique, promulguée en 2016, a notamment introduit un principe de transparence des algorithmes publics qui servent à fonder des décisions administratives individuelles. Le Conseil constitutionnel a par ailleurs validé et explicité les conditions d’utilisation des algorithmes qui prennent seuls (ie. sans intervention humaine) des décisions à l’égard d’un individu. Le Règlement européen sur la protection des données personnelles a également introduit de nouvelles obligations en vue d’un usage plus transparent et responsable des algorithmes pour l’action publique.

Il convient dès lors, pour la puissance publique, d’assurer qu’elle use, de manière responsable des algorithmes.

Etalab accompagne les administrations dans la mise en oeuvre de ces obligations et met à leur disposition un ensemble de ressources:

Etalab

Service du Premier ministre, au sein de la Direction interministérielle du numérique et du système d'information et de communication de l'Etat , en charge de l'ouverture des données publiques et du gouvernement ouvert

Suivez-nous

Haut de page