En octobre 2018, l’organisation gouvernementale néo-zélandaise Statistics New Zealand, via l’initiative de leurs délégué gouvernemental aux données (Government Chief Data Steward) et chef gouvernemental du numérique (Government Chief Digital Officer), délivrait un rapport de quarante pages traitant du rôle et de la place des algorithmes dans le secteur public. Pour dresser un bilan appuyé d’avis et horizons divers du paysage étatique, quatorze agences gouvernementales du pays ont été invitées à partager sur leur utilisation des algorithmes et leurs méthodes de traitement des données personnelles de la population. À la toute fin du rapport, une annexe détaillée listant les types d’algorithmes employés à l’interne ainsi que leur description est d’ailleurs mise à la disposition de tous.

Ce rapport plutôt étoffé brosse un portrait très noble des algorithmes à l’ère du numérique (principalement en raison de leur très grande utilité), pour ensuite procéder à quelques mises en garde à leur égard. Y sont en premier lieu définis les algorithmes opérationnels et leurs fonctions premières. On nous explique ensuite dans quelles branches du secteur public et de quelles façons le traitement des données publiques en possession du gouvernement est bénéfique à la population en général.

La deuxième portion du rapport, davantage axée sur l’amélioration des services publics en général, fait état de principes directeurs devant rester centraux dans le travail des agences gouvernementales néo-zélandaises faisant un usage de plus en plus important des données publiques. Des objectifs tels que la mise en valeur d’une utilisation transparente des données de la population, la vulgarisation des méthodes de traitement des données et un accès plus facile et rapide à de l’information ciblée pour une meilleure compréhension populaire à leur égard, ainsi que le maintien d’une présence humaine dans la validation du processus décisionnel des algorithmes opérationnels, particulièrement lorsque les décisions prises par une machine ont un impact concret sur le quotidien du citoyen, sont explicités dans cette section du rapport.

L’étude se conclut avec des recommandations tirées des opinions et constats recueillis des différentes agences gouvernementales participantes. Ces recommandations appellent à une harmonisation des meilleures pratiques d’une agence étatique à l’autre, à l’implantation d’un processus de révision périodique des algorithmes dans le but d’éviter des effets indésirables de leur utilisation, ainsi qu’au rehaussement des attentes en matière d’information disponible et de transparence des opérations internes.

La réponse au rapport

Voilà maintenant quelques jours que le gouvernement néo-zélandais dévoilait un projet de Charte de l’Algorithme (Draft Algorithm Charter). C’est la Statisticienne du Gouvernement et Directrice Générale de Statistics New Zealand, Liz MacPherson, qui est à la source de la rédaction de cet engagement gouvernemental.

Ce court texte faisant écho au rapport déposé un an auparavant, et dont les degrés de normativité et de coercition entrevus restent encore à être clarifiés, dresse une liste en dix points des actions concrètes que devraient poser les agences gouvernementales faisant l’usage d’algorithmes pour le bénéfice citoyen :

• Clearly explain how significant decisions are informed by algorithms and be clear where this isn’t done for reasons of greater public good (for example, national security).
• Embed a Te Ao Māori perspective[1] in algorithm development or procurement.
• Take into account the perspectives of communities, such as LGBTQI+, Pasifika and people with disabilities as appropriate.
• Identify and consult with groups or stakeholders with an interest in algorithm development.
• Publish information about how data are collected and stored.
• Upon request, offer technical information about algorithms and the data they use.
• Use tools and processes to ensure that privacy, ethics, and human rights considerations are integrated as a part of algorithm development and procurement.
• Regularly collect and review data relating to the implementation and operation of algorithms, and periodically assess this for unintended consequences, for example bias.
• Have a robust approach for peer-reviewing these findings.
• Clearly explain who is responsible for automated decisions and what methods exist for challenge or appeal via a human. 

Ces dix prescriptions visent, nous l’avons deviné, à maximiser la compréhension et la confiance du public envers un nouvel outil, l’algorithme opérationnel, voué à une utilisation croissante à l’international, aux vertus multiples, mais aussi aux applications et conséquences encore partiellement circonscrites.

Selon le communiqué du gouvernement, les Néo-Zélandais sont invités, jusqu’à la fin de l’année 2019, à commenter et critiquer le projet de Charte actuel, afin d’expliciter la volonté gouvernementale de générer une opinion populaire favorable à l’exploitation des renseignements personnels par les algorithmes et de répondre le plus efficacement possible aux attentes du peuple face à cette nouvelle réalité. Suivant la consultation publique, les acteurs de la fonction publique s’engageront à appliquer les dix principes énoncés plus haut pour une période de cinq ans, ce après quoi une réévaluation de la Charte, de son contenu ainsi que sa pertinence, risque de survenir.

L’importance des algorithmes pour la Nouvelle-Zélande

L’initiative prise par le gouvernement Néo-Zélandais a de quoi faire parler : non seulement celui-ci indique-t-il d’entrée de jeu que l’utilisation des données personnelles de la population par le gouvernement est d’une très grande utilité, il renchérit en décidant de s’imposer toutes sortes de lignes directrices dans la valorisation de ces données par les algorithmes. On constate une panoplie de devoirs, tels que la consultation des intéressés (point 4), l’éducation et l’information relativement à l’utilisation des algorithmes (points 1, 5, 6, 8 et 10), une méthodologie dirigée et la prise en compte de groupes identifiés (points 2, 3, et 7) ainsi que de la validation / évaluation constante par les pairs (point 9). Il s’agit, à première vue, d’autant d’indices de bonne volonté de l’État de faire un usage intelligent des données en sa possession que de vecteurs de complexification (en termes de ressources, de gestion administrative, de multiplication des étapes à suivre, etc.) de l’utilisation éthique de ces données sensibles.

Quoiqu’il en soit, l’approche néo-zélandaise laisse entrevoir qu’il y aura beaucoup d’énergie à consacrer aux algorithmes, et qu’en sus de la protection efficace des renseignements personnels, question donnant à elle-seule beaucoup de fil à retordre ici-même (pensons au scandale Desjardins), le traitement de telles données par des intérêts publics compétents et consciencieux, plutôt que privés, peut permettre son lot de bénéfices pour le plus grand nombre. Reste à voir si une telle méthodologie portera ses fruits et si d’autres États décideront d’emboîter le pas à la Nouvelle-Zélande.  

[1] Pour une meilleure compréhension des perspectives Te Ao Māori sur la justice (mentionnées au point 2 du projet de Charte sur l’Algorithme), vous pouvez consulter le cyberlivre sur le sujet issu par le gouvernement néo-zélandais en 2001.