De quelle société voulons-nous ? Cette question fondamentale, l’État numérique nous la pose au quotidien. Si le numérique allège les lourdes démarches administratives, certaines menaces pour la démocratie sont bien réelles. Comme la mise à distance de l’individu par le numérique, mais aussi la perte de confiance des citoyens en l’État. Dans « L’État numérique et les droits humains », paru dans la Collection l’Académie en poche, Elise Degrave, professeure à la faculté de droit de l’UNamur, fait le tour de la question. Tenant en 142 pages vulgarisées, le livre est un triptyque mêlant une enquête de fond, une analyse juridique richement documentée et une exploration des solutions envisageables aux problèmes identifiés.
Des solutions possibles
« L’enquête a été menée au départ de situations réelles vécues qui m’ont particulièrement intriguée. » Cela a permis à la Pre Elise Degrave de découvrir ce que l’État numérique fait de notre double numérique. « La volonté d’en savoir plus a conduit à confronter des cas énigmatiques aux règles de droit existantes. » Et ce, afin d’identifier si des droits humains sont en danger.
« Chemin faisant, l’analyse et la réflexion ont fait naître de possibles solutions, nourries des bonnes pratiques menées à l’étranger, pour construire un Etat numérique respectueux des droits humains. Un Etat numérique qui ne sombre pas dans une société de la surveillance et de l’exclusion. »
Réveiller le législateur…
« Pour améliorer la loi à l’ère du numérique, il convient de réveiller le législateur. Et ce, en politisant le numérique et en créant un cadre juridique pour les systèmes de décisions algorithmiques », analyse la Pre Degrave.
Impactant la société dans son ensemble, le numérique est, en effet, une question éminemment politique. La directrice de l’équipe de recherches en E-gouvernement du Namur Digital Institute indique qu’il faut tout d’abord définir clairement l’objectif poursuivi par la numérisation de l’État. En effet, celui-ci demeure flou.
Ensuite, le législateur devrait évaluer en quoi la numérisation est nécessaire pour atteindre le but défini. « Il s’agit de mettre en balance l’ensemble des avantages et des inconvénients d’une technologie. En ce compris ses impacts sociaux, financiers et environnementaux. »
Il serait également intéressant de désigner un ministre dont la responsabilité serait engagée en cas de problèmes causés par la numérisation de l’État.
… et l’épauler
« En outre, le numérique soulevant des questions nouvelles avec lesquelles le législateur n’est pas nécessairement familier, il convient de l’épauler. Notamment grâce à des analyses d’impact sociétal. Mais aussi à une « AFSCA » des algorithmes du secteur public : ceux-ci devraient être soumis à l’examen d’une autorité indépendante chargée de contrôler les algorithmes et d’en autoriser ou non l’utilisation. »
La Pre Degrave prône également la création d’une « chambre du temps long ». Elle regrouperait des informaticiens, des juristes, des éthiciens, des économistes, mais aussi des membres de la société civile, d’associations et d’entreprises. « Son rôle serait d’éclairer le législateur sur les mesures à prendre à moyen et long termes pour une société numérique équilibrée. »
Le numérique doit s’adapter à l’humain … et non l’inverse
Un outil accessible aux personnes les plus fragilisées l’est de facto aussi à toutes et tous. « L’inclusion de tous les publics concernés doit être prise en compte dès la conception de l’outil numérique. Et ce, d’autant que plus la numérisation se généralise, plus il y a de personnes fragilisées par celle-ci. Et tant que la technologie n’est pas inclusive, elle ne devrait pas être utilisée. Il faut donc cesser les pratiques consistant à créer l’outil entre techniciens en se demandant ensuite comment l’adapter à tous en s’adressant à des associations pour « trouver deux analphabètes pour tester le service », d’après les échos de terrain », commente la co-directrice de la chaire Egov de l’Université de Namur.
Elle pointe également la nécessité de consacrer, dans la Constitution belge, le droit fondamental de ne pas utiliser Internet. Que ce soit par nécessité ou par choix.
Lutter contre le non-recours aux droits
A l’heure actuelle, la lutte contre la fraude, et donc l’identification rapide de potentiels fraudeurs, est le principal usage de la numérisation de l’État. « L’usage du numérique devrait être davantage développé pour aider les personnes à bénéficier de leurs droits. A cet égard, on a vu tout l’intérêt de l’automatisation du tarif social « gaz et électricité » qui est, pour l’heure, l’automatisation la plus aboutie », explique Pre Degrave.
« Cet outil pourrait être étendu à d’autres droits. L’idée est d’organiser des croisements de données pour informer les bénéficiaires des aides auxquelles ils peuvent prétendre. Et leur demander, le cas échéant, des informations complémentaires dont l’État ne disposerait pas, avant de procéder à l’attribution des aides. »
La nécessaire transparence algorithmique
A l’image d’un miroir sans tain, l’État numérique voit sans être vu. Pour endiguer ce déséquilibre, Elise Degrave propose différentes solutions.
Tout d’abord, concernant les citoyens, il faudrait « cartographier quels types de données personnelles sont enregistrés dans quelles administrations, qui peut y accéder et pour quoi faire. » Cela permettrait le traçage individuel des données. « Concrètement, chacun doit comprendre, en temps réel et pour ce qui le concerne, quelles données personnelles sont utilisées pour quoi faire. De manière à satisfaire sa curiosité légitime, mais aussi à identifier les erreurs et à dénoncer les abus. »
Il convient également d’améliorer la transparence des algorithmes du secteur public. « Dans une société démocratique, on ne peut pas accepter d’être gouvernés par des algorithmes secrets et non contrôlés. Il importe de rendre les algorithmes accessibles en créant un registre public de ceux-ci. »
Enfin, « lorsqu’un algorithme a été utilisé dans la prise de décision individuelle, la personne concernée doit le savoir. Et ce, pour comprendre l’ensemble des éléments ayant conduit à la prise de décision qui s’applique à elle et les contester, le cas échéant. » De quoi comprendre et contrôler le profilage étatique.