«Sans qu’on en ait pleinement conscience, nous sommes régulièrement évalués et notés par des systèmes algorithmiques auxquels recourent tant les entreprises privées que les pouvoirs publics», constate Nathan Genicot. Le docteur en sciences juridiques publie «Des règles sur mesure – Généalogie du profilage algorithmique» aux éditions Amsterdam. L’auteur puise dans le passé pour éclairer les questions soulevées par le profilage actuel. Ces pratiques engendrent des formes de surveillance qui menacent la vie privée. Ciblent les personnes les plus pauvres et vulnérables. Prétendent traiter les humains ‘sur mesure’.
Aux XIXe et XXe siècles
À la fin du XIXe siècle, les premières formes de profilage statistique apparaissent dans le domaine de l’éducation. Au tournant du XXe siècle, des tests se déploient pour identifier les enfants anormaux. Choisir une orientation professionnelle. Recruter des travailleurs. Sélectionner, trier avec des tests standardisés qui prédisent, de façon quasi automatique, les capacités futures des individus.
Et ce, « sans évaluations menées grâce à la prudence d’une personne avisée ou de critères clairs», relève le chargé de recherche du Fonds national de la recherche scientifique (FRS-FNRS) au Centre Perelman de philosophie du droit de l’Université libre de Bruxelles (ULB).
La sélection au travail se développe au cours des premières décennies du XXe siècle. Prolongée par l’orientation professionnelle. La tendance à se focaliser sur la prédiction statistique est critiquée. Lors de la seconde moitié du XXe siècle, les dispositifs de profilage au travail sont contestés en justice.
Sélectionner, orienter, surveiller
Les dernières décennies du XXe siècle et le début du XXIe siècle sont marqués par les technologies de l’information, de la communication. «Celles-ci stimulent l’adoption à une large échelle d’outils de sélection et d’orientation professionnelle et, plus largement, de surveillance au travail», précise Nathan Genicot. «En matière d’orientation professionnelle, des méthodes de profilage algorithmique se déploient en particulier au sein des services publics d’accompagnement à l’emploi.»
«À partir de la fin des années 1990, le profilage des chercheurs d’emploi s’impose dans plusieurs pays comme l’une des voies pour lutter contre la montée du chômage. Le concept d’employabilité s’impose progressivement dans le débat public pour désigner la probabilité qu’une personne retrouve rapidement un emploi.»
À l’inverse de la solidarité
Dès 1760, des compagnies d’assurance-vie se développent au Royaume-Uni. Dans la seconde moitié du XIXe, ces entreprises s’épanouissent dans des pays occidentaux. Réservée aux classes les plus aisées, l’assurance s’étend aux autres classes sociales.
Pour quels candidats? À quels tarifs? «Les assureurs contribuent à l’émergence d’une appréhension probabiliste de la santé et de la maladie, et jouent un rôle décisif dans le développement de pratiques de collectes de données médicales», observe le chercheur associé au Research Group on Law, Science, Technology & Society de la Vrije universiteit Brussel (VUB).»
«Les assureurs ont néanmoins une visée davantage individualisante que les épidémiologistes puisqu’ils ne cherchent pas tant à améliorer la santé de la population dans son ensemble qu’à déterminer si les candidats à des polices d’assurance vivront suffisamment longtemps pour que cela soit profitable à leur compagnie. Si le critère de l’âge s’est imposé, c’est d’abord parce qu’il s’agit d’un des facteurs qui influencent de la façon la plus décisive l’espérance de vie. Aux États-Unis, la couleur de peau constitue un critère régulièrement pris en compte.»
«Le profilage est l’exact inverse de la solidarité. Il induit implicitement que l’individu est responsable du profil auquel il se voit associé.»
Attirer de bons risques
Pendant la seconde moitié du XXe siècle, le rôle de l’assurance complémentaire est moindre en Europe qu’aux États-Unis. «La plupart des pays disposent de systèmes de sécurité sociale», explique Nathan Genicot. «Cependant, le déficit structurel dont ces derniers commencent à souffrir conduit les assurances complémentaires à acquérir une place plus grande qu’auparavant, rendant ainsi la sélection aiguë des risques d’autant plus délicate.»
L’Union européenne accroît la différenciation des risques… «Deux phénomènes jouent un rôle clé. D’un côté, l’Union européenne consacre la liberté d’établissement: une entreprise d’assurance peut librement exercer ses activités dans d’autres États membres. De l’autre côté, une série de directives sont adoptées de manière à assurer un certain niveau d’harmonisation entre les législations nationales relatives aux assurances privées.»
«Ces évolutions consacrent une forme de liberté tarifaire et stimulent le recours à la segmentation de manière à attirer des ‘bons risques’ à des conditions avantageuses», conclut le chercheur.