Les mondes de l’entreprise, de l’économie et du social connaissent bien la notion d’injustice, qui se traduit le plus souvent par des inégalités de traitement, dues au genre, à l’âge, à l’apparence physique, à l’origine ethnique, au nom ou au prénom, voire au lieu de résidence, à la façon de s’exprimer, à la tenue vestimentaire, à la note sociale sur les réseaux sociaux, etc. Les injustices font partie de notre quotidien. Elles sont tenaces et éternelles. Trois technologies émergentes vont donner à ces rhizomes envahissants de nouveaux engrais.
L’IA et ses données, des injustices drapées dans un manteau « scientifique ».
On commence à peine à les voir, ces biais de l’IA à laquelle certains portent un culte naïf et d’autres une méfiance quasiment maladive. Souvent, ni les uns ni les autres ne la comprennent. L’IA repose sur des données et des algorithmes pour prévoir, analyser des documents digitalisés, qu’il s’agisse de textes, d’images, de sons, de données de capteurs. Les algorithmes, la plupart du temps écrits par des hommes blancs, américains, jeunes peuvent refléter leurs modèles mentaux et donc mettre en code des biais et des injustices potentielles. Les bases de données, elles-mêmes issues du passé et pas toujours bien étalonnées (même rarement), vont transporter les biais d’hier vers des prédictions pour demain. Les algorithmes de recrutement ont du mal à sélectionner des femmes si le modèle dominant de la base est constitué d’hommes ; les algorithmes de reconnaissance faciale, ont du mal à reconnaître des femmes, des peaux colorés. Ils ne sont pas racistes ou machistes, tout simplement ils n’ont pas les bonnes bases. Les informaticiens doivent être contrôlés.
Les neurosciences, des biais cachés au fond de nous-mêmes
Les neurosciences commencent à nous éclairer sur nos biais décisionnels, qui peuvent entraîner des jugements sur les personnes, les faits et leurs analyses. Tout décideur est injuste, et ne peut s’en rendre compte seul. L’intelligence collective est notre espoir et il faut y ouvrir la chasse aux biais.
La biologie, des injustices fondamentales
La biologie est injuste par nature, certains êtres sont plus susceptibles d’attraper des maladies, de développer des cancers, que d’autres. L’épigénétique en particulier commence à montrer que nos gènes ne sont pas égaux devant les attaques de virus, les mutations malignes, les perturbateurs de tous poils. Mais l’injustice « naturelle » devient sociale si le profil de chacun peut devenir un facteur positif ou négatif de recrutement, de mariage, d’assurance santé, de prise en charge des couts des soins, etc. La législation devra réinventer de nouvelles solidarités.
Lutter contre ces injustices relève d’une très grande complexité. Pourtant il est possible de voir ces enjeux comme une opportunité. En effet l’esprit critique, l’intelligence collective et un esprit de solidarité plutôt que d’ostracisme pourraient nous permettre de les transformer en moyens de renouveler les valeurs de notre société, de mettre plus d’éthique dans l’entreprise, de prendre conscience de nos faiblesses individuelles et collectives et d’en faire des forces. En tous cas on a le droit d’y croire…
