Se faire juger par un robot pourrait bientôt ne plus être une scène tirée d’un film de science-fiction. En Estonie, c’est presque déjà une réalité. Sur place, la justice va écarter les humains dans certaines affaires judiciaires selon Wired. Dans des délits mineurs, qui concernent des faits dont les dommages sont en dessous de 7 000 euros, une intelligence artificielle devra déterminer ou non la culpabilité d’une personne. Le média américain précise qu’un humain pourra toujours faire appel de la décision de la machine, sans donner plus de détails sur le processus. C’est la première fois qu’une intelligence artificielle aura la responsabilité d’un jugement de façon autonome. Les officiels souhaitent que cette innovation puisse alléger la charge de travail des juges et des greffiers pour leur permettre de se concentrer sur des affaires plus complexes.

Pour rendre sa décision, cette intelligence artificielle développée par Ott Velsberg, un jeune étudiant de 28 ans engagé par le gouvernement estonien en tant que «directeur des données» à l’échelle nationale, fonctionnera selon un principe simple. Outre l’appui sur l’analyse des textes légaux, elle analysera les informations mises en ligne par les deux parties en conflit sur une plateforme dédiée. Parmi ces informations, on retrouvera des informations personnelles mais aussi des allégations ou encore des preuves éventuelles pouvant faire pencher le jugement d’un côté comme de l’autre. Cette technologie devrait entrer pleinement en vigueur d’ici la fin de l’année.

Ce n’est pas la première fois que la justice travaille avec l’intelligence artificielle. Aux États-Unis, c’est déjà une réalité dans plus de 60 juridictions. Seule nuance, et elle est de taille: la machine ne prend pas de décision mais est simplement là pour conseiller le juge dans certaines affaires. Le logiciel utilisé appelé COMPAS (Correctional Offender Management profiling for Alternative Sanctions) regroupe une liste de 137 questions très différentes: «L’accusé possède-t-il un téléphone personnel? A-t-il pour habitude de payer ses factures en retard?...» pour tenter d’évaluer la probabilité de récidive d’un accusé grâce à un système de notation allant de 1 à 10. Malgré son inspiration novatrice, le système a déjà montré ses limites. En plus de faire l’objet de critique sur sa véritable efficacité, il est aussi accusé de racisme. Après deux ans d’utilisation aux États-Unis, les populations afro-américaines ont en effet récolté dans l’ensemble un taux de récidive deux fois supérieur à celui des autres populations avec COMPAS selon une analyse fouillée du média d’investigation américain ProPublica. Ce biais racial est problématique car il n’avait même pas été prévu par les concepteurs du logiciel et il montre surtout que la machine reproduit seule des préjugés sur la base de simples données.

En décembre 2018, un groupe de travail de la Commission européenne pour l’efficacité de la justice s’est penché sur la question. Ses membres ont publié une charte éthique européenne sur l’utilisation de l’IA dans les systèmes juridiques. Cette dernière pointe notamment «l’opacité du processus de fonctionnement» d’un logiciel judiciaire. En effet comment respecter la décision d’un juge-robot quand on ne sait pas exactement comment il fonctionne? «Dans le deep learning, méthode de développement des IA, une partie du processus d’apprentissage est opaque. La machine apprend d’elle-même et les chercheurs ne savent pas ce qui se passe précisément dedans. On peut toujours critiquer le verdict d’un juge lorsqu’il motive son jugement. Mais comment motiver le jugement d’une machine si on ne sait pas comment elle raisonne?» s’interroge le docteur en sciences politiques Olivier Paquet dans les colonnes d’Usbek et Rica.

À l’heure où le cabinet d’analyse Deloitte prévoit l’automatisation de plus de 100.000 missions juridiques d’ici 2036, le débat sur une «justice algorithmique» n’est donc pas près de se refermer et surtout pas en Estonie. «Développer l’IA nous permettra de nous spécialiser dans des domaines précis que les machines ne pourront jamais approcher» a récemment expliqué la présidente du pays Kersti Kaljulaid dans uneconférence sur l’IA organisée dans la capitale du pays, Tallinn.

Estonie, société 2.0

Aujourd’hui, l’État estonien est en train de développer, en plus du «juge robot», 13 systèmes d’intelligence artificielle directement intégrés dans la fonction publique. C’est le cas du Pole Emploi local où plus aucun agent humain ne se charge d’aider les personnes sans emploi. Ces dernières n’ont qu’à partager leur CV numérique avec un logiciel qui analyse leurs différentes compétences pour ensuite faire une proposition d’offre d’emploi adaptée. Premier bilan:72% des personnes ayant obtenu un emploi grâce à cette technique l’occupent toujours 6 mois plus tard. Ce taux était de 58% avant l’apparition de ce logiciel.

Le petit État balte a fait de la digitalisation de ses institutions une priorité depuis le début des années 2000. Ses 1,3 million d’habitants disposent tous d’une carte d’identité numérique leur permettant de payer leur impôt ou de voter en ligne. Depuis 2014, le pays développe aussi le concept d’e-citoyenneté: un dispositif qui permet à chacun de lancer une entreprise à distance en quelques minutes et de bénéficier des avantages fiscaux du pays après avoir rempli un simple formulaire en ligne. Selon Wired, 35.000 personnes ont déjà bénéficié ce statut innovant.

Par Harold Grand, Le Figaro

Tags: Estonie