Justice Prédictive et IA : Quand les Algorithmes Entrent dans les Tribunaux
- Stéphane Guy
- il y a 2 jours
- 11 min de lecture
Un juge humain peut se tromper. Un algorithme aussi, mais pas de la même façon. La justice prédictive désigne l'ensemble des outils fondés sur l'intelligence artificielle qui visent à anticiper des décisions judiciaires : la probabilité de récidive d'un prévenu, l'issue probable d'un procès, le montant d'une indemnisation... En théorie, l'idée séduit : des décisions plus cohérentes, moins soumises à la fatigue du magistrat ou aux inégalités territoriales. En pratique, c'est beaucoup plus compliqué. Les États-Unis l'ont expérimenté à grande échelle depuis les années 2000, avec des résultats qui ont déclenché l'un des plus grands débats éthiques de la décennie. La France, elle, a avancé prudemment, puis a surtout reculé. Quant à l'Europe, elle tente aujourd'hui de poser des garde-fous avant que la machine ne s'emballe. Tour d'horizon d'un sujet qui touche à ce que nos sociétés ont de plus fondamental : la capacité à juger, et à être jugé.
EN BREF
La justice prédictive recouvre des outils IA qui anticipent des décisions judiciaires, récidive, issue de procès, montant d'indemnisation, à partir d'une analyse massive de données jurisprudentielles.
L'algorithme COMPAS, utilisé aux États-Unis pour évaluer le risque de récidive, a été accusé par ProPublica en 2016 de discriminer systématiquement les prévenus noirs, relançant le débat sur les biais des outils algorithmiques en justice.
En France, la loi du 23 mars 2019 interdit le profilage des magistrats à des fins prédictives, et le projet DataJust, algorithme d'indemnisation corporelle, a été abandonné en janvier 2022 face à sa complexité.
L'AI Act européen (entré en vigueur le 1er août 2024) classe les systèmes de justice prédictive dans la catégorie "haut risque", imposant des exigences strictes de transparence et de supervision humaine.
Le débat de fond oppose deux visions : une IA comme outil d'aide à la décision pour réduire les inégalités de traitement, contre une IA qui risque d'automatiser des injustices passées en les habillant d'un vernis scientifique.
Justice prédictive, de quoi parle-t-on exactement ?
Le terme est apparu dans les années 2010 dans les couloirs des facultés de droit et des startups legaltech, mais la réalité qu'il désigne est plus ancienne. Depuis longtemps, les magistrats américains s'appuient sur des "grilles de risque" pour orienter leurs décisions en matière de liberté sous caution ou de peine. L'IA n'a pas inventé la chose, elle l'a simplement industrialisée.
On distingue généralement deux usages bien différents. Le premier, le plus répandu en Europe, concerne la jurisprudence prédictive : des outils comme Predictice ou Case Law Analytics permettent aux avocats d'analyser des milliers de décisions passées pour estimer leurs chances de succès, la fourchette d'indemnisation probable, ou encore les tendances décisionnelles selon les juridictions. C'est du conseil stratégique, pas de la décision automatisée. Les cabinets d'avocats et les directions juridiques des grandes entreprises utilisent désormais ces outils quotidiennement pour anticiper les décisions judiciaires.
Le second usage est beaucoup plus sensible : la prédiction comportementale, c'est-à-dire la tentative d'évaluer si un individu est susceptible de commettre un crime ou de récidiver. C'est là que le débat s'embrase. Non pas parce que l'idée est absurde, l'évaluation du risque a toujours existé en criminologie,, mais parce qu'une IA chargée de cette tâche prend des décisions dont les conséquences sont directes sur la liberté d'une personne.
En 2025, la justice prédictive s'est imposée comme un bouleversement majeur dans l'écosystème juridique français, les cabinets d'avocats et les directions juridiques des entreprises utilisant désormais quotidiennement ces outils algorithmiques pour anticiper les décisions judiciaires. Mais cette adoption massive dans la sphère civile et commerciale contraste avec une méfiance persistante dans le domaine pénal.
COMPAS, l'algorithme qui a mis le feu aux poudres
Pour comprendre pourquoi la justice prédictive suscite autant de défiance, il faut revenir à l'affaire COMPAS. Cet outil, pour Correctional Offender Management Profiling for Alternative Sanctions, a été développé par la société américaine Northpointe et déployé dans de nombreux tribunaux aux États-Unis pour attribuer aux prévenus un score de risque de récidive. Ce score influence directement des décisions de détention provisoire, de mise en liberté conditionnelle, parfois même de peine.
En 2016, l'organisation de journalisme d'investigation ProPublica publie une enquête sur les résultats du déploiement de l’outil. Le constat est saisissant. L'algorithme prédit correctement la récidive dans environ 61 % des cas, au mieux. Mais les prévenus noirs sont presque deux fois plus susceptibles que les prévenus blancs d'être étiquetés à risque élevé sans jamais récidiver. Le mécanisme inverse est tout aussi documenté : les prévenus blancs présentent plus souvent un profil sous-évalué et passent à l'acte malgré un score bas.
L'analyse de ProPublica a révélé que les prévenus noirs étaient bien plus susceptibles que les prévenus blancs d'être jugés à tort comme présentant un risque élevé de récidive, tandis que les prévenus blancs étaient plus souvent sous-évalués et passaient néanmoins à l'acte.*
Ce débat qui peut sembler très statistique masque une question éthique centrale : peut-on accepter qu'un outil soit "équitable en moyenne" si ses erreurs pèsent systématiquement sur les mêmes populations ? Des chercheurs de la Pennsylvania State University ont conduit une analyse causale du jeu de données COMPAS et ont conclu que l'algorithme présente bien un biais racial contre les prévenus afro-américains. On parle de ce sujet plus en détail dans notre article qui explore le sujet des biais et des discriminations amplifiés par l’IA.
Ce que l'affaire COMPAS a définitivement mis en lumière, c'est que l'algorithme n'est pas neutre. Il est nourri de données historiques, d’arrestations passées, de condamnations antérieures, qui reflètent elles-mêmes des décennies de discrimination policière et judiciaire. Un modèle entraîné sur le passé n'apprend pas la justice : il apprend l'histoire de la justice, avec tous ses angles morts. Pour approfondir ce mécanisme, on peut lire notre analyse sur les biais algorithmiques et les erreurs qui touchent les systèmes d'IA en général.
La France et son rapport ambigu avec l'algorithme judiciaire
La France a regardé les États-Unis avec un mélange de fascination et d'inquiétude. Elle a voulu ses propres outils, et a finalement reculé sur les plus ambitieux.
Commençons par ce que la loi a effectivement verrouillé. L'article 33 de la loi n° 2019-222 du 23 mars 2019 mentionne que “« Les données d'identité des magistrats et des membres du greffe ne peuvent faire l'objet d'une réutilisation ayant pour objet ou pour effet d'évaluer, d'analyser, de comparer ou de prédire leurs pratiques professionnelles réelles ou supposées. La violation de cette interdiction est punie des peines prévues aux articles 226-18,226-24 et 226-31 du code pénal, sans préjudice des mesures et sanctions prévues par la loi n° 78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés. »”*
En clair : il est interdit, en France, d'utiliser les données d'identité des juges pour construire des profils prédictifs de leurs décisions. C'est ce profilage des juges à grande échelle que la loi du 23 mars 2019 cherche à empêcher. L'idée était simple : si n'importe quelle legaltech peut identifier qu'un juge X, dans une chambre Y, tend à condamner plus sévèrement les récidivistes, les avocats les mieux dotés en outils technologiques pourront orienter stratégiquement leurs assignations. C'est une distorsion du principe d'égalité devant la justice.
Puis il y a eu DataJust. En mars 2020, en plein premier confinement, le gouvernement autorise par décret la création d'un algorithme destiné à établir un référentiel d'indemnisation des préjudices corporels. L'idée avait du sens : les montants accordés par les tribunaux varient énormément selon les juridictions pour des préjudices comparables. L'objectif de ce projet était la création d'un référentiel officiel d'indemnisation, basé sur l'intelligence artificielle, visant à informer les victimes d'accidents corporels mais aussi à apporter une aide à la décision aux juges chargés d'estimer le montant des indemnités.
Alors que le Conseil d'État venait tout juste de donner tort aux opposants au projet, le ministère de la Justice a mis un terme au développement en interne de son algorithme DataJust, face à la complexité du chantier.*
La complexité du chantier a motivé cette décision : "le préjudice corporel est lui-même intrinsèquement très compliqué, avec 40 dimensions à prendre en compte, et la mobilisation de moyens [notamment pour étudier et prévenir les biais algorithmiques, ndlr] était trop conséquente pour atteindre un niveau de performance indiscutable".
C'est un épilogue révélateur. La France n'a pas renoncé à DataJust par principe. Elle n'y est pas parvenue par manque de moyens et de données suffisamment structurées. Ce n'est pas la même chose. Et cela dit quelque chose d'important sur la difficulté réelle de construire de tels outils, au-delà des promesses des startups legaltech.
Le biais algorithmique, un problème structurel
L'affaire COMPAS n'est pas un accident américain isolé. Elle illustre un problème de fond qui concerne n'importe quel système d'apprentissage automatique appliqué à des décisions humaines : le biais de confirmation à l'échelle industrielle.
Un algorithme judiciaire est entraîné sur des décisions passées. Ces décisions ont été rendues dans un contexte social, économique et ethnique particulier. Si les données d'entraînement montrent qu'une certaine population est surreprésentée dans les condamnations, l'algorithme interprétera cette surreprésentation comme un signal prédictif, et non comme un artefact de l'histoire des discriminations. Il reproduit, amplifie, et surtout légitime mathématiquement une inégalité existante.
“La Cour de cassation, dans son rapport annuel 2024, a souligné ce risque de « mécanisation judiciaire » tout en reconnaissant les gains d’efficacité substantiels permis par ces technologies.”*
Il y a aussi le problème de la boîte noire. La plupart des algorithmes commerciaux de prédiction judiciaire fonctionnent sans que les magistrats, ni les prévenus, puissent accéder au raisonnement qui a produit le score. Comment contester une décision motivée en partie par un chiffre dont on ne comprend pas l'origine ? Le droit à un recours effectif devient théorique quand l'adversaire est un algorithme opaque.
La question de la responsabilité judiciaire se pose avec une acuité nouvelle : qui est responsable d'une décision erronée influencée par une recommandation algorithmique ? Le juge reste formellement l'auteur de la décision, mais sa marge d'appréciation peut être considérablement réduite par la force persuasive des prédictions numériques.
Ces questions rejoignent un débat plus large sur les risques de l'IA et de l'automatisation dans des secteurs à fort enjeu humain. La justice n'est pas un cas à part, elle en est peut-être le cas le plus aigu.
Ce que l'Europe tente de construire
Face à ces risques, deux textes structurants méritent d'être connus.
Le premier est la Charte éthique européenne de la CEPEJ, adoptée en décembre 2018 par la Commission européenne pour l'efficacité de la justice en Europe. La Commission européenne pour l'efficacité de la justice (CEPEJ) du Conseil de l'Europe “a adopté en décembre 2018 le premier texte européen énonçant des principes éthiques relatifs à l’utilisation de l’intelligence artificielle (IA) dans les systèmes judiciaires.” Cela dans le but de fournir un cadre de principes destinés à guider les décideurs politiques, les juristes et les professionnels de la justice.ù
*COE.int, Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires
Cette charte pose cinq principes fondamentaux :
Principe de respect des droits fondamentaux : assurer une conception et une mise en œuvre des outils et des services d’intelligence artificielle qui soient compatibles avec les droits fondamentaux ;
Principe de non-discrimination ; prévenir spécifiquement la création ou le renforcement de discriminations entre individus ou groupes d’individus ;
Principe de qualité et sécurité : en ce qui concerne le traitement des décisions juridictionnelles et des données judiciaires, utiliser des sources certifiées et des données intangibles avec des modèles conçus d’une manière multi disciplinaire, dans un environnement technologique sécurisé ;
Principe de transparence, neutralité et intégrité intellectuelle : rendre accessibles et compréhensibles les méthodologies de traitement des données, autorisant les audits externes ;
Principe de maîtrise par l’utilisateur : bannir une approche prescriptive et permettre à l’usager d’être un acteur éclairé et maître de ses choix.*
*IBID
Le second texte est autrement plus musclé. L'AI Act européen, Règlement (UE) 2024/1689, est entré en vigueur le 1er août 2024. Parmi ses dispositions, à compter du 2 août 2026, les règles relatives aux systèmes d'IA à haut risque deviendront pleinement applicables, incluant notamment le domaine de l'administration de la justice.
*CNIL, Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL
Concrètement, les systèmes d'IA classés "haut risque" devront répondre à des exigences strictes : documentation technique, évaluation de conformité, supervision humaine obligatoire, journalisation des décisions. Il s’agit ici d’une obligation de transparence et de contrôle. La différence est importante.
La question de la responsabilité juridique de l'IA reste néanmoins largement ouverte : qui répond quand l'algorithme se trompe ? Le développeur du logiciel ? L'institution qui l'a déployé ? Le magistrat qui a suivi sa recommandation sans la questionner ?
Peut-on faire confiance à une IA pour juger ?
La réponse courte est : pas seule, et probablement jamais. La réponse longue est plus nuancée.
Il serait intellectuellement malhonnête de nier que les humains jugent eux aussi avec des biais. La recherche en sciences cognitives a montré que les décisions des magistrats varient selon l'heure de la journée, l'ordre de passage des dossiers, ou le contexte émotionnel ambiant.
Mais la faillibilité humaine a une propriété que n'a pas encore l'IA : elle peut être interrogée, contestée, racontée. Un juge peut expliquer son raisonnement, revenir sur une décision, être confronté à un contre-argument. Il assume une responsabilité morale que personne n'arrive encore à attribuer clairement à une machine.
“La Cour de cassation a d’ailleurs publié en mars 2024 une note méthodologique sur « la motivation à l’ère des algorithmes prédictifs », encourageant les magistrats à expliciter clairement leurs raisonnements juridiques.”*
L'utilisation des outils prédictifs varie considérablement selon les contentieux : forte en matière commerciale et administrative, limitée en matière pénale où la personnalisation de la peine reste primordiale.
Cette distinction est fondamentale. Utiliser une IA pour estimer le montant statistique probable d'une indemnisation dans un contentieux commercial, c'est un outil d'aide comme un autre. L'intégrer dans une décision pénale touchant à la liberté d'un individu, c'est une tout autre chose.
Ce que la majorité des juristes et des experts s'accordent à défendre, c'est le modèle de l'IA comme copilote, jamais comme pilote. L'algorithme peut informer, signaler des incohérences, faciliter la recherche jurisprudentielle, mais la décision finale doit rester humaine, motivée, et contestable. Ce n'est pas une position conservatrice : c'est une condition sine qua non pour que la justice reste légitime.
FAQ, Questions fréquentes
Qu'est-ce que la justice prédictive ?
La justice prédictive désigne l'utilisation d'algorithmes d'intelligence artificielle pour anticiper des décisions judiciaires, qu'il s'agisse de prédire la récidive d'un prévenu, l'issue probable d'un procès ou le montant d'une indemnisation. Ces outils analysent des milliers de décisions passées pour en extraire des tendances statistiques.
La justice prédictive est-elle légale en France ?
Partiellement. La jurisprudence prédictive, analyse des décisions passées pour orienter une stratégie juridique, est légale. En revanche, la loi du 23 mars 2019 interdit explicitement le profilage des magistrats à des fins d'analyse ou de prédiction de leurs pratiques professionnelles. Toute violation est pénalement sanctionnée.
L'algorithme COMPAS est-il encore utilisé ?
Oui, des outils d'évaluation du risque de récidive continuent d'être utilisés dans de nombreux États américains, sous diverses formes. La controverse ProPublica de 2016 a conduit à davantage de débat public et à quelques réformes, mais n'a pas mis fin à leur déploiement.
Qu'est-ce que l'AI Act dit sur la justice prédictive ?
Le Règlement européen sur l'IA (UE 2024/1689), en vigueur depuis le 1er août 2024, classe les systèmes de justice prédictive dans la catégorie "haut risque". Cela impose des obligations strictes : transparence algorithmique, supervision humaine, documentation technique, et évaluation de conformité. Les systèmes de police prédictive ciblant des individus sont en revanche interdits.
Pourquoi le projet DataJust a-t-il été abandonné ?
Le ministère de la Justice français a lancé en 2020 un algorithme pour harmoniser l'indemnisation des préjudices corporels. Il a été abandonné en janvier 2022, avant la fin de la période d'expérimentation prévue, en raison de la complexité technique du chantier, notamment l'impossibilité d'automatiser entièrement l'extraction des données de jurisprudence, et du manque de moyens pour prévenir les biais algorithmiques.
Une IA peut-elle remplacer un juge ?
Non, du moins dans les systèmes juridiques actuels et prévisibles. Le consensus parmi les experts est que l'IA doit rester un outil d'aide à la décision : elle peut analyser, signaler, comparer, mais la décision finale doit appartenir à un humain capable de la motiver et d'en répondre. C'est une exigence à la fois éthique et juridique.
Quels sont les principaux risques des algorithmes judiciaires ?
Trois risques majeurs sont régulièrement identifiés : le biais algorithmique (reproduction et amplification de discriminations historiques), l'opacité des modèles (impossibilité de comprendre et de contester le raisonnement), et la délégation progressive de la décision (les recommandations algorithmiques tendent à s'imposer même lorsqu'elles sont censées n'être qu'indicatives).
Commentaires