Parmi \u00a0les manifestations controvers\u00e9es de ce que l\u2019on appelle la transformation num\u00e9rique du syst\u00e8me judiciaire, figurent, en bonne place, les algorithmes dits de justice pr\u00e9dictive, cens\u00e9s d\u00e9livrer des pr\u00e9visions sur les d\u00e9cisions de justice. Comment fonctionnent-ils et comment sont-ils utilis\u00e9s? Jean-Marc Sauv\u00e9 expliquait en 2018, alors qu\u2019il \u00e9tait encore vice-pr\u00e9sident du Conseil d\u2019\u00c9tat que \u00ab [\u2026] les algorithmes pr\u00e9dictifs, fond\u00e9s sur l\u2019ouverture progressive, mais massive et gratuite des bases de jurisprudence \u00e0 tous \u2013 l\u2019open data \u2013, visent \u00e0 acc\u00e9l\u00e9rer le r\u00e8glement des litiges et \u00e0 accro\u00eetre la s\u00e9curit\u00e9 juridique, en am\u00e9liorant la pr\u00e9visibilit\u00e9 des d\u00e9cisions de justice. \u00bb En France, la loi pour une R\u00e9publique du num\u00e9rique du 7 octobre 2016 pr\u00e9voit en effet que \u00ab […] les d\u00e9cisions judiciaires sont mises \u00e0 la disposition du public gratuitement dans le respect de la vie priv\u00e9e des personnes concern\u00e9es. \u00bb Des entreprises priv\u00e9es exploitent ces donn\u00e9es cod\u00e9es pour d\u00e9velopper des algorithmes d\u2019apprentissage automatique et proposer des moteurs de recherche intelligents \u00e0 des avocats ou \u00e0 des compagnies d’assurance. L’algorithme nourri de d\u00e9cisions de justice cod\u00e9es apprend quelles d\u00e9cisions sont \u00ab similaires \u00bb les unes aux autres et fournit des statistiques sur des groupes de d\u00e9cisions similaires. Dans le cas d\u2019un litige civil par exemple, une partie ou son d\u00e9fenseur peut entrer les caract\u00e9ristiques de l\u2019affaire qui le concerne dans l\u2019algorithme et celui-ci produit des statistiques sur une s\u00e9lection de d\u00e9cisions judiciaires ant\u00e9rieures. Ces statistiques sont alors interpr\u00e9t\u00e9es comme la d\u00e9cision future attendue dans l\u2019affaire.<\/p>\n
\u00c9tant donn\u00e9 que ces pr\u00e9dictions sont donc essentiellement des extrapolations bas\u00e9es sur des d\u00e9cisions pass\u00e9es, il faut comprendre que leur fonctionnement d\u00e9pendra du contexte. Lorsque la justice est stable et homog\u00e8ne, les extrapolations auront de bonnes chances d\u2019\u00eatre de bons indicateurs de d\u00e9cisions effectives. Des cas \u00ab similaires \u00bb aboutiront \u00e0 des d\u00e9cisions \u00ab similaires \u00bb. Ainsi, en synth\u00e9tisant les d\u00e9cisions, les algorithmes pourront aider \u00e0 rendre le syst\u00e8me juridique transparent. Lorsque le syst\u00e8me juridique n’est ni stable ni homog\u00e8ne, les extrapolations risquent par contre d’\u00eatre \u00ab\u00a0tr\u00e8s peu pr\u00e9cises\u00a0\u00bb, c\u2019est-\u00e0-dire tr\u00e8s diff\u00e9rentes d\u2019une d\u00e9cision effective. Les \u00ab similitudes \u00bb seront difficiles \u00e0 d\u00e9finir. Dans ce contexte, les algorithmes fonctionneront diff\u00e9remment, non pas en rendant la justice plus transparente mais en agissant sur le comportement de ses usagers. Pour des parties qui envisagent une m\u00e9diation, les r\u00e9sultats de l’algorithme constitueront une r\u00e9f\u00e9rence qui aura de grandes chances d\u2019orienter les r\u00e9sultats de la m\u00e9diation.\u00a0 M\u00eame si une \u00ab moyenne \u00bb des d\u00e9cisions pass\u00e9es n\u2019est pas forc\u00e9ment la meilleure d\u00e9cision dans ces environnements h\u00e9t\u00e9rog\u00e8nes, les acteurs y verront une possibilit\u00e9 de diminuer l\u2019incertitude, selon un effet d\u2019ancrage bien connu des psychologues.<\/p>\n
Le risque serait alors que l\u2019algorithme soit utilis\u00e9 comme instrument pour gouverner des individus qui s\u2019en remettent \u00e0 une rationalit\u00e9 suppos\u00e9e mais non v\u00e9rifiable. Il nous semble important, au contraire, de stimuler la rationalit\u00e9 des usagers du syst\u00e8me judiciaire en offrant les moyens d\u2019analyser les d\u00e9cisions pass\u00e9es sans pr\u00e9tendre \u00eatre pr\u00e9dictif. Or tout ce qui contribue \u00e0 en faire une bo\u00eete noire encourage les interpr\u00e9tations simplistes. Dans le cas pr\u00e9c\u00e9dant d\u2019une grande h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 des d\u00e9cisions, celle-ci doit au minimum transpara\u00eetre dans la fa\u00e7on dont les r\u00e9sultats sont pr\u00e9sent\u00e9s. Il faut en particulier r\u00e9fl\u00e9chir au minimum d\u2019information n\u00e9cessaire concernant la liste exhaustive<\/em> des d\u00e9cisions qui ont \u00e9t\u00e9 choisies<\/em> par l\u2019algorithme. Le principal avantage de l\u2019algorithme n\u2019est pas de rendre la justice humaine plus juste mais d\u2019en r\u00e9v\u00e9ler les faiblesses.<\/p>\n Il est cependant fort probable que les soci\u00e9t\u00e9s qui d\u00e9veloppent ces algorithmes ne soient pas pr\u00eates \u00e0 divulguer des informations qui sont con\u00e7ues comme un secret de fabrication. Les algorithmes au sens strict de code informatique doivent rester publics, et les m\u00e9canismes d\u2019apprentissage le sont, mais les soci\u00e9t\u00e9s ont bien d\u2019autres choses \u00e0 cacher. Elles n\u2019ont pas \u00e0 r\u00e9v\u00e9ler comment elles ont nourri l\u2019algorithme, en particulier les caract\u00e9ristiques des donn\u00e9es qu\u2019elles ont choisies, ni comment l\u2019algorithme a appris, en particulier les pond\u00e9rations qu\u2019il a attribu\u00e9es aux diff\u00e9rentes caract\u00e9ristiques.<\/p>\n De mani\u00e8re paradoxale, dans le syst\u00e8me actuel mis en place par le moyen de l\u2019open data, les algorithmes de justice pr\u00e9dictive sont con\u00e7us tout \u00e0 la fois comme rationnels et divinatoires. Cens\u00e9s rendre la justice pr\u00e9visible et transparente, ils peuvent se r\u00e9v\u00e9ler opacifiants. Pour nourrir la r\u00e9flexivit\u00e9 des usagers il faut au contraire imaginer des algorithmes ouverts et interpr\u00e9tables. Cela pourra se faire si l\u2019open source accompagne l\u2019open data et si des collectifs de juges et d\u2019avocats y travaillent, en collaboration avec des d\u00e9veloppeurs.<\/p>\n