La Charte éthique européenne de la CEPEJ sur l’utilisation de l’intelligence artificielle (IA) dans les systèmes judiciaires et dans leur environnement
par Clementina Barbaro
Secrétaire du Groupe de travail de la CEPEJ sur la qualité de la justice
La Commission européenne pour l’efficacité de la justice, mieux connue comme CEPEJ, est l’instance intergouvernementale chargée de promouvoir l’efficacité et le bon fonctionnement de la justice dans les 47 états membres du Conseil de l’Europe. Connue pour son rapport bisannuel d’évaluation des systèmes judiciaires européens, la CEPEJ développe également des outils concrets pour les professionnels de la justice dans plusieurs domaines : la qualité de la justice, les délais judiciaires, la médiation…Les observateurs de la CEPEJ, dont l’EEEI fait partie, contribuent à ses travaux, tant sur le plan de la proposition de sujets de travail que sur celui de l’élaboration de ses outils.
Au cours des dernières années, la question de l’utilisation des nouvelles technologies dans les systèmes judiciaires a occupé une place importante dans les travaux de la CEPEJ. Plus récemment, la CEPEJ a analysé le phénomène de l’entrée progressive de l’intelligence artificielle (IA) dans le domaine de la justice, en tant qu’instrument d’orientation et de support du travail des professionnels du droit ainsi que d’information du justiciable. Si aucun système judiciaire européen n’a introduit l’IA à large échelle pour l’instant, il en reste que l’IA est un phénomène en expansion en Europe et qu’elle a vocation à améliorer l’efficacité de la qualité de la justice. Son utilisation doit toutefois se faire de manière responsable, dans le respect des droits fondamentaux des individus et des principes énoncés par la CEPEJ.
En effet, si certaines applications d’IA méritent d’être encouragées (pensons notamment aux outils qui permettent d’effectuer plus rapidement, et avec des résultats plus pertinents, une recherche juridique), d’autres – et notamment celles qualifiées de « justice prédictive » – suscitent une série d’interrogations en raison de leur impact sur l’office du juge, les garanties du procès équitable et les droits des justiciables. Citons par exemple le logiciel COMPAS, qui est utilisé aux États-Unis pour déterminer les risques de récidive des personnes en garde à vue et dont les effets discriminatoires à l’encontre des populations afro-américaines ont été révélés par la société civile1.
Face à ces défis, la CEPEJ a souhaité poser un cadre de gouvernance de l’IA en adoptant, le 3-4 décembre 2018, la Charte éthique d’utilisation de l’IA dans les systèmes judiciaires et leur environnement2. Il s’agit du premier texte aux niveaux européen et mondial énonçant cinq principes de fond et méthodologiques qui devraient guider l’intégration des outils et services d’IA dans les systèmes judiciaires nationaux. En raison de son aspect novateur et de la qualité de son contenu, la Charte s’est imposée en tant que texte de référence par les décideurs politiques européens de haut niveau ainsi que par les représentants des institutions judiciaires nationales.
Parmi ces principes, le respect des droits de l’homme et de la non-discrimination revêt une importance fondamentale. L’objectif est de s’assurer, dès la conception et jusqu’à l’application pratique, que les solutions garantissent le respect des droits garantis par la CEDH et la Convention n° 108 du Conseil de l’Europe. Le principe de non-discrimination est expressément énoncé en raison de la capacité de certains traitements – notamment en matière pénale – de révéler des discriminations existantes en regroupant ou en classifiant des données concernant des personnes ou des groupes de personnes. Les acteurs publics et privés doivent donc veiller à ce que ces applications ne reproduisent ni n’aggravent cette discrimination et ne conduisent pas à des analyses ou pratiques déterministes.
Certains défis qualitatifs relatifs à la méthodologie d’analyse et au traitement automatisé des décisions judiciaires sont également pris en compte. Un principe de qualité et de sécurité est clairement énoncé : il devrait être possible de traiter les données par apprentissage automatique sur la base d’originaux certifiés et l’intégrité de ces données devrait être garantie à toutes les étapes du traitement. La création d’équipes multidisciplinaires, composées de magistrats, de chercheurs en sciences sociales et en informatique est fortement recommandée, tant au stade de la rédaction et du pilotage que de l’application des solutions proposées.
Le principe de transparence des méthodologies et des techniques utilisées dans le traitement des décisions judiciaires revêt également une grande importance. L’accent est mis ici sur l’accessibilité et la compréhension des techniques de traitement des données, ainsi que sur la possibilité pour des autorités ou des experts indépendants d’effectuer des audits externes. Par ailleurs, la CEPEJ encourage la mise en place d’un mécanisme de certification afin de reconnaître la qualité de réalisations, mais aussi garantir leur transparence et la loyauté des modalités de traitement de l’information.
Pour mettre en œuvre ce principe, il sera nécessaire de faire appel à des professionnels ayant une expertise solide dans le domaine des sciences de l’informatique et des données… des compétences qui pourraient d’ailleurs investir aussi la sphère du procès, lorsque les outils d’IA sont utilisés par exemple pour orienter la décision du juge. Pour garantir le plein respect du principe de l’égalité des armes, il sera essentiel que la partie ou les parties puissent avoir accès à ces outils, et notamment aux éléments clés de leur fonctionnement, comme par exemple l’algorithme et les données utilisées. L’apport des experts judiciaires sera essentiel afin de clarifier les modalités de fonctionnement de l’instrument, de comment celui-ci produit ses résultats et réaliser ainsi un véritable contradictoire.
Par ailleurs, la Charte souligne la nécessité de rendre l’usager un acteur éclairé et maître de ses choix. Le juge, en particulier, devrait pouvoir revenir à tout moment aux décisions et données judiciaires qui ont été utilisées pour produire un résultat et continuer à avoir la possibilité de s’en écarter compte tenu des spécificités de l’affaire en question. Chaque utilisateur devrait être informé, dans un langage clair et compréhensible, du caractère contraignant ou non des solutions proposées par les instruments d’IA, des différentes options possibles et de son droit à un conseil juridique et à un recours devant un tribunal.
La CEPEJ compte mettre en œuvre une série de mesure pour assurer une large diffusion de la Charte auprès des professionnels de la justice, les institutions et les acteurs de la vie politique. De plus, sur le plan pratique, ces principes constituent une base de comparaison importante pour évaluer les caractéristiques des différentes applications de l’IA, dont l’intégration dans le système judiciaire ou au niveau des tribunaux se poursuit actuellement de manière exponentielle.
La CEPEJ est à la disposition des États membres, des institutions judiciaires et des représentants des professions juridiques pour les accompagner dans la mise en œuvre des principes de la Charte.
