La boîte noire algorithmique et les enjeux de l’IA dans la preuve pénale par Sami Kodia*
*Expert judiciaire près de la Cour d’Appel de DOUAI – Expertises Informatiques et Téléphoniques
Le volume croissant des données numériques saisies, leur complexité et les délais souvent contraints des investigations conduisent les experts judiciaires à recourir à des outils d’analyse automatisée, notamment fondés sur l’intelligence artificielle. Ces technologies permettent d’exploiter des masses considérables de données, d’identifier des corrélations et de faire émerger des éléments difficilement détectables par une analyse exclusivement humaine.
Leur utilisation répond ainsi à une nécessité opérationnelle, mais soulève une interrogation fondamentale :
Comment garantir la fiabilité d’une preuve pénale lorsque l’expert s’appuie sur un système algorithmique dont il ne maîtrise pas entièrement le fonctionnement ?
En matière pénale, cette question revêt une importance particulière. Les conclusions d’une expertise peuvent contribuer à établir des éléments à charge ou à décharge. L’expertise informatique doit donc satisfaire à des exigences de traçabilité et de justification des conclusions, afin de permettre leur discussion contradictoire.
Or, l’opacité du fonctionnement de certains systèmes d’intelligence artificielle, assimilable à une « boîte noire », soulève la question fondamentale de l’auditabilité et de la fiabilité de leurs résultats.
Prenons l’exemple de l’analyse de plusieurs dizaines de milliers de messages (SMS, WhatsApp, Snapchat, Messenger, etc.) saisis au cours d’une enquête pénale. Une intelligence artificielle peut identifier des échanges susceptibles de révéler une infraction ou une preuve.
Le risque apparaît lorsque la boîte noire algorithmique devient une boîte noire expertale. Si l’expert reprend dans son rapport des résultats produits par une intelligence artificielle sans pouvoir en vérifier suffisamment la pertinence, il introduit dans la procédure pénale des éléments dont la fiabilité peut difficilement être appréciée par les parties et le magistrat.
Mais comment s’assurer que les messages écartés ne contiennent pas des éléments à décharge ? Comment mesurer les faux positifs, les faux négatifs ou les biais susceptibles d’orienter artificiellement les conclusions de l’expertise ?
Il convient toutefois de ne pas opposer une intelligence artificielle imparfaite à une analyse humaine supposée exhaustive et infaillible. Face à des volumes considérables de données, l’expert ne dispose pas toujours des moyens matériels et temporels nécessaires à leur examen intégral. En l’absence d’outils automatisés, il peut être contraint de procéder par sondage ou de sélectionner les éléments qu’il estime pertinents.Cette sélection introduit elle-même un risque d’arbitraire, notamment lorsque les critères retenus ne reposent pas sur une méthode d’échantillonnage rigoureuse et vérifiable. Dès lors, la véritable question n’est peut-être pas de savoir si l’intelligence artificielle comporte des biais, mais si les biais qu’elle introduit sont davantage identifiables que ceux inhérents à une investigation humaine nécessairement partielle.
Cette problématique impose de distinguer l’auditabilité du système algorithmique de celle de la démarche expertale. La première concerne le fonctionnement du modèle, ses performances et ses limites. La seconde porte sur les conditions concrètes de son utilisation : traçabilité des traitements et des vérifications indépendantes effectuées par l’expert.
Lorsque le fonctionnement interne du système demeure inaccessible, notamment en présence d’algorithmes propriétaires, c’est précisément là que réside l’incertitude fondamentale : comment l’expert peut-il garantir la fiabilité d’un résultat dont il ne peut examiner les mécanismes de production ?
Des tests de fiabilité, des contrôles par échantillonnage et des analyses indépendantes peuvent permettre d’apprécier les résultats obtenus. Ces vérifications ne suppriment toutefois pas nécessairement les incertitudes liées au modèle.
En matière pénale, l’expert ne saurait déléguer à une intelligence artificielle la responsabilité de ses conclusions.
L’utilisation d’un outil dont les résultats ne peuvent être suffisamment vérifiés ne devrait pas conduire à leur attribuer une valeur probatoire qu’ils ne possèdent pas.
Au-delà de la seule fiabilité technique, c’est l’effectivité des droits de la défense et du principe du contradictoire qui est en jeu. Comment contester une conclusion expertale lorsque les mécanismes ayant conduit à son élaboration demeurent inaccessibles ?
La confiance accordée à l’expert judiciaire ne saurait se substituer à la vérifiabilité de sa méthode. L’intelligence artificielle peut contribuer à la recherche de la vérité pénale, à condition que son utilisation ne transforme pas l’expertise en une démonstration technique impossible à discuter.
Mais face à la puissance de ces outils et aux contraintes croissantes qui pèsent sur ses investigations, l’expert judiciaire ne risque-t-il pas de céder à la tentation de la facilité, en privilégiant la réponse algorithmique au détriment de sa propre analyse critique ?
Cette interrogation prend une dimension supplémentaire lorsqu’on envisage les futures générations d’experts, dont certains auront été formés dans un environnement où l’intelligence artificielle occupe une place prépondérante.
Comment pourront-ils exercer un regard critique sur des résultats algorithmiques s’ils n’ont jamais acquis ni pratiqué les méthodes d’investigation traditionnelles permettant de les vérifier indépendamment ?
Le risque n’est alors plus seulement celui d’une boîte noire algorithmique, mais celui d’une perte progressive des compétences nécessaires pour en contester les conclusions. L’enjeu devient aussi celui de la formation des experts judiciaires et surtout de la préservation de leur autonomie intellectuelle et technique.
À quoi servirait de rendre un algorithme auditable si les experts de demain ne disposaient plus des compétences nécessaires pour l’auditer ?
- 1
- 2
English