DIGITAL RIGHTS : Session I : Résultats du projet : lignes directrices à l’intention des praticiens.
La première session de la conférence consacrée aux résultats du projet Digital Rights a permis d’explorer les défis posés par la transformation numérique de la justice pénale. À travers les interventions de Paola De Franceschi, Sarah Holland, Sergio Bianchi et Stefanie Knaab, les échanges ont mis en lumière la nécessité de préserver les droits fondamentaux et les garanties procédurales dans un environnement marqué par le développement rapide des preuves numériques et de l’intelligence artificielle.
Un cadre européen en pleine évolution
Ouvrant la session, Paola De Franceschi, juge à la Cour d’appel de Venise, a rappelé que la transformation numérique de la justice s’inscrit désormais dans un cadre normatif européen de plus en plus structuré. Elle a présenté les principaux textes qui façonnent cette évolution, notamment la Déclaration européenne sur les droits et principes numériques ainsi que le règlement européen sur l’intelligence artificielle (AI Act).
Son intervention a particulièrement mis l’accent sur les technologies d’identification biométrique à distance et sur les risques qu’elles peuvent représenter pour les libertés individuelles. Tout en reconnaissant le potentiel de ces outils pour les enquêtes judiciaires, elle a souligné la nécessité d’un équilibre entre innovation technologique, efficacité des investigations et protection des droits fondamentaux.
Les résultats du projet Digital Rights et les « Soft Guidelines »
Sarah Holland, chercheuse et enseignante spécialisée dans les droits de l’homme au sein de la HFOV (Allemagne), a ensuite présenté les principaux résultats du projet Digital Rights. S’appuyant sur une analyse comparative de la mise en œuvre des directives européennes relatives aux droits procéduraux, le projet a mis en évidence plusieurs lacunes dans la prise en compte des preuves numériques et de l’intelligence artificielle dans les procédures pénales.
Les travaux menés à travers différents ateliers européens ont abouti à l’élaboration de deux livrables majeurs : un plan d’évaluation et d’atténuation des risques (Risk Assessment and Mitigation Plan) et des recommandations pratiques destinées aux professionnels de la justice (Soft Guidelines for Practitioners).
Ces lignes directrices reposent sur plusieurs principes essentiels :
- l’information rapide et effective des personnes concernées sur leurs droits ;
- l’accès effectif aux preuves numériques ;
- la possibilité pour la défense de comprendre et de contester les résultats issus d’outils numériques ou algorithmiques ;
- le maintien d’un contrôle humain sur toute décision affectant les droits des individus.
Les recommandations insistent notamment sur le principe du « Human in the Loop », selon lequel aucune décision ayant des conséquences juridiques significatives ne devrait reposer exclusivement sur un système d’intelligence artificielle.
Les défis des preuves numériques et de l’intelligence artificielle
L’intervention de Sergio Bianchi, directeur de la Fondation internationale Agenfor, a permis d’approfondir la question des preuves numériques dans les enquêtes pénales contemporaines. Il a souligné l’augmentation exponentielle du volume des données disponibles pour les autorités judiciaires, qu’il s’agisse des contenus issus des téléphones mobiles, des réseaux sociaux, des objets connectés ou encore des sources ouvertes (OSINT).
Si ces nouvelles sources d’information offrent des possibilités inédites pour les enquêtes, elles soulèvent également des questions importantes en matière d’équité procédurale. La compréhension des méthodes employées, la transparence des outils utilisés et l’accès de la défense à des moyens techniques comparables apparaissent aujourd’hui comme des conditions indispensables au respect du principe du contradictoire.
L’intervenant a ainsi rappelé que l’utilisation de l’intelligence artificielle dans l’analyse des données ne peut être envisagée sans mécanismes de contrôle permettant d’assurer la fiabilité, l’explicabilité et la contestabilité des résultats produits.
La technologie au service de la protection des victimes
Prenant un angle plus concret, Stefanie Knaab, représentante de l’ONG allemande Gewaltfrei in die Zukunft, a présenté une initiative destinée à soutenir les victimes de violences domestiques. Elle a exposé les fonctionnalités de la « Camouflage App », développée dans le cadre du projet Gewaltfrei in die Zukunft.
Cette application permet aux victimes de documenter discrètement des faits de violence, de conserver des éléments de preuve de manière sécurisée et de bénéficier d’une assistance adaptée. Le système intègre notamment des mécanismes d’horodatage visant à garantir l’authenticité des informations enregistrées, aspect particulièrement important à l’heure où les technologies génératives facilitent la création de contenus falsifiés.
Accessible à l’adresse suivante : https://www.gewaltfrei-in-die-zukunft.de/en/app, cette initiative illustre concrètement comment les outils numériques peuvent renforcer l’accès à la justice tout en répondant aux défis posés par les nouvelles technologies.
Une même exigence : placer les droits fondamentaux au cœur de l’innovation
Malgré la diversité des sujets abordés, les interventions de cette première session ont convergé vers un constat commun : la numérisation de la justice et l’essor de l’intelligence artificielle offrent des opportunités considérables mais ne peuvent être déployés au détriment des garanties procédurales.
Qu’il s’agisse de l’encadrement réglementaire présenté par Paola De Franceschi, des recommandations élaborées dans le cadre du projet par Sarah Holland, des réflexions de Sergio Bianchi sur les preuves numériques ou de l’exemple pratique exposé par Stefanie Knaab, tous ont souligné l’importance de préserver la transparence, le contrôle humain et l’égalité des armes dans la justice de demain.
La session a ainsi mis en évidence un enjeu central pour les années à venir : faire en sorte que l’innovation technologique demeure un outil au service des droits fondamentaux et de l’État de droit, plutôt qu’un facteur de fragilisation des garanties judiciaires.
English