Ministère de la Justice
 
 

28 février 2019

Maîtriser les règles du jeu-les impacts du développement de l'IA

Discours de Nicole BELLOUBET, garde des Sceaux, ministre de la Justice à Helsinki le 26 février 2019

Maîtriser les règles du jeu - les impacts du développement de l'intelligence artificielle sur les droits   de l'homme, la démocratie et l'état de droit

Seul le prononcé fait foi

Monsieur le ministre des affaires étrangères [Timo Soini]

Monsieur le Ministre de la justice, mon cher collègue,

Mesdames, Messieurs les Ambassadrices et Ambassadeurs

Mesdames, Messieurs,

 

Permettez-moi de vous remercier chaleureusement de m’avoir invitée à cette conférence. Nos deux pays partagent une vision commune sur le rôle des gouvernements dans l’accompagnement des transformations numériques. La déclaration sur l’intelligence artificielle adoptée entre la France et la Finlande le 30 août 2018 rappelle en effet qu’ « il est nécessaire que les gouvernements jouent un rôle actif pour promouvoir une vision de l’intelligence artificielle juste, solidaire et centrée sur l’humain ».

La thématique choisie pour nos travaux, celle de l’intelligence artificielle, a trop longtemps été envisagée sous le seul angle technique et scientifique des potentialités infinies qu’offraient le progrès informatique et le traitement de données en masse. Or elle est aujourd’hui au cœur d’enjeux cruciaux pour nos démocraties, et il est très important que nous nous en saisissions sans tarder.

Le Conseil de l’Europe œuvre sans relâche pour que l’Etat de droit, la démocratie et les droits fondamentaux demeurent le socle commun de nos sociétés. Cet édifice patiemment construit depuis l’après-guerre est cependant ébranlé. Monsieur le secrétaire général, vous aviez vous-même  alerté dans votre rapport annuel 2018 sur une situation de « menaces aux institutions ». Ce contexte préoccupant rend plus indispensable encore le travail accompli dans ces enceintes.

A cet égard, M. le secrétaire général Jagland, alors que vous entrez dans votre dernière année de mandat, je voudrais vous exprimer dès à présent la reconnaissance de la France pour le travail considérable accompli ces dix dernières années et votre engagement constant pour le respect de nos valeurs communes.

Les nombreuses réflexions et travaux déjà engagés au sein du Conseil de l’Europe sur l’intelligence artificielle relèvent pleinement de son rôle de vigie des droits de l’homme. C’est bien dans un esprit précurseur qu’a été adoptée par la Commission européenne pour l’efficacité de la justice (CEPEJ) la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciairesle 4 décembre dernier. Cet excellent travail recense avec justesse les défis que pose le recours aux outils numériques non seulement pour nos systèmes judiciaires, mais également pour les fondements mêmes de nos démocraties.

La liberté d’opinion, garantie par l’article 10 de la convention européenne des droits de l’Homme, est en effet de plus en plus menacée. Nous avons vu apparaître, notamment lors de précédents scrutins électoraux,  des campagnes massives de diffusion de fausses informations, dont le seul objectif était de troubler le débat public, falsifier la manière dont les citoyens se forgent leurs opinions politiques, et déstabiliser les institutions démocratiquement élues.

Le comité des ministres, dans une déclaration adoptée le 13 février et portant sur les capacités de manipulations des processus algorithmiques, a attiré notre attention sur la menace que peuvent faire peser les technologies numériques sur nos démocraties.

Nous devons nous saisir collectivement de ces enjeux. Je salue à cet égard l’initiative prise par la Présidence finlandaise et les institutions du Conseil de l’Europe de consacrer ces deux jours de débats aux impacts de l’intelligence artificielle sur les droits de l’Homme, la démocratie et l’Etat de droit

Ce défi d’ampleur justifie pleinement l’attention de notre assemblée et de toutes les instances du Conseil de l’Europe.

Il s’agit en effet d’un défi totalement nouveau pour nos intelligences.

L’intelligence artificielle ne peut être comprise sans un travail conceptuel associant informaticiens, juristes, philosophes, politiques, sans oublier nos concitoyens. Ensemble, il nous faut appréhender l’incertain et apprivoiser les limites de nos connaissances. La notion d’apprentissage profond par la machine (deep learning),  dont les mécanismes échappent en grande partie aux concepteurs de l’outil, ouvre des espaces infinis. Les biais cognitifs mis en lumière par les premières expérimentations sur les réseaux sociaux nous invitent également à la plus grande prudence.

Mais au-delà du défi posé à nos intelligences, c’est un défi ample posé à nos systèmes judiciaires, tout d’abord pour favoriser l’accès à la justice, tout en protégeant les libertés fondamentales (I).

C’est ensuite un défi posé à nos démocraties, dont les institutions judiciaires sont les premières garantes (II).

I Le numérique et ses développements en matière d’intelligence artificielle offrent une opportunité pour l’accès à la justice tout en assurant le respect des droits fondamentaux 

 A. Une transformation numérique au service du justiciable

Pour optimiser les potentialités de l’intelligence artificielle, nous devons d’abord nous doter de systèmes informatiques modernes. . A cet égard, la France vient d’adopter un plan ambitieux de transformation numérique visant à  développer à l’horizon 2022 un véritable service public numérique de la justice.

Il permettra la saisine et le suivi d’un dossier en ligne ainsi que la dématérialisation complète des échanges entre les acteurs judiciaires. La procédure numérique native en sera la pierre angulaire. Sont concernés toutes les procédures ainsi que l’ensemble des acteurs judiciaires, y compris l’administration pénitentiaire et la protection judiciaire de la jeunesse.

Mais c’est bien le citoyen qui est placé au cœur de ce projet.

C’est en effet l’ensemble du parcours d’accès au droit qui sera transformé, appelant un travail commun avec d’autres services publics qui, comme la justice, cherchent à réduire les fractures territoriales grâce au numérique. Nous sommes néanmoins conscients de ce que de nouvelles ruptures sont susceptibles d’apparaître, affectant nos citoyens dépourvus de toute expérience du numérique. Je pense particulièrement aux plateformes de résolution des litiges en ligne qui doivent faire l’objet de règles éthiques précises.

C’est la raison pour laquelle j’ai conçu cette transformation numérique comme une voie d’accès supplémentaire à la justice, qui ne se substitue pas de manière obligatoire aux modes traditionnels de saisine des juridictions. C’est aussi pour cela que je mets en place, dans tous les lieux de justice, des services d’accueils du justiciables en capacité d’accompagner tous les résidents en France qui ne seraient pas familiers du numérique.

Partie intégrante de l’accès au droit et à la justice, la mise à disposition numérique des décisions de justice connaîtra dans les prochaines années des développements importants. Elle constituera très certainement un domaine privilégié de déploiement de l’intelligence artificielle.

B. L’opendata des décisions de justice, constitue, en France, une réalité prochaine de déploiement de l’intelligence artificielle

La France a adopté le 7 octobre 2016 une loi intitulée pour une République numérique prévoyant la diffusion en ligne de l'ensemble des décisions de justice rendues publiquement.

Ce projet d'open data forme un chantier technique d’envergure  qui sera mis en œuvre de manière progressive. Sont disponibles dès aujourd’hui les décisions des juridictions suprêmes, ainsi que des décisions des juridictions du fond présentant un intérêt jurisprudentiel.

Nous ne sommes qu’au début de sa mise en œuvre, et il nous faut rester modestes car d’autres pays sont bien plus avancés que nous. Cette ressource judiciaire doit être vue comme une opportunité :

-      Pour les citoyens et les  professionnels du droit, qui auront un accès plus facile à la jurisprudence, ce qui favorisera également l'émergence de nouveaux services issus de l'exploitation de ces données juridiques.

-      Pour les juges, car l’intelligence artificielle favorisera l’analyse jurisprudentielle et constituera un outil d’aide à la décision sans pour autant priver le juge de son rôle. Pour garantir un partage équitable de la ressource judiciaire numérique, l’Etat sera conduit à investir ce champ aux côtés des acteurs privés.

Ces objectifs légitimes doivent être mis en œuvre dans le respect de la vie privée garantie par l’article 8 de la Convention européenne des droits de l’homme. Dans les décisions ainsi mises en ligne, tout élément pouvant permettre l’identification des personnes physiques concernées devra en effet être occulté. Les autres principes devant guider le développement de l’intelligence artificielle, identifiés par la charte éthique de la CEPEJ, sont nombreux. Respect des droits fondamentaux, mais aussi non-discrimination, neutralité, transparence, maîtrise de l’utilisateur, sécurité de l’hébergement, usage contrôlé de la justice prédictive : les chantiers à venir pour les institutions judiciaires sont nombreux et vastes.

Mais au-delà de ces risques systémiques pour le service public de la justice, un danger plus grand menace le débat démocratique.

II L’intelligence artificielle, défi pour les démocraties, appelle de nouvelles formes d’intervention du juge

Je souhaiterais à cet égard évoquer deux sujets.

A.  L’exemple de la propagation de fausses nouvelles en période électorale

L’intégrité des processus électoraux, des  campagnes électorales et des scrutins ont été mis à mal, en France comme ailleurs. Cela a pu conduire à l’ouverture d’enquêtes judiciaires dans certains pays. Nous devons conserver une vigilance extrême à l’égard des manipulations de l’opinion par la propagation de fausses nouvelles, souvent par des moyens automatisés. Il ne s’agit pas d’attenter à la liberté d’expression, mais bien de préserver la liberté d’opinion. Elle est l’un des fondements les plus importants de nos démocraties. Nous devons fermement lutter contre les entreprises organisées de déstabilisation qui mettent à mal nos libertés publiques.

Nous avions entrevu de telles menaces lors du précédent scrutin présidentiel. C’est la raison pour laquelle la  France s’est dotée le 22 décembre 2018, d’une loi « relative à la lutte contre la manipulation de l’information ».

Elle impose aux  plateformes en ligne des obligations de transparence  sur les contenus d’informations sponsorisés ainsi que sur l’identité des sponsors, pour les rémunérations significatives (100 euros). Les plateformes devront également désigner un représentant légal sur le territoire français. Seules les plus grosses plateformes sont concernées, c’est-à-dire celles ayant plus de 5 millions de visiteurs uniques par mois. Cette loi institue également une procédure judiciaire d’urgence, dite « référé anti-infox » pour lutter contre la diffusion informations ou d’allégations inexactes ou trompeuses,  de nature à manifestement altérer la sincérité du scrutin, et qui sont diffusées de manière délibérée, artificielle ou automatisée et massive sur internet.

Le juge des référés comme la cour d’appel disposent chacun d’un délai de quarante-huit heures pour se prononcer et adopter toutes mesures utiles, allant jusqu’au retrait du contenu ou du blocage de l’accès au site.

B.  L’exemple de la diffusion des messages haineux sur internet

Les propos haineux, racistes ou antisémites se multiplient sur internet et se diffusent de façon parfois virale.

Cela porte indéniablement atteinte à nos démocraties fondées sur le respect de l’égalité de toutes les composantes du peuple. La République française proclame ainsi à l’article 1 de sa Constitution qu’elle assure l’égalité de tous les citoyens devant la loi sans distinction d’origine, de race ou de religion.

Il faut donc lutter contre ces messages en trouvant, sans doute grâce à l’intelligence artificielle, des parades adaptées : retrait sous 24 heures sous peine d’amendes élevées, responsabilité de l’hébergeur, désignation d’un représentant des plateformes dans chaque pays. Tels sont quelques-uns des moyens qui permettront de combattre ces fléaux.

Ces questions inhérentes au progrès technologique ne sauraient cependant trouver de solution satisfaisante au seul niveau national. A l’instar de l’Union européenne, le Conseil de l’Europe mène actuellement des travaux visant à mettre en place un cadre juridique sur la désinformation en période électorale. Je pense qu’il s’agit là de pistes de travail très intéressantes. C’est ensemble que nous devons les poursuivre.

Je vous remercie de votre attention, et vous souhaite dès à présent de fructueux débats.

 

Lire le discours

 
 
 
| Mentions légales | Plan du site | Flux RSS | Répertoire des informations publiques | Gestion des cookies |