L’intelligence artificielle face au droit

Posted by

En 2017, l’intelligence artificielle AlphaGo battait le champion du monde du jeu de Go. Pourtant, cette intelligence artificielle (IA) n’avait reçu aucune base de données préalables, hormis les règles du jeu de Go. La machine s’est donc entraînée des millions de fois contre elle-même, améliorant à chaque partie son jeu. Un pas supplémentaire a été franchi, l’IA pouvant apprendre toute seule, sans intervention humaine. Cet exploit préfigure l’évolution de notre rapport aux machines. Avec des algorithmes de plus en plus performants, c’est toutes nos sociétés qui se retrouvent métamorphosées. Le droit n’y échappe pas. Il devra prendre en compte cet avènement des machines. Le secteur juridique est d’ailleurs lui-même transformé par cet apport de la machine. 

Tout d’abord, nous définirons l’intelligence artificielle (I), avant de l’évoquer dans le secteur juridique (II). Puis, nous terminerons sur les limites juridiques de l’IA (III) et des perspectives pour tenter de combler ces limites (IV).

I – Qu’est-ce que l’intelligence artificielle (IA) ?

L’IA fait désormais partie de notre quotidien, à commencer sur les réseaux sociaux. Elle se définirait une imitation, conçue par l’humain, d’une forme d’intelligence naturelle au travers d’un algorithme. Ce dernier permet un traitement optimisé, automatisé et accéléré des informations collectées. 

Aujourd’hui, la nouvelle génération d’IA ou machine learning est capable d’apprendre d’elle-même la réalisation de tâches de plus en plus complexes.  Nous sommes désormais loin des programmes précalculés d’antan. La machine devient une entité autonome. Tout ceci implique des conséquences et des enjeux que le droit devra prendre rapidement en compte. 

II – IA et secteur juridique

Dans le domaine juridique la multiplication des legaltechs renouvelle le rôle du juriste. Désormais, certains parlent de « juriste augmenté ». En effet, l’intelligence artificielle accompagne le juriste dans la construction de son raisonnement juridique (bases de données, aide à la décision, pré-rédaction d’actes…). 

Selon certains auteurs, l’intelligence artificielle permettrait au juriste d’optimiser son temps de travail et d’être plus productif. La machine réaliserait les tâches redondantes et répétitifs, pendant que le juriste se consacre au cœur de son travail : le raisonnement juridique pour une situation donnée. 

Cependant, ce qui constitue peut-être le plus grand bouleversement dans le monde du droit est la justice prédictive. Elle permet notamment d’évaluer les chances de gagner un procès. Selon des auteurs, elle inciterait les justiciables à privilégier le règlement amiable des litiges, quand le gain contentieux est limité. Néanmoins, cette forme de justice n’est toujours pas au point. Un système de détection des chances de récidives américain contenait des biais racistes.

En Estonie, les infractions mineures seront jugés par une IA (Source : Arte)

III – IA et limites

L’avènement des IA emporte un certain nombre de questionnements. En Chine, l’IA collecte des millions d’informations sur les citoyens chinois. Ainsi, sur la base de ces données, des « notes sociales » sont octroyées aux citoyens. Plus la note est basse, plus le citoyen perd l’accès à certains services. Il y a ici une ingérence manifeste de l’autorité étatique au travers de l’IA. Ce qui pose certainement une question de poids sur la conciliation des IA avec les droits et libertés fondamentaux des individus. 

Au niveau du Conseil de l’Europe, il ne faut pas oublier que l’article 8 de la Convention européenne des droits de l’homme consacre le droit au respect de la vie privée. Jusqu’où ira l’ingérence des machines dans le quotidien des individus ? 

Dans un autre registre, c’est la question évidente de la personnalité de l’IA. En cas de dommage, qui est responsable du fait de l’IA ? Par exemple, une voiture autonome tue un piéton vers qui doit-on se tourner ? Le passager du véhicule ? Le fabricant (produit défectueux…) ? La machine elle-même ? De ce fait, se pose la question suivante : l’IA doit-elle disposer d’une personnalité juridique pleine et entière ? 

Toutes ces questions devront rapidement trouver des réponses juridiques.

Vidéo instructive sur les dilemmes que les véhicules autonomes doivent gérer (Source : Le Monde)

IV – IA et perspectives

Les pouvoirs publics sont au fait de l’existence et de l’évolution grandissante de l’IA. Ainsi, commence-elle a être prise en compte (A), et ce, jusqu’à une potentielle constitutionnalisation (B). 

A -Prise en compte de l’IA

En 2019, la Commission européenne s’est emparée du sujet. Elle propose une éthique de l’IA en 3 étapes :

  1. confiance en l’IA ;
  2. essai avec les acteurs économiques ;
  3. recherche d’un consensus international. 

La première étape pose 7 points clés d’une IA éthique. Ainsi, la machine devra notamment être respectueuse de la vie privée, en laissant la main aux citoyens. Elle devra aussi s’assurer de respecter les droits fondamentaux de chacun, tout en étant facilement traçable. Surtout, l’IA aurait directement à rendre des comptes. Allons-nous vers une future reconnaissance d’une personnalité juridique de la machine ? 

En droit positif, le règlement général sur la protection des données (RGPD) encadre l’utilisation des données personnelles. En principe, l’IA devra se contenter des données personnelles dont l’utilisation est consentie par les utilisateurs. 

B -L’IA bientôt dans la Constitution ? 

Les risques liés à l’IA sont même sérieusement. En janvier 2020, un député a déposé une proposition de loi constitutionnelle portant l’insertion dans le préambule de la constitution d’une « Charte de l’intelligence artificielle et des algorithmes ». Il s’agit d’une prise en compte de la présence de l’IA dans le quotidien des citoyens. 

Sans donner la personnalité juridique à l’IA, cette charte responsabiliserait la personne hébergeant ou distribuant l’IA. Surtout, cette charte pose 3 grandes lois de l’IA :

  • Interdiction de porter atteinte à la sûreté des êtres humains ;
  • Obéissance absolue aux ordres humains, sauf pour attenter à leur sureté ;
  • Protection de sa propre existence, sauf en cas d’ordre humain ou d’atteinte à la sûreté.

Plus tangible, la loi sur la bioéthique actuellement en discussion au parlement (au 24 janvier 2020) soulève la question des neurotechnologies. Certaines de ces technologies pourraient aller jusqu’à réguler des émotions ou encore surveiller l’activité cérébrale (manque de concentration, stress…). Ce qui ne manque pas de poser la question du traitement de toutes ces données médicales. L’article 12 du projet de loi (actuellement supprimé en commission du Sénat) prévient en ne limitant l’utilisation de ces données qu’à des fins médicales, de recherche scientifique ou dans le cadre d’expertises judiciaires.

On termine avec des questionnements sur la technologie d’Isaac Asimov (la loi constitutionnelle s’inspire de ses lois de la robotique) – (Source : INA)

Pour aller plus loin :

BRENOT (S.), LES ENJEUX DE L’INTELLIGENCE ARTIFICIELLE DANS LE MILIEU DU DROIT, Village de la Justice, 10 mai 2019

GAILLARD (S.), L’INTELLIGENCE ARTIFICIELLE ET L’EXERCICE DU DROIT, Village de la Justice, 25 mars 2019

Le processus en 3 étapes de la Commission européenne en détails

Le règlement général sur la protection des données – RGPD


Relecture d’Aloïs TOYANE (Comité de rédaction)

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.