🧮L’intelligence artificielle, nouveau champ de contentieux systémique, in cycle de conférences-débats "Contentieux Systémique Émergent"

Quatrième conférence-débat

L’INTELLIGENCE ARTIFICIELLE, NOUVEAU CHAMP DE CONTENTIEUX SYSTÉMIQUE

sous la direction scientifique de Marie-Anne Frison-Roche

Lundi 24 juin 2024

Cour d’appel de Paris, salle Cassin

Présentation et modération par 🕴️Marie-Anne Frison-Roche, Professeure de Droit de la Régulation et de la Compliance, Directrice du Journal of Regulation & Compliance (JoRC)

🕰️11h-11h10. 🎤Les deux rencontres entre l'intelligence artificielle et le Contentieux Systémique, par 🕴️Marie-Anne Frison-Roche, Professeure de Droit de la Régulation et de la Compliance, Directrice du Journal of Regulation & Compliance (JoRC)

• Dans la présentation générale sur le thème lui-même, j'ai souligné "Les deux rencontres entre l'intelligence artificielle et le Contentieux Systémique".
• La perspective retenue dans la conférence n'est pas l'état de ce qui est convenu d'appeler l'"Intelligence Artificielle", mais bien la façon dont on doit corréler ici l'IA et le "Contentieux Systémique Émergent" (CSE).
• Cela suppose de rappeler ce qu'est un "contentieux systémique" (1), puis de voir l'apport de l'intelligence artificielle pour traiter ce type de contentieux (2), avant de voir que le système algorithmique lui-même peut être l'objet de Contentieux Systémique (3).

1. Ce qu'est le Contentieux Systémique que l'on voit Émerger

• Sur la notion même de "Contentieux Systémique Émergent", proposée en 2021, lire : M.-A. Frison-Roche, 🚧L'hypothèse de la catégorie des causes systémiques portés devant le juge, 2021
• Ce Contentieux Systémique Émergent vise des situations dont la connaissance est portée devant le juge et dans lesquelles un système est impliqué. Il peut s'agir du système bancaire, du système financier, du système énergétique, du système numérique, du système climatique, du système algorithmique.
• Dans ce type de contentieux, les intérêts et l'avenir du système lui-même sont "en cause". Le juge doit donc les "prendre en considération"📎!footnote-3677.
• En cela, le "Contentieux Systémique" doit se distinguer du "contentieux de masse". Le "contentieux de masse" vise des litiges très nombreux et analogues. Le fait qu'ils soient souvent de "faible importance" n'est pas forcément déterminant, car ces litiges sont importants pour les personnes en cause (cf. l'article déterminant de Carbonnier, "De Minimis...", 1981)📎!footnote-3678 et l'usage de l'I.A. ne doit pas trop écraser ce que chacun a de spécifique. Mais toujours est-il que le Contentieux Systémique a pour critère la présence d'un système. Il peut arriver qu'un contentieux de masse mette en cause l'intérêt même d'un système (par exemple le contentieux sur les dates de valeur), mais le plus souvent le Contentieux Systémique que l'on voit émerger est, à l'inverse du contentieux de masse, un cas très spécifique où une partie qui, formulera une prétention très particulière (par exemple demandera l'arrêt de travaux considérables) contre une multinationale, mettra ainsi "en cause" une chaîne de valeur complète et les obligations qui incombent à l'entreprise puissante pour la sauvegarde du système climatique qui, de ce fait, est présent dans l'instance (ce qui ne lui ouvre pas pour autant le droit de formuler des prétentions mais qui doit être pris en considération).

2. L'apport de la puissance algorithmique dans la menée d'un Contentieux Systémique

• À ce titre, l'IA peut être un outil utile, voire indispensable, pour maîtriser de tels Contentieux Systémiques, dont l'émergence correspond à une nouveauté et dont la connaissance est portée devant le juge de droit commun.
• En effet, ce type de contentieux est particulièrement complexe et long, les questions probatoires étant au centre, les expertises succédant aux expertises. L'appréciation des expertises est difficile à mener. L'IA peut alors être un moyen pour le juge, afin de juguler de risque accru de capture par les experts de son devoir de décision, de maîtriser la dimension expertale du Contentieux Systémique.
• Le choix des techniques d'IA présente les mêmes difficultés que celles exposées depuis toujours à propos des experts. Il est probable que des mécanismes de certification, analogues à l'inscription sur des listes d'experts, se mettent en place, si l'on s'écarte de la construction par les juridictions elles-mêmes (ou par le gouvernement, ce qui peut poser un problème d'indépendance de la justice), ou si l'on veut un contrôle sur des outils fournis par les parties elles-mêmes, au regard du principe de l'égalité des armes, en raison du coût de ces outils.

3. Lorsque c'est le système algorithmique lui-même qui est l'objet d'un Contentieux Systémique : sa place est alors plutôt en défense

• En outre et d'une façon centrale, le système algorithmique donne lui-même lieu à un Contentieux Systémique, en ce que des personnes peuvent saisir le Juge en prétendant avoir subi un dommage par le fonctionnement du système algorithmique ou en demandant l'exécution d'un contrat rédigé par ce système. C'est sur le terrain du Droit commun des obligations que le système peut se trouver impliqué dans l'instance juridictionnelle.
• Il est remarquable que, par rapport à des hypothèses jusqu'ici privilégiées dans les précédentes conférences-débats, notamment le 26 avril 2024 à propos du Contentieux Systémique Émergent lié au Devoir de Vigilance📎!footnote-3682, les systèmes impliqués ont été plutôt pris en considération en arrière des prétentions articulées par les demandeurs, puisque ceux-ci allèguent qu'un système a été attaqué. Ce serait alors la "société civile" qui agit contre l'entreprise. Dans le cas du système algorithmique, les premiers contentieux sont composés d'allégations qui mettent plutôt celui-ci en accusation, en ce que celui-ci aurait par exemple porté atteinte à des droits (par exemple les droits d'auteur, le droit à la vie privée, etc.).
• Or, l'instance change si le système est présenté non plus comme la "victime" potentielle mais plutôt comme le "coupable" potentiel. Il est notamment beaucoup moins clair d'identifier quel type d'intervenant dans l'instance, qui ne soit pas nécessairement partie au litige, a vocation à parler pour expliciter l'intérêt du système, notamment au regard de la durabilité et de l'avenir du système de l'IA.
• Ce point de réflexion devra être approfondi par les chefs de juridiction.

🕰️11h10-11h30. 🎤Les premiers contentieux systémiques observables impliquant l’intelligence artificielle, par 🕴️Sonia Cissé, Avocate Associée, Linklaters Paris

• Sonia Cissé a exposé les premiers contentieux systémiques observables impliquant l’intelligence artificielle.
• Elle expose les contentieux déjà tranchés ou en cours, notamment en propriété intellectuelle (PI) lorsque les informations utilisées pour l’apprentissage de la machine sont protégées par le droit d’auteur ou lorsque se pose la question d'une éventuelle protection par le Droit de la propriété intellectuelle des "oeuvres" produits par les machines.
• Elle évoque en premier lieu un contentieux s'étant déroulé en Chine en 2019, dans lequel un tribunal a considéré qu’un article même entièrement généré par un outil d’IA était protégé par le droit d’auteur au profit de celui qui l’a publié. Elle indique qu'à l'inverse, des tribunaux américains et européens ont quant à eux considéré que la propriété intellectuelle ne peut porter sur une œuvre dans laquelle il n’y a aucune paternité humaine, ne constituant donc ni une œuvre de l’esprit ni une invention. Elle cite à ce titre les décisions du tribunal de Columbia et du tribunal municipal de Prague de 2023. Elle constate qu'au delà du droit de la propriété littéraire et artistique, le droit du brevet ne permet pas non plus d'obtenir une protection, la Cour Suprême du Royaume-Uni ayant par exemple refuser de qualifier une machine alimentée par l'IA d'inventeur.
• Elle évoque ensuite le contentieux de masse qui pourrait naître de l'automatisation des décisions, en cas d'erreur de l'algorithme, avec notamment la question de l'imputabilité de la responsabilité (développeur, déployeur, utilisateur ?). Elle constate que les premiers contentieux, notamment aux États-Unis ou en Australie, font peser la responsabilité de l'erreur sur l'utilisateur.
• Puis l'oratrice a montré que l'IA est un outil que les juridictions utilisent et vont de plus en plus utiliser pour faire face aux contentieux de masse auxquels elles doivent répondre. Cette efficacité conduit les avocats, les entreprises et les juges à utiliser l'IA pour finalement décider : s'ouvre alors la question de la responsabilité de la décision, par exemple de la décision judiciaire, ou des écritures, s'il y a un manquement observé, par exemple dans les règles ou les précédents visés. Précisément, le Règlement IA qualifie de "haut risque" la conception et l'usage de l'IA pour la prise de décision juridictionnelle, y compris dans l'organisation de solutions amiables. Cela ouvre donc des perspectives de contentieux, lesquels sont et seront de nature systémique.

🕰️11h30-11h50. 🎤L’influence des nouveaux textes et des textes à venir sur les contentieux systémiques émergents impliquant l’intelligence artificielle, par 🕴️Emmanuel Netter, Professeur de Droit à l'Université de Strasbourg 

• Emmanuel Netter a explicité l'impact des textes de régulation adoptés par l'Union européenne en reprenant la nature même du système de l'IA.
• Il a explicité l'impact des textes de régulation adoptés par l'Union européenne, non seulement l'IA Act mais aussi le RGPD, tels que non seulement les Autorités administratives de Régulation mais encore le juge de droit commun ont vocation à le mettre en oeuvre, notamment à travers des actions en responsabilité.
• L'orateur tient deux propos préalables.
  • En premier lieu, il souligne que les auteurs voient dans l'IA soit la solution à tout, soit la source de toutes les catastrophes à venir.
  • En second lieu, il insiste sur le fait qu'il y a deux ordres de puissance algorithmique : celle dont on peut penser qu'elle n'est qu'un outil au service de la déduction à partir de règles et de principes et celles dont on peut penser qu'à partir de la puissance d'accumulation de solutions particulières et sans aucune déduction, des solutions pour les prochains cas particuliers seront retrouvées, voire seront inventées ("machine learning", "deep learning").
• Quant aux textes, l'orateur commence par rappeler que le RGPD de 2016, sans traiter de l'intelligence artificielle, a posé le principe, en son article 22, de la prohibition des décisions "entièrement" automatisés. Il relève à cet égard que bien que des exceptions à cette prohibition soient prévues, la Cour de justice adopte une interprétation large de cette article et de la notion de "décision entièrement automatisée", position résolument protectrice de la personne humaine (v. not. CJUE, 7 décembre 2023, aff. C‑634/21, Schuffa).
• Il évoque ensuite le règlement établissant des règles harmonisées concernant l'intelligence artificielle, dit "règlement sur l'intelligence artificielle" (en anglais IA Act) et centre son propos sur les IA dites à "hauts risques" et les obligations découlant de cette qualification : analyse des risques raisonnablement prévisibles et tests préalables (art. 9) ; obligations en matière de « gouvernance des données » (art.10) et obligations probatoires afférentes ; transparence (art. 13) ; contrôle humain proportionné (art. 14) ; exactitude et robustesse (art.15), etc.
• L'ensemble de ces informations permet à l'orateur d'expliciter les litiges systémiques sur lesquels ces affrontements d'appréhension d'ensemble et cette logique régulatoire des systèmes technologiques vont déboucher. Cela prendra notamment la forme de contentieux en responsabilité civile. Il souligne les enjeux probatoires que ceux-ci vont présenter.

🕰️11h50-12h30. Débat

Conclusion 

• A l'issue de cette conférence, l'auditeur peut mesurer que le contentieux de masse peut éventuellement, et avec une grande prudence, trouver appui sur l'IA, parce que les cas successifs sont analogues.
• Par ailleurs, le Contentieux Systémique Émergent se caractérise précisément en ce qu'il mobilise un système, en ce que la situation qu'il présente (par exemple un cas de supervision d'une plateforme, un cas de vigilance dans une chaine de valeur) est nouvelle et implique les intérêts et l'avenir d'un système en mettant "en cause" des principes : en cela, par nature, le Contentieux Systémique requiert un raisonnement qui ne se réduit pas au prolongement de l'accumulation de solutions particulières mises en correspondance : parce qu'il est "émergent", il est essentiellement le fruit de l'inventivité des entreprises, des parties prenantes, des avocats et des juges, pris parce qu'ils sont des êtres humains singuliers.

________