► Référence complète : Amrani-Mekki, S., Les plateformes de résolution en ligne des différends, in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.189-203.

_____

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

► Référence complète : Houtcieff, D., Les plateformes au défi des plateformes, in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.51-64.

_____

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

► Référence complète : Roda, J.-Ch, Vers un droit de la concurrence des plateformes , in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.77-90.

_____

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

♾️ suivre Marie-Anne Frison-Roche sur LinkedIn

♾️ s'abonner à la Newsletter MAFR Regulation, Compliance, Law 

____

► Référence complète : Frison-Roche, M.A., Les programmes de compliance, in Université de Lille, Les risques concurrentiels des entreprises à l’aune de la transition écologique et numérique : regards croisés sur les outils de prévention, Lille, 16 juin 2023. ____

► Présentation générale de la conférence : sss

____

► pour aller plus loin ⤵️

► Full Reference: R.-O. Maistre,  "What monumental goals for the Regulator in a rapidly changing audiovisual and digital landscape?", ​in M.-A Frison-Roche (ed.), Compliance Monumental Goals, series "Compliance & Regulation", Journal of Regulation & Compliance (JoRC) and Bruylant, 2023, p.

___

► Article Summary (done by the JoRC editor):  In France, since the law of 1982 which put an end to the State monopoly on the audio-visual area, the landscape has profoundly evolved and diversified. In view of the multitude of players who are now established there, the Conseil supérieur de l'audiovisuel - CSA (French High Audiovisual Council) must ensure the economic balance of the sector and the respect for pluralism, in the interest of all audiences. The growing societal responsibilities of audiovisual media and new digital players have multiplied the "monumental goals" on which the Arcom is watching.

Its competences have gradually been extended to the digital space and the successive laws concerning its missions aim at new objectives, in particular in terms of protection of minors, fight against online hate or against disinformation. The emergence of a new European model of Regulation makes it possible to give substance to these additional goals, the Regulator adopting a systemic perspective and calling on soft law tools to fulfill its new missions.

____ 

📘see the general presentation of the book, Compliance Monumental Goals, in which this article is published

________

► Full Reference: L.-M. Augagneur, "La juridictionnalisation de la réputation par les plateformes" ("The jurisdictionalisation of reputation by platforms"), in M.-A. Frison-Roche (ed.), La juridictionnalisation de la Compliance, coll. "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) and Dalloz, 2023, p. 97-113. 

____

📕read a general presentation of the book, La juridictionnalisation de la Compliance, in which this article is published.

____

► Summary of the article (done by the author): The large platforms are in the position of arbiter of the reputation economy (referencing, notoriety) in which they themselves act. Although the stakes are usually low on a unit basis, the jurisdiction of reputation represents significant aggregate stakes. Platforms are thus led to detect and assess reputation manipulations (by users: SEO, fake reviews, fake followers; or by the platforms themselves as highlighted by the Google Shopping decision issued by the European Commission in 2017) that are implemented on a large scale with algorithmic tools.

The identification and treatment of manipulations is itself only possible by means of artificial intelligence tools. Google thus proceeds with an automated downgrading mechanism for sites that do not follow its guidelines, with the possibility of requesting a review through a very summary procedure entirely conducted by an algorithm. Tripadvisor, on the other hand, uses an algorithm to detect false reviews based on "fraud modeling to identify electronic patterns that cannot be detected by the human eye". It only conducts a human investigation in limited cases.

This jurisdictionality of reputation has little in common with that defined by the jurisprudence of the Court of Justice (legal origin, contradictory procedure, independence, application of the Rules of Law). It is characterized, on the one hand, by the absence of transparency of the rules and even of the existence of rules stated in predicative form and applied by deductive reasoning. It is replaced by an inductive probabilistic model by the identification of abnormal behaviors in relation to centroids. This approach of course raises the issue of statistical bias. More fundamentally, it reflects a transition from Rule of Law, not so much to "Code is Law" (Laurence Lessig), but to "Data is Law", that is, to a governance of numbers (rather than "by" numbers). It also comes back to a form of collective jurisdictionality, since the sanction comes from a computational apprehension of the phenomena of the multitude and not from an individual appreciation. Finally, it appears particularly consubstantial with compliance, since it is based on a teleological approach (the search for a finality rather than the application of principles).

On the other hand, this jurisdictionality is characterized by man-machine cooperation, whether in the decision-making process (which poses the problem of automaticity bias) or in the contradictory procedure (which poses, in particular, the problems of discussion with the machine and the explicability of the machine response).

Until now, the supervision of these processes has been based essentially on the mechanisms of transparency, a limited adversarial requirement and the accessibility of appeal channels. The French Law Loi pour une République Numérique ("Law for a Digital Republic"), the European Legislation Platform-to-Business Regulation and the Omnibus Directive, have thus set requirements on the ranking criteria on platforms. The Omnibus Directive also requires that professionals guarantee that reviews come from consumers through reasonable and proportionate measures. As for the European Digital Services Act, it provides for transparency on content moderation rules, procedures and algorithms. But this transparency is often a sham. In the same way and for the moment the requirements of sufficient human intervention and adversarial processes appear very limited in the draft text.

The most efficient forms of this jurisdictionality ultimately emerge from the role played by third parties in a form of participatory dispute resolution. Thus, for example, FakeSpot detects false Tripadvisor reviews, Sistrix establishes a ranking index that helped establish the manipulation of Google's algorithm in the Google Shopping case by detecting artifacts based on algorithm changes. Moreover, the draft Digital Services Act envisages recognizing a specific status for trusted flaggers who identify illegal content on platforms.

This singular jurisdictional configuration (judge and party platform, massive situations, algorithmic systems for handling manipulations) thus leads us to reconsider the grammar of the jurisdictional process and its characteristics. If Law is a language (Alain Sériaux), it offers a new grammatical form that would be that of the middle way (mesotès) described by Benevéniste. Between the active and the passive way, there is a way in which the subject carries out an action in which he includes himself. Now, it is the very nature of this jurisdictionality of compliance to make laws by including oneself in them (nomos tithestai). In this respect, the irruption of artificial intelligence in this jurisdictional treatment undoubtedly bears witness to the renewal of the language of Law.

________

♾️ follow Marie-Anne Frison-Roche sur LinkedIn

♾️ subscribe to the Newsletter MAFR Regulation, Compliance, Law 

____

► Full Reference: M.-A. Frison-Roche, "Le jugeant-jugé. Articuler les mots et les choses face à l'éprouvant conflit d'intérêts" ("The Judge-Judged. Articulating words and things in the face of the testing conflict of interest"), in M.-A. Frison-Roche, (ed.), La juridictionnalisation de la Compliance, coll. "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) and Dalloz, 2023, p. 59-80. 

____

📝read the article (in French)

____

🚧read the bilingual Working Paper which is the basis of this article, with additional developments, technical references and hyperlinks

____

📕read a general presentation of the book, La juridictionnalisation de la Compliance, in which this article is published

____

► Summary of the article (done by the Journal of Regulation & Compliance): Since the topic of this article is part of a chapter devoted to the Company established as Prosecutor and Judge of itself by Compliance Law, chapter aiming to use the relevant qualifications, it is appropriate therefore to worry about the adjustment of words and things, of the way in which the relationship between ones and the others evolve, and of the more particular question of knowing if this evolution is radical or not when one speaks of "judge ".

because "judging" is a word that the Law has disputed with other disciplines, but that it has appropriated not so much to confer more powers on those who act in its name, for example that who supervise and punish, but on the contrary to impose limits, since to the one who judges it has put the chains of the procedure under foot, thus making bearable for the other the exercise of such a power. Therefore, those who want the power to judge would often want to not have the title, because having de jure the title of judge is being subject to the correlated regime, it is to be submitted to procedural correctness.

It is therefore to better limit that the Law sees who judges, for obliging this so-powerful character to the procedure. But the Law also has the power to appoint a judge and to fix the contours of all the characters in the trial. He usually does it with clarity, distinguishing the ones of the others, not confusing them. This art of distinction has constitutional value. Thus, not only the one who judges must be named "judge" but the procedural apparatus which goes with this character, and which constitutes a way of doing things and fundamental rights, are not "granted" by kindness or in a second step: it is a block. If you didn't want to have to endure procedural rights, you didn't have to want to be a judge. Admittedly, one could conclude that the procedure would therefore have become "substantial"; by this elevation, it is rather a fashion of saying that the procedure would no longer be a "servant": it is a kind of declaration of love for the procedure, as long as one affirms that at the acts of judging , or investigating, or prosecuting, are "naturally" attached the procedural rights for the one who is likely to be the object of these powers.

Compliance Law, in search of allies to achieve the Monumental Goals for the aims of which it was instituted, will require, or even demand, private companies to go and seek themselves, in particular through investigations. internal or active vigilance on others, for finding facts likely to be reproached to them. Compliance Law will also require that they prosecute those who have committed these acts. Compliance La will again demand that they sanction the acts that people have committed in their name.

This is clearly understood from the point of view of Ex Ante efficiency. The confusion of roles is often very efficient since it is synonymous with the accumulation of powers. For example, it is more efficient that the one who pursues is also the one who instructs and judges, since he knows the case so well... Besides, it is more efficient that he also elaborates the rules, so he knows better than anyone the "spirit" of the texts. This was often emphasized in Regulatory Law. When everything is Information and risk management, that would be necessary ... But all this is not obvious.

For two reasons, one external and the other internal.

Externally, the first reason is that it is not appropriate to "name" a judge who is not. This would be too easy, because it would then be enough to designate anyone, or even to do it oneself to appropriate the regime that goes with it, in particular for obtain a so-called legitimate power for obtaining that others obey even though they are not subordinate or from them they transmit information, even though they would be  competitors: it would then be necessary to remember that only the Law is able to appoint judge ; in this new Compliance era, companies would be judges, prosecutors, investigators!  Maybe, if the Law says it, but if it didn't, it would be necessary to come back to this tautology ... But are we in such a radicalism? Moreover, do judges have "the prerogative" of judgment and the Law has not admitted this power for companies to judge for a long time? As soon as the procedure is there in Ex Ante and the control of the judge in Ex Post?

The second reason, internal to the company, situation on which the article focuses, is that the company investigates itself, judges itself, sanctions itself. However, the legal person expressing its will only through its organs, we underline in practice the difficulties for the same human being to formulate grievances, as he/she is the agent of the legal person, addressed to the natural person that he/she himself/herself is. The two interests of the two are not the same, are often opposed; how the secrets of one can be kept with respect to the other, represented by the same individual? ... It is all the mystery, even the artifice of legal personality that appears and we understand better that Compliance Law no longer wants to use this strange classical notion. Because all the rules of procedure cannot mask that to prosecute oneself does not make more sense than to contract with oneself. This conflict of interest is impossible to resolve because naming the same individual X then naming him/her Y, by declaring open the dispute between them does not make sense.

This dualism, which is impossible to admit when it comes to playing these functions with regard to corporate officers, can come back to life by setting up third parties who will carry secrets and oppositions. For example, by the designation of two separate lawyers for the human being agent and the human being representative of the legal person, each lawyer being able to have secrets for each other and to oppose each other. These spaces of reconstitution of the so "natural" oppositions in procedure between the one who judges and the one who is judged can also take the technological form of platforms: where there is no longer anyone, where the process has replaced the procedure, there is no longer any human judgment. We can thus see that the fear of conflicts of interest is so strong that we resign ourselves to saying that only the machine would be "impartial", a derisory conception of impartiality, against which it is advisable to fight.

This then leads to a final question: can the company claim to exercise the jurisdictional power to prosecute and judge and investigate without even claiming to be a prosecutor, an investigating judge, or a court? The company's advantage would be to be able to escape the legal regime that classical Law attaches to its words, mainly the rights of the defense and the rights of action for others, the principle of publicity of justice for everyone, which expresses the link between procedure and democracy. When Facebook said on June 12, 2021 "react" to the decision of May 5, 2021, adopted by what would only be an Oversight Board to decide "as a consequence" of a 2-year suspension of Donald Trump's account, the art of qualifications seem to be used in order to avoid any regime constraint.

But this art of euphemism is very old. Thus, the States, when they wanted to increase repression, presented the transformation of the system as a softening of it through the "decriminalization" of Economic Law, transferred from the criminal courts to the independent administrative agencies. The efficiency was greatly increased, since the guarantees of the Criminal Procedure ceased to apply. But 20 years later, Words found their way back to Things: under Criminal Law, slept the "criminal matter", which requires the same "Impartiality". In 1996, a judge once affirmed it and everything was changed. Let us therefore wait for what the Courts will say, since they are the masters of qualifications, as Article 12 of the French Code of Civil Procedure says, as Motulsky wrote it in 1972. Law has time.

________

♾️ suivre Marie-Anne Frison-Roche sur LinkedIn

♾️ s'abonner à la Newsletter MAFR Regulation, Compliance, Law 

____

► Référence complète : M.-A. Frison-Roche, Automated Compliance, a pertinent tool for Compliance Law, the whole, document de travail, novembre 2022.

____

📝Ce document de travail sert de base à une participation à un débat sur "Automated Compliance : "the" solution or "a" solution?, qui déroule dans le Sommet global de Gaia-X  le 17 novembre 2022.  

____

►Résumé du document de travail : s'appuyant sur la présentation préalablement faite au débat par un membre de la Commission européenne, il s'agit de souligner trois éléments qui montrent que l' Automated Compliance (ou Compliance by design) est à la fois un outil central, mais qu'il n'est un outil du Droit de la Compliance dont il ne saurait remplir par sa seule performance technologique toutes les fonctions dans un Etat de Droit.

En premier lieu, l'Union européenne semble en difficulté lorsqu'elle veut tout à la fois bâtir un système juridique qui lui est propre sur la base de Lois dont chacune est la pièce d'un gigantesque puzzle pour obtenir une industrie pérenne et autonome dans une économie numérique mondiale totalement renouvelée, ce qui fait peser sur les entreprises une charge considérable d'intégration de toutes ces règles du jeu, tout en affirmant qu'il faut alléger la charge que la "réglementation" fait peser sur elles.

En second lieu, la meilleure solution pour résoudre cette ambition contradictoire est effectivement dans la technologique, les algorithmes intégrant directement les réglementations. Mais plus encore, l'ensemble de ces textes reposent sur une autonomie laissée en Ex Ante aux entreprises européennes pour s'organiser entre elles afin de concrétiser les "buts monumentaux" que l'Union européenne a décidé d'atteindre, dont la réalisation d'un cloud souverain est au centre.

Ainsi la distinction et l'articulation d'un "Droit de la Compliance", défini par ces "buts monumentaux", dont lequel l'intelligence artificielle est un outil, le "tout" (Compliance Law) et la "partie" (Automated Compliance) est essentielle.

En troisième lieu, cette distinction et articulation est non seulement bénéfice mais elle est obligatoire. En effet, même si le Droit de la Compliance constitue une branche du Droit, elle fonctionne dans le système juridique générale, qui ne fonctionne que par l'esprit des textes, les outils algorithmiques ne capturant que la lettre de ceux-ci. Ces tribunaux sont et seront au cœur du Droit de la Compliance, le cas Schrems l'a bien montré. C'est pourquoi la Technologie et le Droit doivent travailler ensemble, et davantage à l'avenir, notamment parce qu'un outil pour l'effectivité du Droit ne pourra jamais rendre compte de la vie même du système juridique.

________

🔓Lire ci-dessous les développements⤵️

► Référence complète : T. Douville et E. Netter, « Présentation critique du Data governance act », RTD com., 2022, p. 561-574.

____

► Résumé de l'article : 

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la professeure Marie-Anne Frison-Roche

________

Référence complète : Frison-Roche, M.-A., "Rendre plus coûteux l'accès au marché de la Haine, Newsletter MAFR Law, Compliance", Regulation, 8 août 2022. 

____

► Référence complète : Frison-Roche, M.-A., Quand on s'intéresse à la Compliance, lire "La Haine"​ de Günther Anders, 1ier août 2022.

___

► Introduction de l'article : Philosophe allemand, Günter Anders connut la Seconde Guerre mondiale, dût quitter l'Allemagne et vécut dans plusieurs pays. C'est avant tout un philosophe moral, habité par le pessimisme et l'idée que le nazisme n'était qu'une répétition générale, plutôt artisanale, de ce que nous attend : L'obsolescence de l'homme, son livre-maître qui en 1956 décrit le système économique comme ce qui broie les êtres humains en les réduisant à n'être plus que des êtres qui entretiennent des machines qui produisent des produits inutiles qu'ils consomment, les humains n'étant eux-mêmes que des machines désirantes.

En 1985 dans un volume paru en langue allemande et composé d'articles tous consacrés au thème de La haine, il donna comme contribution les éléments de travail de ce qu'il avait conçu comme dernière partie de son oeuvre démontrant l'appareillage obtenant "l'obsolescence de l'homme", dernier livre qu'il ne publia jamais.

Extrait de ce volume, ces documents de travail furent traduits en français et présentés par Philippe Ivernel : le titre en est La Haine.

I. LA FABRIQUE DE LA "HAINE COMME PRODUIT DE CONSOMMATION" POUR ENGENDRER DES COMBATS, PRODUCTEURS A LEUR TOUR DE HAINE : L'ARTICULATION DES DEUX HAINES

Anders est un penseur de la technique, de la technologie (comme l'est Jacques Ellul), expliquant qu'elle n'appartiendra plus à une élite mais au contraire à chacun dans notre vie quotidienne, se mettant ainsi au centre de tout, remplaçant notamment la politique, les êtres humains mécanisés devenant la matière première des machines.

Le titre original, La Haine à l'état d'antiquité désigne le fait que la société de consommation réduisant l'être humain à son aptitude à entretenir des machines et à se comporter lui-même comme une machine consommant les produits fabriqués par des machines, l'être humain ayant pour seul fonction de désirer consommer ce que produisent les machines, et désirant donc finalement rien d'autres qu'entretenir et développer les machines qui l'engloutissent sous tous ces biens, n'a plus de pensée que pour ce monde entièrement voué aux machines.

L'Amour et la Haine sont ainsi reléguées "à l'état d'antiquité" car pour trouver sa place dans ce système de désirs qui convergent vers les machines, il n'est besoin ni d'Amour ni de Haine. Il expose que cela se passe dans deux temps. Dans un premier temps, la Haine est fabriquée pour amener les humains à se battre contre des ennemis qu'ils ne connaissent même pas ; dans un second temps, ils sont suffisamment mécanisés pour attaquer sans que l'énergie de la Haine soit même nécessaire.

Le premier fragment de ses documents de travail expose la façon dont les êtres humains "aiment la Haine" car cela donne à chacun le sentiment d'exister : la Haine. "Je hais, donc je suis. Ou plus précisément : Donc je suis quelqu'un" (p.33).

Il reprend cette idée dans le deuxième fragment dont le titre est (en français dans l'édition allemande) : L'appétit vient en mangeant. Il expose que la Haine n'est pas au départ contre une personne particulière et pousse à l'attaquer. La Haine est à l'état pur, mais c'est plutôt l'atmosphère de haine et "l'amour de la haine". Il suffit de la cultiver et la tourner ensuite à volonté contre un tel ou un tel.

Il évoque ainsi une sorte d'industrie de la haine, en des termes qu'il met dans la bouche du personnage qui dirige la cité : "Sans doute est-il exact qu'ils combattent "leurs ennemis" parce qu'ils les haïssent. Sauf que cette haine envers "leurs ennemis" n'explose précisément pas en s'allumant d'elle-même-meme, ni parce que les premiers leur auraient fait quoi que ce soit. Mais uniquement par ceci que (et donc parce que) je leur livre la haine à chaque fois exigible. Ils la reçoivent de moi gratuitement à domicile. Exactement comme l'eau, le gaz et la TV. Et cette haine qui leur est acheminée, ils la consomment alors, et dans tout à fait dans mon sens à moi : car ils s'engagent, en effet, pleins de haine dans la lutte politiquement opportune. Après quoi commence aussi réellement ce dont vous venez de parler : la deuxième phase de la haine. Car à présent ils haïssent réellement du fait qu'ils combattent. La règle de la haine s'énonce comme suite : "Je combats quelqu'un - de ce fait je me mets à le haïr. L'appétit vient en mangeant, la haine vient en luttant". Ils se battent ainsi "avec appétence" et sont persuadés le faire "avec dignité", devant rester dans l'ignorance de l'absence de raison du combat (qui est la pure volonté de celui qui leur a envoyé la Haine).

Günther Anders fait ensuite expliquer par le personnage politique qu'il fait cela par moralité car il ne veut pas que les hommes en tuent d'autres juste par obéissance à ses ordres, ce qu'ils trouveraient immoral. Il leur fabrique alors de la Haine, de la Haine qu'ils aiment, qu'il dirige ensuite sur des groupes de personnes et ainsi dotés de cette première haine, ils attaquent ceux qu'ils haïssent, le combat accroissant par une seconde haine la première, et tout le système fonctionne bien. Il lui fait ainsi conclure : "C'est pourquoi ils ont besoin de haïr. C'est pourquoi je leur accorde de haïr. C'est pourquoi je leur ordonne de haïr.".

Le troisième fragment porte sur la guerre proprement dite. Anders expose que la Haine n'y est aujourd'hui plus requise parce que la technique permet aux soldats de n'être plus en contact avec les personnes qu'ils combattent, ni même d'être confrontés aux cadavres. La fabrique de la Haine serait donc devenue inutile. C'est pour cela aussi qu'elle aurait vocation à être rangée dans les antiquités... Les soldats sont devenus comme des robots.

Le quatrième fragment développe ce point, sur des soldats "aveugles en telos", au point qu'on pourrait davantage les qualifier "d'employés" des armées que de soldats, exécutant leur travail sans savoir sur qui ou quoi ils larguent les bombes, chacun étant désormais comme à l'arrière du front. Anders souligne que dans ce combat sans haine, mené par les ordinateurs, le combat ne prend jamais fin.

II. UNE EXTRAORDINAIRE ANTICIPATION DU SYSTEME COMMERCIALE ET POLITIQUE E DE HAINE

A. DISTINCTION DES DEUX HAINES ET ROBOTISATION DES ETRES HUMAINS

L'œuvre de Gunther Anders est particulièrement profitable pour comprendre le monde dans lequel nous vivons. Dans cette ébauche d'ouvrage, retenons l'idée d'une double haine : la Haine fabriquée comme un objet et apportée gratuitement à tout le monde car il y a chez chacun un "amour de la haine" qui est en soi, puisqu'en haïssant, on se sent exister.

La Haine est un objet économique pur, car elle n'a pas d'objet particulier. Elle est fabriquée, cultivée, diffusée, accrue, partagée. Ce n'est que dans un second temps, après avoir ainsi inséré de la Haine pure dans l'esprit des amoureux de la Haine, que l'on peut lui affecter un objet, une personne ou un groupe de personnes et qu'un combat contre ceux-ci peut commencer, producteur d'un second type de Haine. Les deux Haines s'accroissent l'une l'autre.

Le premier intérêt de cette conception est d'isoler ce premier temps de la Haine : une Haine à l'état pur, celle qui existe car haïr permet d'exister, indépendamment de l'objet de la haine. Ce n'est pas donc pas l'objet qui fait naître la Haine, mais l'amour de soi qui fait naître la Haine. Dans un second temps, c'est le hasard ou la manipulation d'un tiers (dans l'exemple pris par Anders le dirigeant politique, mais nous connaissons des influenceurs en dehors du cercle politique) qui offre à la Haine son objet. Mais Anders insiste sur le fait que ces objets sont substituables.

Par cette Haine fabriquée, les êtres humains ont donc l'impression d'exister. C'est alors un stade pire et paradoxal qui s'annonce : celui des êtres humains sans haine, parce qu'on leur aura ôté l'objet de Haine, alors même qu'on leur commande (comme à des "employés") de tuer des semblables, en les mettant technologiquement à distance de l'objet à détruire (Anders prend l'exemple du lancer de bombe). Ils deviennent des robots, et la déshumanisation est ainsi achevée.

C'est en cela que les 4 fragments constituent pleinement la dernière partie de l'œuvre centrale qu'est L'obsolescence de l'Homme.

B. LE MONDE NUMERIQUE, LES RÉSEAUX SOCIAUX ET L' "INTELLIGENCE ARTIFICIELLE"

Le travail publié en 1985 correspond à des réflexions élaborées juste après la Seconde Guerre mondiale et puisant dans les leçons de la Première.

Mais si l'on regarde le monde numérique dans lequel nous vivons, il est en premier lieu construit sur des technologies "neutres", une industrie de l'information qui transforme les êtres humains en consommateurs d'information et en source d'information, constituant eux-mêmes une masse de micro-informations.

En deuxième lieu, les plateformes, et plus particulièrement les réseaux sociaux, sont des espaces neutres, les entreprises qui les tiennent ne sont pas des éditeurs, et le produit pur qui y circulent le mieux est de la "Haine pure", qui est ce qui rapporte à ces entreprises le plus de revenus, les différents objets de haines étant interchangeables.

La Haine est devenue un objet qui est délivré à domicile et dont nous sommes abreuvés en permanence, notre "amour de la Haine" étant alimentée en continu, et sans doute accru.

En troisième lieu, les algorithmes sont présentés comme "intelligents", c'est-à-dire dotés d'une capacité non seulement d'apprentissage mais de choix et de discernement. L'intelligence artificielle serait le progrès, c'est-à-dire la disparation de la haine pour exemple pour prononcer les sanctions les plus adéquates. Les chiffres ont donc remplacé les êtres humains, ce qu'Anders visait à travers les "ordinateurs".

III. LE PROFIT QUE LE DROIT DE LA COMPLIANCE PEUT FAIRE DE LA PENSÉE DE GUNTHER ANDERS

A. LE DROIT DE LA COMPLIANCE, DROIT AYANT LA PRÉTENTION DE RÉDUIRE LA HAINE DANS L'ESPACE NUMÉRIQUE

Le Droit de la Compliance est une branche du Droit construit sur des prétentions politiques qui visent à concrétiser des "buts monumentaux".

🔴Marie-Anne Frison-Roche, 📝Les Buts Monumentaux, cœur battant du Droit de la Compliance, in Marie-Anne Frison-Roche (dir.), 📕 Les buts monumentaux de la compliance, Journal of Regulation & Compliance et Dalloz, coll. 📚Régulations & Compliance, 2022, p.21-44.

La lutte contre la diffusion de ce qu'il est pertinent de désigner comme l'amour naturel de la haine pure, qui se répand d'une façon virale dans l'espace numérique permettant à la haine d'être "portée à domicile" est une des objets majeurs du Droit de la Compliance.

Le Digital Services Act est imprégné de techniques de Compliance pour y parvenir.

Il ne s'agit pas de compter sur la moralité des personnes, puisque le cœur des humains est d'aimer la haine, ni de les remplacer par des machines car le remède est pire que le mal (la déshumanisation) mais sur la performance technique de ceux qui tiennent ce système économique-là : les plateformes elles-mêmes.

🔴M.A. Frison-Roche, 📝Se tenir bien dans l'espace numérique, in Mélanges en l'honneur de Michel Vivant, Penser le droit de la pensée, Dalloz et Lexis Nexis, 2020, pp. 155-168.

En combattant le feu par le feu, c'est-à-dire en obligeant ceux qui ont construit les techniques par lesquelles se diffusent la Haine à construire et à utiliser les techniques de contrôle, de détection et de prévention de celle-ci, le Droit de la Compliance, notamment grâce à son effet naturellement extraterritorial, exprime la prétention de ne pas laisser la Haine régner.

En outre, les Autorités publiques non seulement régulent mais encore supervisent les entreprises et leurs technologies, en l'espèce l'Arcom et la CNIL, dont les pouvoirs Ex Ante s'accroissent.

🔴R.-O. Maistre, Quels buts monumentaux pour le Régulateur dans un paysage audiovisuel et numérique en pleine mutation ?, in Frison-Roche, M.-A. (dir.), Les buts monumentaux de la Compliance, série "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2022.

B. LA DÉFINITION TÉLÉOLOGIQUE DU DROIT DE LA COMPLIANCE

L'œuvre d'Anders est parcourue par le désespoir moral d'êtres humains "sans telos", c'est-à-dire sans finalités qui leur soit propres. C'est ainsi qu'ils peuvent être saisis aisément par l'amour de la Haine, puisqu'aucun projet propre n'occupe leur temps et leur force.

Il peut en être de même pour la force du Droit.

Si le Droit ne devait être qu'une technique "réglementaire", "neutre", visant à "l'efficacité" des désirs de chacun et des réglementations accumulées, alors le Droit ne ferait qu'ajouter à la déshumanisation décrite par Anders.

Mais le Droit de la Compliance est par nature une branche du Droit téléologique : elle se définit par ses buts. Et ceux-ci sont "monumentaux".

Ces buts monumentaux ponctuels peuvent tous se ramener à ceci : protéger les êtres humains, afin que la description d'Anders ne soit pas exacte en son cœur désespéré.

🔴M.-A. Frison-Roche, 🚧 Fonder la Compliance, 2022

Référence complète : Frison-Roche, M.-A., L'efficacité de la compliance illustrée par l'affaire Youporn, entretien avec Olivia Dufour, 21 juin 2022.

____

💬 Lire l'entretien 

____

► Référence générale : Frison-Roche, M.-A., Droit de la Compliance et Cloud souverain, in Souveraineté numérique : quelles solutions pour quels problèmes ? ,   Association Master 2 Droit du Commerce Électronique et de l’Économie Numérique (M2 DCEEN), Université Panthéon-Sorbonne (Paris I), 9 juin 2022, 18h-20h.

____

Voir le programme

____

Cette intervention s'insère dans un débat coordonné par la professeure Judith Rochfeld, auquel participent également Monsieur le Député Philippe Latombe et Céline Heller (société Google).

Pour ma part, interrogée en premier pendant un 1/4 d'heure, il s'agissait en premier lieu, avant de participer à la discussion générale, de répondre aux trois questions suivantes :

•  Quelles définitions doivent être retenues pour la souveraineté numérique ?
• Quel est le rapport entre souveraineté numérique et droit de la compliance ?
• Plus largement, quelle place le Droit doit-il occuper dans la souveraineté numérique selon vous ?
• En quoi la souveraineté numérique est-elle un but monumental ? 

____

♾️ follow Marie-Anne Frison-Roche on LinkedIn

♾️ subscribe to the Newsletter MAFR Regulation, Compliance, Law 

____

► Full Reference: FM.-A. Frison-Roche, La responsabilité ex ante, pilier du droit de la compliance ("Ex-Ante Responsibility, Compliance Law Pillar"), D.2022, chronique MAFR - Droit de la Compliance, Recueil Dalloz, March 31, 2022.

____

► Article English Summary: The Law must help to face the future, which can be totally catastrophic in terms of climate and digital issues. Courts are s best placed for this, without “governing”, only relying on the commitments made by companies, governments, and legislators.  On the ordinary Tort Law, court decisions oblige these different entities to be consistent in the commitments they have made, obliging them to act in the future, formal “compliance” with the regulations cannot be sufficient. This ex-ante responsibility, founding the powers, thus constitutes a pillar of a substantial Compliance Law, showing the part that CSR and the companies with a raison d'être play in it.

____

📝 read the article. (written in French)

____

📚go to the presentation of the other articles published in this Chronique Droit de la Compliance made in the Recueil Dalloz. 

________

► Référence complète : Frison-Roche, M.-A., "Secrets professionnels : spirale d'une importance accrue et d'un affaiblissement fulgurant", participation à la Table-Ronde sur le thème du secret professionnel, in Comité de Liaison des Institutions Ordinales (CLIO), Secret professionnel et indépendance : deux leviers, garants de l’efficacité et de la confiance envers les professions réglementées, 10 mars 2022.

Cette Table-Ronde est animé par Fabrice Lundy, journaliste à Radio-Classique ; y participent également Jean-Luc Sauron, Conseiller d'Etat et Jacques Lucas, Président de l'Agence du Numérique en Santé.

____

►Lire la synthèse écrite du colloque 

____

► Revoir la vidéo de la table-ronde

____

► Résumé de l'intervention : Le thème du secret professionnel est appréhendé comme illustration du rôle essentiel joué par les Ordres professionnels dans le monde d'aujourd'hui (le colloque traitant dans un second temps de la question de l'Indépendance). 

Avant toute participation active au débat proprement dit, l'intervention a pour utilité de présenter le Secret professionnel en lui-même, puis en quoi le monde actuel apporte des éléments nouveaux au besoin impératifs de celui-ci, dans le même temps qu'il le met particulièrement en difficulté.

I. LA PERMANENCE DES SECRETS PROFESSIONNELS

Le Secret professionnel, comme tout secret, porte sur une information. C'est une information qu'une personne a sur elle-même ou sur une autre, et qui potentiellement peut mettre cette personne en danger, ou la fragilise, ou l'expose, la constituant en situation de faiblesse par rapport à autrui : l'information peut concernant son état de santé, sa filiation, un acte dont un autre pourrait se prévaloir pour la punir plus tard.

Cette information, que la personne garde pour elle ou qu'elle partage avec peu de personnes, elle va la confier à un "professionnel". Pas n'importe quel professionnel : un professionnel en qui elle a confiance, non seulement parce qu'elle croît qu'il est techniquement compétent (un avocat qui connait le Droit, un médecin qui connait la Médecine) mais parce qu'elle croit qu'il va lui aussi garder pour lui cette information sur la faiblesse de son client, malgré le profit qu'il pourrait tirer de la communiquer à d'autres (presse, juge, voisin de table dans un diner, etc.). C'est donc la confiance que la personne en situation de faiblesse a dans le titre même de la personne, parce qu'il est "avocat" ou "médecin" ou "infirmier", etc., qu'il donne cette information, car il sait que parce qu'il est médecin (et pas seulement parce qu'il connait la Médecine), qu'il garde ce secret. Ainsi ce n'est pas le diplôme comme signe de compétence mais le titre comme signe d'appartenance à une profession qui garde les secrets qui est considéré : c'est pourquoi la profession va pouvoir valoriser cette garde des secrets au-delà des frontières par des associations (American Bar Association, par exemple), si elle peut crédibiliser cela (Ordre et secret sont intimes).

Le rapport que le professionnel, nouveau titulaire de l'information, a avec celle-ci découle de cela. Le professionnel est le "gardien" de l'information. Il n'en dispose pas : la personne concernée lui a confié non pas tant l'information que "la garde de l'information". Il exerce donc sur ce secret, c'est-à-dire le fait de ne pas révéler à autrui l'information, un pouvoir📎!footnote-2494. C'est pourquoi par exemple tandis que la personne concernée peut donner l'information à autrui, la presse par exemple, le professionnel, auquel elle s'était confiée, ne le peut pas. Dans la perspective du secret professionnel, dans la notion de "pouvoir", c'est la notion de "charge" qu'il faut voir, une "charge au bénéfice d'autrui"📎!footnote-2494. 

Cette conception juridique est stable depuis que les professions, notamment les professions libérales, existent : ce n'est pas par les compétences techniques, ni même par le lien personnel, que le secret professionnel se noue : c'est par l'appartenance à une profession : c'est donc par l'organisation même de cette profession et la crédibilité de celle-ci, le contrôle à l'entrée de qui y entre et doit en sortir en cas de manquement, l'effectivité, l'efficacité et l'efficience de la discipline. 

Tout cela n'est pas remis en cause. Au contraire, plus l'Etat a des difficultés en raison de la disparition des frontières et plus cette structure devient en pratique pertinente.

____

Mais le choc vient d'ailleurs. Il faut du fait que précisément si les secrets que nous avons tous en nous et que nous voulons tous donner à garder n'ont pas changé, en revanche le monde dans lequel nous vivons a changé : ce monde est devenu numérique. 

II. LE CHOC DU NUMERIQUE SUR LES SECRETS PROFESSIONNELS ET L'URGENCE DE LES ACCROITRE

Or, par cette transformation totale du monde dans lequel nous vivons les secrets n'existent plus, les secrets professionnels pas moins mais pas plus que les autres.

Il faut mais il suffit qu'une "fuite" apparaisse dans l'espace digital et l'information est disponible à la fois partout et en un instant : la viralité est la loi naturelle de l'espace numérique qui recouvre le monde.

L'on peut s'en réjouir, parce que l'information est un bien commun, que nous sommes dans un marché de l'information, une économie de l'information, une société de l'information, une civilisation de l'information.

Si l'on est plus mesuré, l'on dira que certaines informations doivent être gardées par ceux qu'elles concernent et dans le cercle choisi des personnes qui ont leur confiance : c'est l'invention européenne des "données à caractère personnel", qui recoupent largement les secrets professionnels. 

Pour l'instant, le Droit tâtonne tant la situation est nouvelle ...

Tout d'abord, le Droit est dans une sorte d'adoration de l'information disponible sur tout, partout et pour tous... Il y développe des principes comme le "droit à l'information" (sans contrepartie financière), le "droit d'alerte" (vite confondu avec le droit de divulguer publiquement, qui n'existe pas ab initio n'apparaissant qu'en cas d'échec du mécanisme d'alerte, le "droit à la transparence" (qui méconnait l'idée même de droits de la défense) qui vont aller de plus en plus contre les secrets, même professionnels.  

Ensuite et surtout, la technologie numérique, qui a structuré l'espace numérique fait qu'une information à l'instant où elle est mise dans cet espace est diffusée immédiatement, partout et demeure disponible pour toujours. 

Dès lors, l'on peut toujours continuer à affirmer le principe des secrets professionnels, ceux-ci n'ont plus d'effectivité.

Or, et c'est lors le paradoxe, l'espace numérique non seulement n'a pas diminué la fragilité des personnes, fragilité compensée par la confiance dans la garde des secrets conservés par les professionnels ; au contraire le numérique a accru cette fragilité. 

Les revenge porn ou les meurtres en direct en sont un exemple : la personne est encore plus fragile dans l'espace numérique. Les "discours de haine" sont un enjeu majeur, non seulement pour la personne qui en est la victime mais pour le système lui-même puisque, comme le démontre Thimothy Snyder c'est aujourd'hui le système démocratique qui peut chuter. 

La "désinformation" peut partir d'une violation d'un secret professionnel, car il peut s'agir d'une information exacte exploitée à des fins nocives, constituant alors une infox, le conspirationnisme étant un phénomène lié au numérique.

Que peut faire le Droit ? 

Il peut aller dans deux directions :

Tout d'abord armer davantage les structures classiques : Ordres professionnels, police, Autorités de poursuites et Juridictions. 

Ensuite, internaliser dans les opérateurs numériques cruciaux, notamment les plateformes, le devoir de bloquer en Ex Ante la diffusion des informations qui doivent demeurer secrètes (données à caractère personnel, et secrets) : c'est le "Droit de la Compliance".

L'exercice de ce devoir par les entreprises numériques cruciales est lui-même supervisé par des autorités publiques : en France, la CNIL et l'Arcom. 

De nouveaux textes sont en cours d'adoption pour obliger les entreprises cruciaux de veiller à ce que les secrets ont préservés. C'est l'un des enjeux du Digital Services Act, Réglement de l'Union européenne en cours de discussion. 

L'avenir est certainement dans un rapprochement entre les structures classiques, notamment les ordres et ses Autorités publiques de supervision. 

Le Droit de la Compliance, nouvelle branche du Droit Ex Ante qui concrétise la garde des secrets peut être une solution dans cette situation à la fois très nouvelle et très préoccupante. 

____

► aller à la présentation d'une précédente participation au colloque annuel du CLIO : La déontologie professionnelle dans un monde ouvert et concurrentiel 

► voir la publication qui s'en suivit. 

___

► pour aller plus loin : 

👩‍🏫Frison-Roche, M.-A., 📝Les droits subjectifs, outils premiers et naturels du Droit de la Compliance, in Frison-Roche, M.-A., 📕Les outils de la Compliance, 2021

👩‍🏫Frison-Roche, M.-A.,💬 "Et si le secret de l'avocat était l'allié de la lutte contre le blanchiment ?", 2020

👩‍🏫Frison-Roche, M.-A., 📕Avocats et Ordres au 21ième siècle, 2017

👩‍🏫Frison-Roche, M.-A., 📕Secrets professionnels, 1999

👩‍🏫Frison-Roche, M.-A., 📝Déontologie et discipline des professions libérales, 1998

________

►Référence complète : M.-A. Frison-Roche, Audition par la Section du Rapport et des Etudes du Conseil d'Etat pour la préparation du Rapport annuel sur Les réseaux sociaux, Conseil d'Etat, 8 mars 2022.

____

►Résumé de la présentation faite avant la discussion : Pour la partie reproductible de cette audition, consistant dans la présentation qui a pu être faite de la relation entre le Droit de la Compliance et le phénomène des réseaux sociaux, il a été repris l'idée générale d'un impératif de "réguler un espace sans ancrage" et l'apport que représente pour cela le Droit de la Compliance, dès l'instant qu'il n'est pas défini comme le fait de "se conformer" à l'ensemble de la réglementation applicable à l'agent mais comme la charge d'atteindre des "Buts Monumentaux", négatifs ou/et positifs, l'opérateurs ainsi chargé de cette obligation de moyens parce qu'il est en position de le faire, devant avoir la puissance pour y parvenir.

Se dégagent alors des notions nouvelles, comme la "Responsabilité Ex Ante" ou une notion de "Pouvoir" qui est commune aux opérateurs de droit privé et de droit public, leur nationalité venant également en second plan, le Droit de la Compliance étant naturellement a-territorial. 

Cette définition substantielle du Droit de la Compliance qui met en première ligne les opérateurs requiert que ceux-ci soient supervisé (dans un continuum entre Régulation, Supervision, Compliance,) le Droit de la Compliance opérant un continuum du Droit de la Régulation en n'étant plus lié avec l'impératif d'un secteur. Les opérateurs cruciaux numériques sont ainsi "responsabilisés", grâce à une "responsabilité Ex Ante", et s'ils sont supervisés par des Autorités de supervision (dont le modèle historique est le superviseur bancaire, ici l'Arcom), c'est le juge qui a fait naitre cette nouvelle notion de "responsabilité Ex Ante, pilier du Droit de la Compliance, aujourd'hui délivré du territoire dans une jurisprudence à propos du Climat qu'il convient de concevoir plus largement.

Ainsi délivré du secteur et du territoire, le Droit de la Compliance peut affronter le mal des réseaux sociaux que sont la désinformation et l'atteinte des enfants, maux systémiques où peut se perdre la Démocratie, perspective face à laquelle l'Ex Post est inapproprié. 

Le Droit de la Compliance est donc pleinement adéquat. 

Il convient que le Juge continue sa mue en concevant lui-même non pas seulement dans un Ex Post plus rapide, mais dans un office Ex Ante, contrôlant des entreprises qui, elles-mêmes doivent avoir des fonctions des offices de gardiens (ici gardiens des limites concernant les contenus). 

______

Voir ⤵️ la structure plus formelle de l'intervention, qui fut ensuite discutée

► Référence complète : Delpech, X. (dir.), L'émergence d'un droit des plateformes, coll. "Thèmes et Commentaires", Dalloz, 2021, 239 p.

____

► Présentation de l'ouvrage en 4ième de couverture : De Uber à Parcoursup en passant par Amazon, le phénomène des plateformes est au cœur de notre vie quotidienne. S’il reflète des réalités diverses, il semble néanmoins possible, d’une plateforme à l’autre, d’observer quelques constantes : toutes sont des dispositifs de mise en relation faisant appel aux nouvelles technologies (internet, un algorithme, etc.).

Les plateformes suscitent cependant de multiples interrogations – et même inquiétudes, compte tenu de la puissance de certaines d’entre elles – auxquels tentent de répondre économistes et bien entendu juristes. Elles constituent ainsi un champ de recherche qui reste encore largement à explorer. Il faudra en particulier s’interroger sur le point de savoir si notre arsenal juridique, y compris européen, est suffisamment armé pour les appréhender, voire même les domestiquer, ou s’il doit être réinventé. Plus profondément, il est légitime de se demander si les plateformes ne sont pas en train de faire émerger une nouvelle branche du droit.

C'est à ces questions que tente de répondre cet ouvrage issu des actes du colloque du 21 octobre 2020 organisé par l'équipe de recherche Louis Josserand de l'Université de Jean Moulin Lyon 3. 

____

► Lire la présentation des articles :

📝Roda, J.-Ch, Vers un droit de la concurrence des plateformes

📝Houtcieff, D., Les plateformes au défi des qualifications

📝Amrani-Mekki, S., Les plateformes de résolution en ligne des différents

📝Douville, Th., Quel droit pour les plateformes ? 

____

►Par un article publié le 13 juillet 2021, "Targeted ads isolate and divide us even when they’re not political – new research"  des chercheurs ayant mené une étude à propos d'intelligence artificielle et d'éthique , rendent compte des résultats obtenus. Il ressort de cette étude empirique montre que les technologies, mises au point à des fins politiques pour capter les votes afin de faire élire Trump ou pour obtenir un vote positif pour le Brexit, utilisées à des fins commerciales, auraient deux effets sur nous : en premier lieu elles nous isolent ; en second lieu elles nous opposent.

____

Le seul lien social qui a donc vocation à avoir serait donc l'agression.  

Certes l'usage ainsi fait de nos informations personnelles, auquel nous "consentons" tous, que cela soit pour obtenir notre adhésion à des discours ou à des produits, casse ce qu'Aristote appelait "l'amitiés" comme socle de la Cité Politique.
L'on mesure que la notion de "consentement", qui est une notion juridique, relativement périphérique dans le Droit des Obligations, que beaucoup voudraient mettre comme l'alpha et l'omega, ne nous protège en rien de cette destruction de nous-même et des autres, de cette perspective de la Cité.
Il est important de penser la régulation de la technologie, sur laquelle est construit l'espace digital sur une autre notion que le "consentement".
C'est pourquoi le Droit de la Compliance, qui n'est pas construit sur le "consentement", est la branche du Droit de l'avenir.
#droit #numérique #amitié #consentement #haine #politique

► An article from March 3, 2021, Smile for the camera: the dark side of China's emotion-recognition tech, then an article from June 16, 2021, "Every smile you fake" - an AI emotion - recognition system can assess how "happy" China's workers are in the office describes how a new technology of emotional recognition is able, through what will soon be out of fashion to call "facial recognition", to distinguish a smile that reflects a mind state of real satisfaction from a smile which does not correspond to it. This allows the employer to measure the suitability of the human being for his or her work. It is promised that it will be used in an ethical way, to improve well-being at work. But isn't it in itself that this technology is incompatible with any compensation through ethical support?

The technology developed by a Chinese technology company and acquired by other Chinese companies with many employees, allows to have information on the actual state of mind of the person through and beyond his or her facial expressions and bodily behavior.

Previously, the technology of emotional recognition had been developed to ensure security, by fighting against people with hostile plans, public authorities using it for example in the controls at airports to detect the criminal plans which some passengers could have.

It is now affirmed that it is not about fighting against some evil people ("dangerousness") to protect the group before the act is committed ("social defense”) but that it is about helping all workers.

Indeed, the use that will be made of it will be ethical, because first the people who work for these Chinese companies with global activity, like Huawaï, do it freely and have accepted the operation of these artificial intelligence tools (which is not the case with people who travel, control being then a kind of necessary evil that they do not have to accept, which is imposed on them for the protection of the group), but even and above all, the purpose is itself ethical: if it turns out that the person does not feel well at work, that they are not happy there, even before they are perhaps aware, the company can assist.

Let’s take this practical case from the perspective of Law and let’s imagine that it is contested before a judge applying the principles of Western Law.

Would this be acceptable?

No, and for three reasons.

1. An "ethical use" cannot justify an unethical process in itself

2. The first freedoms are negative

3. "Consent" should not be the only principle governing the technological and digital space

I. AN "ETHICAL USE" CAN NEVER LEGITIMATE AN UNETHICAL PROCESS IN ITSELF

These unethical processes in themselves cannot be made "acceptable" by an "ethical use" which will be made of them.

This principle was especially reminded by Sylviane Agacinski in bioethics: if one cannot dispose of another through a disposition of his or her body which makes his or her very person available (see not. Agacinski, S., ➡️📗Le tiers-corps. Réflexions sur le don d’organes, 2018).

Except to make the person reduced to the thing that his or her body is, which is not ethically admissible in itself, that is excluded, and Law is there in order to this is not possible.

This is even why the legal notion of "person", which is not a notion that goes without saying, which is a notion built by Western thought, acts as a bulwark so that human beings cannot be fully available to others, for example by placing their bodies on the market (see Frison-Roche, M.-A., ➡️📝To protect human beings, the ethical imperative of the legal notion of person, 2018). This is why, for example, as Sylviane Agacinski emphasizes, there is no ethical slavery (a slave who cannot be beaten, who must be well fed, etc.).

That the human being agrees ("and what about if it pleases me to be beaten?") does not change anything.

II. THE FIRST FREEDOM IS THE ONE TO SAY NO, FOR EXAMPLE BY REFUSING TO REVEAL YOUR EMOTIONS: FOR EXAMPLE HIDING IF YOU ARE HAPPY OR NOT TO WORK

The first freedom is not positive (being free to say Yes); it is negative (being free to say No). For example, the freedom of marriage is having the freedom not to marry before having the freedom to marry: if one does not have the freedom not to marry, then the freedom to marry loses any value. Likewise, the freedom to contract implies the freedom not to contract, etc.

Thus, freedom in the company can take the form of freedom of speech, which allows people, according to procedures established by Law, to express their emotions, for example their anger or their disapproval, through the strike.

But this freedom of speech, which is a positive freedom, has no value unless the worker has the fundamental freedom not to express his or her emotions. For example if he or she is not happy with his or her job, because he or she does not appreciate what he or she does, or he or she does not like the place where he or she works, or he or she does not like people with whom he or she works, his or her freedom of speech demands that he or she have the right not to express it.

If the employer has a tool that allows him or her to obtain information about what the worker likes and dislikes, then the employee loses this first freedom.

In the Western legal order, we must be able to consider that it is at the constitutional level that the infringement is carried out through Law of Persons (on the intimacy between the Law of Persons and the Constitutional Law, see Marais , A., ➡️📕Le Droit des personnes, 2021).

III. CONSENT SHOULD NOT BE THE ONLY PRINCIPLE GOVERNING THE TECHNOLOGICAL AND DIGITAL SPACE

We could consider that the case of the company is different from the case of the controls operated by the State for the monitoring of airports, because in the first case observed people are consenting.

"Consent" is today the central notion, often presented as the future of what everyone wants: the "regulation" of technology, especially when it takes the form of algorithms ("artificial intelligence"), especially in digital space.

"Consent" would allow "ethical use" and could establish the whole (on these issues, see Frison-Roche, M.-A., ➡️📝Having a good behavior in the digital space, 2019).

"Consent" is a notion from which Law is today moving away in Law of Persons, in particular as regards the "consent" given by adolescents on the availability of their body, but not yet on digital.

No doubt because in Contract Law, "consent" is almost synonymous with "free will", whereas they must be distinguished (see Frison-Roche, M.-A., ➡️📝Remarques sur la distinction entre la volonté et le consentement en Droit des contrats, 1995).

But we see through this case, which precisely takes place in China, that "consent" is in Law as elsewhere a sign of submission. It is only in a probative way that it can constitute proof of a free will; this proof must not turn into an irrebuttable presumption.

The Data Regulatory Authorities (for example in France the CNIL) seek to reconstitute this probative link between "consent" and "freedom to say No" so that technology does not allow by "mechanical consents", cut off from any connection with the principle of freedom which protects human beings, from dispossessing themselves (see Frison-Roche, M.-A., Yes to the principle of will, No to pure consents, 2018).

The more the notion of consent will be peripheral, the more human beings will be able to be active and protected.

________

► Référence complète : Douville, T., Quel droit pour les plateformes ?, in Delpech, X. (dir.), L'émergence d'un droit des plateformes, coll. « Thèmes et commentaires », Dalloz, 2021, pp.217-239.

_____

► Lire la présentation générale de l'ouvrage dans lequel est publié cet article. 

► Law is slow, but firm. By its judgment of June 15, 2021, Facebook , the European Union Court of Justice widely interprets the powers of National Authorities, since they serve the people protection in the digital space (➡️📝(CJEU, June 15, 2021, Facebook). 

Law is slow. The reproach is so often made. But the bottom line is that, in the noise of changing regulations, it establishes clear and firm principles, letting everyone know what to stand for. The more the world is changing, the more Law is required.

When Law degenerates into regulations, then it is up to the Judge to make Law. "Supreme Courts" appear, de jure as in the United States, de facto as in the European Union by the Court of Justice of the European Union which lays down the principles, before everyone else, as it did for the "right to be forgotten" in 2014 (➡️📝CJEU, Google Spain, May 13, 2014), and then with the impossibility of transferring data to third countries without the consent of the people concerned (➡️📝CJEU, Schrems, October 6, 2015).

Facebook litigation is kind of a novel. The company knows that it is above all to the Courts that it speaks. In Europe, it is doing it behind the walls of the Irish legal space, from which it would like to be able not to leave before better dominating the global digital space, while national regulatory authorities want to take it to protect citizens.

There is therefore a technical question of "jurisdictional competence". The texts have provided for this, but Law is clumsy because it was designed for a world still anchored in the ground: the GDPR of 2016 therefore organizes cooperation between national regulatory authorities through a "one-stop-shop", forcing the authorities to relinquish jurisdiction so that the case is only handled by the "lead" National Authority. This avoids splintering and contradiction. But before the adoption of the GDPR, the Belgian data protection regulator had opened a procedure against Facebook concerning cookies. The "one-stop-shop" mechanism, introduced in 2016, is therefore only mentioned before the Brussels Court of Appeal, which is asked to relinquish jurisdiction in favor of the Irish Regulatory Authority, since the company has in Europe its head office in this country. The Court of Appeal referred to the CJEU for a preliminary ruling.

By its judgment of June 15, 2021 (➡️📝CJUE, Facebook, June 15, 2021), it follows the conclusions of its Advocate General and maintains the jurisdiction of the Belgian National Regulator because, even after the GDPR, the case still undergoes national treatment. In this decision, the most important is its reasoning and the principle adopted. The Court notes that the "one-stop-shop" rule is not absolute and that the national regulatory authority has the power to maintain its jurisdiction, in particular if cooperation between national authorities is difficult.

Even more, will it not one day have to adjust Law more radically? We need to consider the fact that the digital space is not bound by borders and that the ambition of "cross-border cooperation" is ill-suited. It is of course on this observation of inefficiency, consubstantial with the digital space, that the European Public Prosecutor's Office (EPPO) was designed and set up, which is not a cooperation, nor a "one-stop shop", but a body of the Union, acting locally for the Union, directly linked to Compliance concerns (➡️📝Frison-Roche, M.-A. "The European Public Prosecutor's Office is a considerable contribution to Compliance Law", 2021 and ., European Public Prosecutor's Office comes on stage: the company having itself become a private prosecutor, are we going towards an alliance of all prosecutors ?, 2021).

So that's what we should be inspired by.

► Compliance Law and Competition: for building, is it necessary to legislate ? Example of quasi-public interest judicial agreement: the French Competition Authority's Statement of June 3, 2021 on Facebook

The French law so-called "Sapin 2" of 2016, organized the "convention judiciaire d’intérêt public - CJIP" (Public Interest Judicial Agreement) which allows the prosecutor to undertake not to prosecute a company in returns for this company's commitments for the future. Is this mechanism reserved for this law, which only concerns corruption and bribery? The answer is often positive.

Is it so obvious?

Since the entity having the power to prosecute therefore always has the power not to prosecute. As the company always has the freedom to make commitments for the future. And everything stops.

News in Competition Law illustrate this. On June 9, 2021, as part of a transaction, the Autorité de la concurrence (French Competition Authority) sanctions Google (➡️📝 Communiqué of the Autorité de la Concurrence , translated in English by the French Competition Authority) , which has not contested the facts, for abuse of dominant position for having privileged its services in the online advertising services. Similar facts were alleged against Facebook. But on June 3, 2021, the Autorité de la concurrence (French Competition Authority) published a "communiqué de presse" (➡️📝statement translated in English by the French Competition Authority) saying that Facebook has, during the investigation, proposed commitments regarding its future behavior. It is remarkable that this statement on Facebook is published as an “acte de régulation” (regulatory act).

Yes, it is indeed an regulatory act about the future and structuring the online advertising area, internalized in this company which engages itself in its future behavior. With its statement, the Competition Authority invites the “acteurs du secteur” (actors of this sector) to make observations, for the development of what will be a sort of compliance program.

In these negotiations which are akin to a game table, where everyone calculates without knowing if they enter into a negotiation or a confrontation, the first game assuming that one shows more cards than in the second, it is indeed towards a kind of Public Interest Judicial Agreement that they are going with a Competition Authority which is both Judge and Prosecutor, concludes the agreement and, through a later decision, gives it force. Under the various legal qualifications, it is indeed the same general mechanism of Compliance Law, well beyond the specific French law known as Sapin 2.

Managed in this way, Compliance Law being an Ex Ante corpus, transforms the Competition Authority, an Ex Post Authority, into an Ex Ante Authority, openly taking "acte de régulation" (Regulatory Act), and allows it to rely on the power of companies, thus “committed”, to structure markets, which are however not regulated. Like advertising or retailing areas (➡️📝see Frison-Roche, M.-A., From Competition Law to Compliance Law: Example of French Competition Authority's decision on central purchasing body in mass distribution, 2020).

Thus Compliance Law has achieved the autonomy of Regulatory Law with regards to the notion, which nevertheless seemed intimate to it, of "sector".

► register to the French Newsletter MaFR ComplianceTech®