Référence complète : Gibert, M., Faire la morale aux robots. Une introduction à l'éthique des algorithmes, Flammarion, 2021, 168 p.

Lire le commentaire de l'ouvrage sur le site NonFiction. 

► Référence complète : Frison-Roche, M.-A., Quand on s'intéresse à la Compliance, lire "La Haine"​ de Günther Anders, 1ier août 2022.

___

► Introduction de l'article : Philosophe allemand, Günter Anders connut la Seconde Guerre mondiale, dût quitter l'Allemagne et vécut dans plusieurs pays. C'est avant tout un philosophe moral, habité par le pessimisme et l'idée que le nazisme n'était qu'une répétition générale, plutôt artisanale, de ce que nous attend : L'obsolescence de l'homme, son livre-maître qui en 1956 décrit le système économique comme ce qui broie les êtres humains en les réduisant à n'être plus que des êtres qui entretiennent des machines qui produisent des produits inutiles qu'ils consomment, les humains n'étant eux-mêmes que des machines désirantes.

En 1985 dans un volume paru en langue allemande et composé d'articles tous consacrés au thème de La haine, il donna comme contribution les éléments de travail de ce qu'il avait conçu comme dernière partie de son oeuvre démontrant l'appareillage obtenant "l'obsolescence de l'homme", dernier livre qu'il ne publia jamais.

Extrait de ce volume, ces documents de travail furent traduits en français et présentés par Philippe Ivernel : le titre en est La Haine.

I. LA FABRIQUE DE LA "HAINE COMME PRODUIT DE CONSOMMATION" POUR ENGENDRER DES COMBATS, PRODUCTEURS A LEUR TOUR DE HAINE : L'ARTICULATION DES DEUX HAINES

Anders est un penseur de la technique, de la technologie (comme l'est Jacques Ellul), expliquant qu'elle n'appartiendra plus à une élite mais au contraire à chacun dans notre vie quotidienne, se mettant ainsi au centre de tout, remplaçant notamment la politique, les êtres humains mécanisés devenant la matière première des machines.

Le titre original, La Haine à l'état d'antiquité désigne le fait que la société de consommation réduisant l'être humain à son aptitude à entretenir des machines et à se comporter lui-même comme une machine consommant les produits fabriqués par des machines, l'être humain ayant pour seul fonction de désirer consommer ce que produisent les machines, et désirant donc finalement rien d'autres qu'entretenir et développer les machines qui l'engloutissent sous tous ces biens, n'a plus de pensée que pour ce monde entièrement voué aux machines.

L'Amour et la Haine sont ainsi reléguées "à l'état d'antiquité" car pour trouver sa place dans ce système de désirs qui convergent vers les machines, il n'est besoin ni d'Amour ni de Haine. Il expose que cela se passe dans deux temps. Dans un premier temps, la Haine est fabriquée pour amener les humains à se battre contre des ennemis qu'ils ne connaissent même pas ; dans un second temps, ils sont suffisamment mécanisés pour attaquer sans que l'énergie de la Haine soit même nécessaire.

Le premier fragment de ses documents de travail expose la façon dont les êtres humains "aiment la Haine" car cela donne à chacun le sentiment d'exister : la Haine. "Je hais, donc je suis. Ou plus précisément : Donc je suis quelqu'un" (p.33).

Il reprend cette idée dans le deuxième fragment dont le titre est (en français dans l'édition allemande) : L'appétit vient en mangeant. Il expose que la Haine n'est pas au départ contre une personne particulière et pousse à l'attaquer. La Haine est à l'état pur, mais c'est plutôt l'atmosphère de haine et "l'amour de la haine". Il suffit de la cultiver et la tourner ensuite à volonté contre un tel ou un tel.

Il évoque ainsi une sorte d'industrie de la haine, en des termes qu'il met dans la bouche du personnage qui dirige la cité : "Sans doute est-il exact qu'ils combattent "leurs ennemis" parce qu'ils les haïssent. Sauf que cette haine envers "leurs ennemis" n'explose précisément pas en s'allumant d'elle-même-meme, ni parce que les premiers leur auraient fait quoi que ce soit. Mais uniquement par ceci que (et donc parce que) je leur livre la haine à chaque fois exigible. Ils la reçoivent de moi gratuitement à domicile. Exactement comme l'eau, le gaz et la TV. Et cette haine qui leur est acheminée, ils la consomment alors, et dans tout à fait dans mon sens à moi : car ils s'engagent, en effet, pleins de haine dans la lutte politiquement opportune. Après quoi commence aussi réellement ce dont vous venez de parler : la deuxième phase de la haine. Car à présent ils haïssent réellement du fait qu'ils combattent. La règle de la haine s'énonce comme suite : "Je combats quelqu'un - de ce fait je me mets à le haïr. L'appétit vient en mangeant, la haine vient en luttant". Ils se battent ainsi "avec appétence" et sont persuadés le faire "avec dignité", devant rester dans l'ignorance de l'absence de raison du combat (qui est la pure volonté de celui qui leur a envoyé la Haine).

Günther Anders fait ensuite expliquer par le personnage politique qu'il fait cela par moralité car il ne veut pas que les hommes en tuent d'autres juste par obéissance à ses ordres, ce qu'ils trouveraient immoral. Il leur fabrique alors de la Haine, de la Haine qu'ils aiment, qu'il dirige ensuite sur des groupes de personnes et ainsi dotés de cette première haine, ils attaquent ceux qu'ils haïssent, le combat accroissant par une seconde haine la première, et tout le système fonctionne bien. Il lui fait ainsi conclure : "C'est pourquoi ils ont besoin de haïr. C'est pourquoi je leur accorde de haïr. C'est pourquoi je leur ordonne de haïr.".

Le troisième fragment porte sur la guerre proprement dite. Anders expose que la Haine n'y est aujourd'hui plus requise parce que la technique permet aux soldats de n'être plus en contact avec les personnes qu'ils combattent, ni même d'être confrontés aux cadavres. La fabrique de la Haine serait donc devenue inutile. C'est pour cela aussi qu'elle aurait vocation à être rangée dans les antiquités... Les soldats sont devenus comme des robots.

Le quatrième fragment développe ce point, sur des soldats "aveugles en telos", au point qu'on pourrait davantage les qualifier "d'employés" des armées que de soldats, exécutant leur travail sans savoir sur qui ou quoi ils larguent les bombes, chacun étant désormais comme à l'arrière du front. Anders souligne que dans ce combat sans haine, mené par les ordinateurs, le combat ne prend jamais fin.

II. UNE EXTRAORDINAIRE ANTICIPATION DU SYSTEME COMMERCIALE ET POLITIQUE E DE HAINE

A. DISTINCTION DES DEUX HAINES ET ROBOTISATION DES ETRES HUMAINS

L'œuvre de Gunther Anders est particulièrement profitable pour comprendre le monde dans lequel nous vivons. Dans cette ébauche d'ouvrage, retenons l'idée d'une double haine : la Haine fabriquée comme un objet et apportée gratuitement à tout le monde car il y a chez chacun un "amour de la haine" qui est en soi, puisqu'en haïssant, on se sent exister.

La Haine est un objet économique pur, car elle n'a pas d'objet particulier. Elle est fabriquée, cultivée, diffusée, accrue, partagée. Ce n'est que dans un second temps, après avoir ainsi inséré de la Haine pure dans l'esprit des amoureux de la Haine, que l'on peut lui affecter un objet, une personne ou un groupe de personnes et qu'un combat contre ceux-ci peut commencer, producteur d'un second type de Haine. Les deux Haines s'accroissent l'une l'autre.

Le premier intérêt de cette conception est d'isoler ce premier temps de la Haine : une Haine à l'état pur, celle qui existe car haïr permet d'exister, indépendamment de l'objet de la haine. Ce n'est pas donc pas l'objet qui fait naître la Haine, mais l'amour de soi qui fait naître la Haine. Dans un second temps, c'est le hasard ou la manipulation d'un tiers (dans l'exemple pris par Anders le dirigeant politique, mais nous connaissons des influenceurs en dehors du cercle politique) qui offre à la Haine son objet. Mais Anders insiste sur le fait que ces objets sont substituables.

Par cette Haine fabriquée, les êtres humains ont donc l'impression d'exister. C'est alors un stade pire et paradoxal qui s'annonce : celui des êtres humains sans haine, parce qu'on leur aura ôté l'objet de Haine, alors même qu'on leur commande (comme à des "employés") de tuer des semblables, en les mettant technologiquement à distance de l'objet à détruire (Anders prend l'exemple du lancer de bombe). Ils deviennent des robots, et la déshumanisation est ainsi achevée.

C'est en cela que les 4 fragments constituent pleinement la dernière partie de l'œuvre centrale qu'est L'obsolescence de l'Homme.

B. LE MONDE NUMERIQUE, LES RÉSEAUX SOCIAUX ET L' "INTELLIGENCE ARTIFICIELLE"

Le travail publié en 1985 correspond à des réflexions élaborées juste après la Seconde Guerre mondiale et puisant dans les leçons de la Première.

Mais si l'on regarde le monde numérique dans lequel nous vivons, il est en premier lieu construit sur des technologies "neutres", une industrie de l'information qui transforme les êtres humains en consommateurs d'information et en source d'information, constituant eux-mêmes une masse de micro-informations.

En deuxième lieu, les plateformes, et plus particulièrement les réseaux sociaux, sont des espaces neutres, les entreprises qui les tiennent ne sont pas des éditeurs, et le produit pur qui y circulent le mieux est de la "Haine pure", qui est ce qui rapporte à ces entreprises le plus de revenus, les différents objets de haines étant interchangeables.

La Haine est devenue un objet qui est délivré à domicile et dont nous sommes abreuvés en permanence, notre "amour de la Haine" étant alimentée en continu, et sans doute accru.

En troisième lieu, les algorithmes sont présentés comme "intelligents", c'est-à-dire dotés d'une capacité non seulement d'apprentissage mais de choix et de discernement. L'intelligence artificielle serait le progrès, c'est-à-dire la disparation de la haine pour exemple pour prononcer les sanctions les plus adéquates. Les chiffres ont donc remplacé les êtres humains, ce qu'Anders visait à travers les "ordinateurs".

III. LE PROFIT QUE LE DROIT DE LA COMPLIANCE PEUT FAIRE DE LA PENSÉE DE GUNTHER ANDERS

A. LE DROIT DE LA COMPLIANCE, DROIT AYANT LA PRÉTENTION DE RÉDUIRE LA HAINE DANS L'ESPACE NUMÉRIQUE

Le Droit de la Compliance est une branche du Droit construit sur des prétentions politiques qui visent à concrétiser des "buts monumentaux".

🔴Marie-Anne Frison-Roche, 📝Les Buts Monumentaux, cœur battant du Droit de la Compliance, in Marie-Anne Frison-Roche (dir.), 📕 Les buts monumentaux de la compliance, Journal of Regulation & Compliance et Dalloz, coll. 📚Régulations & Compliance, 2022, p.21-44.

La lutte contre la diffusion de ce qu'il est pertinent de désigner comme l'amour naturel de la haine pure, qui se répand d'une façon virale dans l'espace numérique permettant à la haine d'être "portée à domicile" est une des objets majeurs du Droit de la Compliance.

Le Digital Services Act est imprégné de techniques de Compliance pour y parvenir.

Il ne s'agit pas de compter sur la moralité des personnes, puisque le cœur des humains est d'aimer la haine, ni de les remplacer par des machines car le remède est pire que le mal (la déshumanisation) mais sur la performance technique de ceux qui tiennent ce système économique-là : les plateformes elles-mêmes.

🔴M.A. Frison-Roche, 📝Se tenir bien dans l'espace numérique, in Mélanges en l'honneur de Michel Vivant, Penser le droit de la pensée, Dalloz et Lexis Nexis, 2020, pp. 155-168.

En combattant le feu par le feu, c'est-à-dire en obligeant ceux qui ont construit les techniques par lesquelles se diffusent la Haine à construire et à utiliser les techniques de contrôle, de détection et de prévention de celle-ci, le Droit de la Compliance, notamment grâce à son effet naturellement extraterritorial, exprime la prétention de ne pas laisser la Haine régner.

En outre, les Autorités publiques non seulement régulent mais encore supervisent les entreprises et leurs technologies, en l'espèce l'Arcom et la CNIL, dont les pouvoirs Ex Ante s'accroissent.

🔴R.-O. Maistre, Quels buts monumentaux pour le Régulateur dans un paysage audiovisuel et numérique en pleine mutation ?, in Frison-Roche, M.-A. (dir.), Les buts monumentaux de la Compliance, série "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2022.

B. LA DÉFINITION TÉLÉOLOGIQUE DU DROIT DE LA COMPLIANCE

L'œuvre d'Anders est parcourue par le désespoir moral d'êtres humains "sans telos", c'est-à-dire sans finalités qui leur soit propres. C'est ainsi qu'ils peuvent être saisis aisément par l'amour de la Haine, puisqu'aucun projet propre n'occupe leur temps et leur force.

Il peut en être de même pour la force du Droit.

Si le Droit ne devait être qu'une technique "réglementaire", "neutre", visant à "l'efficacité" des désirs de chacun et des réglementations accumulées, alors le Droit ne ferait qu'ajouter à la déshumanisation décrite par Anders.

Mais le Droit de la Compliance est par nature une branche du Droit téléologique : elle se définit par ses buts. Et ceux-ci sont "monumentaux".

Ces buts monumentaux ponctuels peuvent tous se ramener à ceci : protéger les êtres humains, afin que la description d'Anders ne soit pas exacte en son cœur désespéré.

🔴M.-A. Frison-Roche, 🚧 Fonder la Compliance, 2022

Pour lire l'article en français, cliquer sur le drapeau français.

This working paper serves as a support for an article published in French in the Recueil Dalloz.

In Lisbon, in the Web Summit of November 2017, a machine covered with a skin-like material and a sound-producing device gave a speech in public at this conference on digital. For example, a French article tells the event by this title : Le premier robot citoyen donne sa propre conférence au web summit  (The first citizen robot gives his own conference to the web summit).

Some time later, reports show the same robot walking and taking more than 60 facial expressions, the text laudatif that accompanies the images designating the automaton by the article: she.!footnote-1262.

The machine, which falls legally within the category of "things", is thus presented as a person.

Let's look elsewhere.

Women, who are human beings, sign contracts by which they agree to give birth to children, with whom they claim they have no connection, that they are not mothers, that they will hand them over immediately at the exit of their belly to those who desired their coming, this desire for parenthood creating by hitself the true and only link between the child and his "parents of intent". The mother-carrier is often openly referred to as "oven".

The woman, who falls legally within the category of the "person", is thus presented as a thing.

The two sensational phenomena are of the same nature.

They call two questions:

1. Why? The answer is: money. Because both are the result of the new construction of two fabulous markets by supply.

2. How? The answer is: by the destruction of the distinction between the person and things.

The distinction between person and things is not natural, it is legal. It is the base of the western legal systems, their summa divisio.

If this distinction disappears, and for money to flow, it must actually disappear, then the weak human being will become the thing of the strong one.


Read below the developments.

► Référence complète : M.-A. Frison-Roche, La disparition de la distinction de jure entre la personne et les choses : gain fabuleux, gain catastrophique, in Recueil Dalloz, n°41, 30 novembre 2017, pp. 2386-2389.

____

► Résumé de l'article : Les robots se présentent comme des personnes, des systèmes juridiques leur conférant ce statut. Des femmes se présentent comme des purs et simples moyens, réification avalisée par certains. La cause est commune : les profits sans limite pour les concepteurs d'un marché mondial où des machines humanoïdes offrent toutes prestations sans limite, notamment sexuelles, miroir du marché des femmes, objets sexuels ou reproducteur (GPA). Cette évolution juridique archaïque est bloquée par la summa divisio entre la personne et les choses. Le Politique doit maintenir cette distinction qui n'est pas de fait mais "de droit".

____

lire le document de travail bilingue ayant servi de base à l'article.

____

📝Lire l'article.

________

Through the Open Culture website, it is possible to listen to Hayao Miyazaki who, in March 2017, claimed that video games whose drawings are made on Artificial Intelligence basis are "insults to life".

Read below the history, the words that the Master has held, his conception of what is creation and "truly human" work, which is echoed by the definitions given by Alain Supiot, who also reflected on what robots do.

This brings us back to the very notion of "creation" and creative work.
 

_____

Read below

Le droit est un système qui ne fonctionne bien qu’à base de qualifications, de définitions et de catégories fondamentales. Or, il semble que l’on s’achemine vers une accumulation de dispositions pointilleuses et disparates pour réagir au coup par coup à propos de tels ou tels type de robots. Si l’on reprend une vision plus globale et plus classique, l’on doit constater que les robots à la fois remettent en question la summa divisio entre "personne" et "choses", sur laquelle tout le droit occidental s’est construit, et qu’il paraît difficile de s’en passer. Pragmatiquement, l’on ne doit pas écarter la confrontation du couple infernal "personne/chose" forgée par le droit romain avec le phénomène multiple des robots.

Pour accéder à la problématique détaillée et au plan de l'intervention, voir ci-dessous.