10 juin 2019

Blog

La politique de lutte contre le "discours de haine" et le cas du "triomphe de la volonté"

par Marie-Anne Frison-Roche

Le 5 juin 2019, Youtube a informé via son "blog officiel" (Official YouTube Blog) le renforcement de sa politique pour atteindre la lutte contre les contenus de haine, en raison de leur responsabilité sociale : we need "to live up to our responsability and protect the YouTube community from harmfum content".

Le slug du billet de blog "officiel" est plus clair encore : our-ongoing-work-to-tackle-hate.html.

On ne peut qu'être favorable à cette politique dans son principe, et ce d'autant plus qu'en ce qui concerne l'Europe ce sont les Autorités publiques, la jurisprudence et bientôt la Loi en ce qui concerne la France, qui exigent des opérateurs numériques cruciaux l'adoption d'une telle politique!footnote-1615

Le "billet officiel" prend deux cas et deux exemples : le premier porte sur la déinformation et l'affirmation que la terre est plate, le second porte sur l'incitation à la haine et la promotion du nazisme. Sur celui-ci, le "billet officiel" le fait en ces termes :

"Today, we're taking another step in our hate speech policy by specifically prohibiting videos alleging that a group is superior in order to justify discrimination, segregation or exclusion based on qualities like age, gender, race, caste, religion, sexual orientation or veteran status. This would include, for example, videos that promote or glorify Nazi ideology, which is inherently discriminatory. Finally, we will remove content denying that well-documented violent events, like the Holocaust or the shooting at Sandy Hook Elementary, took place.

We recognize some of this content has value to researchers and NGOs looking to understand hate in order to combat it, and we are exploring options to make it available to them in the future. And as always, context matters, so some videos could remain up because they discuss topics like pending legislation, aim to condemn or expose hate, or provide analysis of current events. We will begin enforcing this updated policy today; however, it will take time for our systems to fully ramp up and we’ll be gradually expanding coverage over the next several months.

 

Le 6 juin, un journaliste s'en inquiète en affirmant qu'avec une telle politique le film Le triomphe de la volonté, en ce qu'elle met en scène le nazisme et constitue un film de propagande de ce mouvement est donc condamné à disparaître de l'espace numérique

Il titre son article : "YouTube Pulls ‘Triumph of the Will’ For Violating New Hate Speech Policy".

Il proteste en disant que dans toutes les universités le film a été montré pour souligner à quel point le cinéma peut être un médium en politique : "Riefensahl's harrowing depiction of the Nuremberg Rallies remains an essential loof at the ideological power of the moving image, and how it can be co-opted on a mass scale" ; "the movie also illuminates how a nation can filter its own realities through recorded media". 

Il soutient qu'à ce compte les films d'Eistenstein, Potemkin, devrait être retiré, ce qu'il n'est pas, et soutient que cela devrait aussi le cas pour Naissance d'une Nation de Griffith, qui ne l'est pas davantage. 

Découvrant dans une chaine que Youtube diffuse au titre des "archives historiques", une prise de position est prise sur le caractère inadmissible du "Triomphe de volonté", il estime que le retrait de ce film-là est donc le reflet d'une prise de position qui n'est pas neutre.

Il conclut son article de la façon suivante : "It raises major issues surrounding the platform's capacity as a historical archive, and how much viewers can be trusted to do some of the legwork on their own. These are the challenges that no algorithmes can solve.".

_____

 

Pourtant effectivement, le film est désormais indisponible sur Youtube, l'internaute ne trouvant que le message suivant (dans la langue que son adresse IP suppose être la suivante : "Cette vidéo a été supprimée, car elle ne respectait pas le règlement de YouTube concernant les contenus incitant à la haine. Découvrez comment lutter contre l'incitation à la haine dans votre pays.". Il est possible en cliquant sur "En savoir plus".

En cliquant, l'on arrive à un document de "Règles concernant l'incitation à la haine".  Il s'adresse aux personnes qui mettent des contenus, les prévient de ce qui sera supprimé par Youtube et pourquoi, donne des exemple. Signale que cela résulte des mesures supplémentaires adoptées par YouTube le 5 juin. Renvoie par click  à ce document. L'internaute arrive au document précité en anglais du "blog officiel".

 

Qu'en penser en Droit ?

Lire ci-dessous.

1

Frison-Roche, M.-A.,  L'apport du Droit de la Compliance à la Gouvernance d'Internet, rapport remis au Gouvernement, 2019. 

I. EN DROIT, LES DEUX ONT RAISON ; L'APORIE QUI EN RESULTE

Dans le cas présent, les deux ont raison. Youtube, filiale de Google, "opérateur numérique crucial", a non seulement le droit, mais encore le devoir de lutter contre le discours de haine et la mise en scène triomphale du nazisme lors du rassemblement de Nuremberg peut être qualifié comme un des "joyaux" (A). Mais non seulement comme le souligne le journaliste ce film-là, Le triomphe de la volonté, est un objet d'étude pour tous les historiens, les politistes, les sociologues, ceux qui étudient le cinéma, mais encore il pourrait prétendre entrer dans la catégorie des "oeuvres d'art", car il met en scène (B). Nous avons donc bien à faire à une contradiction car au premier titre, il faut supprimer l'accès et au second titre il faut maintenir l'accès.

 

A. LE DEVOIR DES OPERATEURS NUMERIQUES CRUCIAUX DE LUTTER CONTRE LES DISCOURS DE HAINE ET DE VEILLER A L'EFFECTIVITE EN FRANCE DE LA PROPAGATION DU DISCOURS ANTISEMITE

Les "discours de haine" constitue une catégorie qui peut sembler un peu générale mais une loi prochaine va être prise à ce propos et l'on s'accorde aujourd'hui sur sa définition.

Les opérateurs numériques cruciaux, dont YouTube et Google font indéniablement partie, sont obligés de lutter contre les discours de haine. Ainsi leur "politique" ne fait que coïncider avec les obligations qui résultent à leur encontre du système juridique lui-même.

Cela est encore plus net lorsque ce discours de haine coïncide avec le discours antisémite. Même si l'articl prend soin de distinguer l'objet du film Le triomphe de la volonté et la "solution finale", c'est-à-dire l'extermination de tous les juifs jusqu'au derniere, les dates n'étant pas les mêmes, la mise en triomphe d'Hitler, son livre Mein Kampf et l'extermination des juifs ne sont pas dissociables, ni en soi ni dans l'esprit des internautes.

En outre, même si cela est différent aux Etats-Unis, l'appel à la haine raciale et à l'antisémitisme est interdit par le Droit pénal en France. Ainsi, un opérateur numérique qui laisse se diffuser un tel discours peut être lui-même poursuivi s'il ne ferme pas l'accès à un tel discours.

A ce titre, Youtube a donc raison d'appliquer, à travers sa politique qu'il présente comme une source de droit autonome ("blog officiel" ; "réglement" ...) mais qui n'est que la reprise de règles dont il est contraint de reprendre à sa charge l'obligation d'effectivité par le mécanisme de compliance!footnote-1617.

Mais ces contradicteurs ont dans leur perspective également raison....

 

B. LE TRIOMPHE DE LA VOLONTE, OBJET D'ETUDES, OBJET D''ART, INSUSCEPTIBLE DE SUPPRESSION EN EX ANTE

Tout d'abord, comme le souligne l'article qui conteste la décision de retrait prise par Youtube, supprimer ce film-là, c'est supprimer un sujet d'étude indispensable en Histoire, en sciences politiques, en sociologie, en sémiologie, en études sur le cinéma lui-même. 

Cela ne peut être l'argument principal parce qu'en tant qu'objet d'études, par exemple à l'Université (lieux qui sont cités par le journaliste), le film est disponible comme sont disponibles toutes les archives que les auteurs de tant d'atrocités avaient soigneusement conservés et classés.

La question est plutôt ailleurs et elle est double. Elle est d'abord celle du pouvoir de l'opérateur privé qui décide pour le bien de l'internaute dans un "cas-limite", comme celui-ci. Elle est ensuite celle du caractère artistique du document, argument implicitement évoqué par le journaliste puisqu'il cite d'autres cinéaste. 

Parce qu'Hitler en est le sujet ? Les dieux du stade vont-ils être épargnés, parce que ce ne sont plus que les athlètes qui sont portés en triomphe ? Mais c'est tout autant le "triomphe de la volonté" et des athlètes dont le physique correspond à la "loi du sang", concept central auquel le système normatif nazi peut se ramener, qui y sont portés en triomphe. 

La même discussion eut lieu à propos de la réédition de Mein Kampf : l'association PreventHate a montré que cette réédition était nécessaire, menée par des scientifiques, assortie d'un appareil critique. seul moyen lutter contre l'usage de l'ouvrage que la disparition rend plus encore "mythique", que les propagateurs expurgent pour le rendre "admissible" dans le monde numérique, devenant ainsi plus encore dangereux et dommageable pour ceux qu'il atteint largement.

Cet article évoque d'autres cinéastes et pas des moindes, sans doute pour heurter le lecteur qui dira "non?" et mieux le ramener ensuite au cas de Leni Riefenstahl (et alors pourquoi Non pour elle ?) : Eisenstein et Griffith.

Il sous-entend que pour les récuser, et préserver l'accès à leur chef d'oeuvre, l'un Potemkine , l'autre Naissance d'une nation, il faut évoquer ce qui serait l'immunité artistique. Cela renvoie au débat qui ne peut être défendu d'ouvrir ni jamais se clore : le dimension artistique de l'objet et le talent de celui qui le réalise permet-t-il tout ?

La publication récente des écrits antisémites de Céline redonna de la vigueur au débat. 

Et malgré la vigueur des propos des uns et des autres, l'on ne sait pas vraiment quoi faire....

 

II. LA SOLUTION EN DROIT, ORGANISER UN SYSTEME PLUS FIN DE POUVOIR DE SUPPRESSION EX ANTE ET DE POSSIBILITE DE RESTAURATION DU CONTENU CONTREVERSE SUR LA PLATEFORME EN EX-POST

Sans doute faut-il affiner le système et plutôt que de tout confier dans une sorte d' "Ex Ante massif" à l'opérateur, faudrai-il organiser un système en deux temps (A). 

 

A. ORGANISER UN SYSTEME EN DEUX TEMPS

En effet, comme le souligne très bien le journaliste en conclusion de son article : "These are the challenges that no algorithm can solve".

Il convient donc de faire en deux temps.

Dans un premier temps, l'opérateur doit supprimer un contenu qui paraît relever de la catégorie à exclure, par exemple cette nouvelle catégorie de "discours de haine", par exemple parce qu'il s'agit d'un film avec des croix gammés à chaque instant. 

Mais dans un second temps, il faut que toute personne qui y a intérêt, dans le sens large où le droit du contentieux administratif l'entend, puisse requérir sa restauration sur le plateforme ou son caractère de nouveau accessible par un moteur de recherche, etc!footnote-1618.

Après cette procédure très rapide, qui relève d'une procédure jurdique "gracieuse", il convient de prévoir du "contentieux différentt".

 

B. ORGANISER UN MECANISME DE DIFFUSION AVEC UNE ALERTE ?

En outre, et reprenant une idée proposée à propos de la diffusion dans le numérique de Mein Kampf , voire des écrits antisémites et pro-nazis de Célineil peut être plus judicieux d'organiser une diffusion avec une alerte, voire une pédagogie.

Cela fût expressément proposé plutôt que d'inciter les internautes ce qui ressemble parfois aux "délices de l'illicite". 

La diffusion se ferait alors avec des alertes, voire de la pédagogie, par exemple sur l'atrocité de la pensée nazie, et sur les atrocités qu'elle produisit.

Mais cela, comme le Droit de la Compliance, c'est alors à une Autorité publique de le concevoir, oeuvre par oeuvre, tandis que c'est à l'opérateur numérique qui propage de l'instiller à travers la diffusion.

 

________________

1

Frison-Roche, M.-A.,  L'apport du Droit de la Compliance à la Gouvernance d'Internet, rapport remis au Gouvernement, 2019. 

2

Pour plus de détail, v. Frison-Roche, M.-A.,  L'apport du Droit de la Compliance à la Gouvernance d'Internet, rapport remis au Gouvernement, 2019.

les commentaires sont désactivés pour cette fiche