Technologie

► Référence complète : E. Netter, « Les technologies de conformité pour satisfaire les exigences du droit de la compliance. Exemple du numérique », in M.-A. Frison-Roche (dir.), L'obligation de Compliance, Journal of Regulation & Compliance (JoRC) et Dalloz, coll. "Régulations & Compliance", 2025, pp. 355-367. - 📕lire une présentation générale de l'ouvrage, L'obligation de Compliance, dans lequel cet article est publié - ► Résumé de cette contribution (fait par le Journal of Regulation & Compliance) : L’auteur distingue la Compliance qui renvoie aux buts monumentaux et la conformité, qui sont les moyens concrets que l’entreprise utilise pour tendre vers eux, par des procédés, des checks-liksts dans le suivi desquels l’opérateur rend des comptes (art. 5.2. RGPD). La technologie permet à l’opérateur de satisfaire à cette exigence, le caractère changeant des technologies s’ajustant bien au caractère très général des buts visés, qui laissent un large place aux entreprises et aux autorités publiques qui produisent du droit souple. L’étude s’attache tout d’abord aux technologies existantes. A ce titre, le Droit peut par la Compliance interdire une technologie ou en restreindre l’usage, parce qu’elle contrarie les buts visés, par exemple la technologie de la décision entièrement automatisée produisant des effets juridiques sur des personnes. Parce que l’exercice est périlleux de dicter par la loi ce qui est bon et ce qui est mauvais en la matière, la méthode est plutôt celle de l’explicabilité, c’est-à-dire de la maîtrise par la connaissance par les autres. Les Régulateurs développent pourtant de nombreuses exigences issues des Buts Monumentaux de la Compliance. Les opérateurs doivent mettre à jour leur technologie ou abandonnent la technologie obsolescente au regard des nouveaux risques ou pour permettre une concurrence effective ne n’enfermant pas les utilisateurs dans un système clos. Mais la puissance technologique ne doit pas se retourner et devienne trop intrusive, la vie privée et la liberté des personnes concernées devant être respectées, ce qui conduit aux principes de nécessité et de proportionnalité. L’auteur souligne que les opérateurs doivent se conformer à la réglementation en recourant à certaines technologies, si elles sont disponibles, voire de contrecarrer celles-ci si elles sont contraires aux buts de la réglementation mais uniquement toujours si elles sont disponibles, la notion de « technologie disponible » devenant donc le critère de l’obligation ce qui en fait varier le contenu au fil des circonstances et du temps, notamment en matière de cybersécurité. Dans une seconde partie, l’auteur examine les technologies qui ne sont que potentielles, celles que le Droit, notamment le Juge, pourrait requérir de l’entreprise qu’elle les invente pour remplir son obligation de compliance. Cela se comprend bien lorsqu’il s’agit de technologies en germe, dont la réalisation va se réaliser, par exemple en matière de transfert de données personnelles pour satisfaire le droit à la portabilité (RGPD) car il faut inciter les entreprises à développer des technologies qui leur sont d’un profit moins immédiate ou en matière de paiement sécurisé pour assurer une authentification forte (DSP 2). Cela est plus difficile pour des technologies dont la faisabilité n’est pas même certaine, comme la vérification de l’âge en ligne ou l’interopérabilité des messageries sécurisés, deux exigences qui paraissent technologiquement contradictoires dans leurs termes , ce qui relève donc encore de la « technologie imaginaire ». Mais par la Compliance la pression exercée sur les entreprises, notamment les entreprises technologiques du numérique est telle que les investissements sont considérables pour y arriver. L'auteur conclut que c'est pourtant l'ambition même de la Compliance et que l'avenir verra quel en sera le succès.  - 🦉Cet article est accessible en texte intégrale pour les personnes inscrites aux enseignements de la professeur Marie-Anne Frison-Roche -

► Référence complète : M.-A. Frison-Roche, Compliance law as a Royal Road for regulating the digital space, Working Paper, mai 2025 - 📝 Ce Working Paper est le sous-jacent anglais de l'article "Le Droit de la compliance, voie royale pour réguler l'espace numérique", in 📚Enjeux numériques, 📗Régulation et Compliance", juin 2025. - ► Résumé en français du Working Paper :  Pour décrire la place du Droit de la Compliance afin de réguler l'espace numérique et pour en conclure que cette nouvelle branche du Droit constitue la « voie royale » pour cela, l'étude procède en 6 étapes. Premièrement et à première vue et conceptuellement il existe un fossé entre l'idée politique de Régulation et les idées (liberté et la technologie comme « loi ») sur lesquelles l'espace numérique s'est construit et se déploie. Deuxièmement, en pratique, un fossé aussi immense existe entre les modes ordinaires du Droit de la Régulation, qui s'adosse à un Etat et l'organisation de l'espace numérique tenue par ces opérateurs économiques à la fois américains et globaux. Troisièmement, la prétention, de nature politique, de civiliser l'espace numérique demeure pourtant et s'accroît, se concrétisant en s'appuyant sur la force même des entités en mesurer de concrétiser cette ambition, ces entités étant les opérateurs numériques cruciaux eux-mêmes, saisis en Ex Ante. Quatrièmement, cela correspond à la conception et pratique d'une nouvelle branche du Droit, le Droit de la compliance, qui ne doit pas se confondre avec la « conformité » et qui est normativement ancré dans ses « Buts Monumentaux ». Cinquièmement, ce Droit opère une internalisation des buts monumentaux dans ces opérateurs numériques qui les diffusent en structures et en comportements dans l'espace numérique. Sixièmement, s'articulent alors par un intermaillage entre les législations, les décisions de justice et les comportements des entreprises, des concrétisations de gré ou de force des Buts Monumentaux qui peuvent civiliser l'espace numérique sans que la liberté y perde son primat. - 🔓lire le document de travail ci-dessous (en anglais)⤵️ - 🌐suivre Marie-Anne Frison-Roche sur LinkedIn 🌐suivre Marie-Anne Frison-Roche sur Instagram 🌐s'abonner à la Newsletter MAFR Regulation, Compliance, Law 🌐s'abonner à la Newsletter en vidéo MAFR Surplomb 🌐s'abonner à la Newsletter MaFR Droit & Art

► Référence complète : C. Leveneur, Les smart contracts. Étude de droit des contrats à l'aune de la blockchain, préf. C. Pérès, Dalloz, coll. « Nouvelle Bibliothèque de Thèses », vol. 236, 2024, 621 p. - 📗lire la 4ième de couverture - 📗lire le sommaire de l'ouvrage  - 📗lire la table des matières de l'ouvrage - ► Résumé de l'ouvrage (fait par l'éditeur) : "La recherche menée sur les smart contracts a pour objectif de comprendre et d'analyser une innovation technologique à la lumière du droit des contrats, afin de permettre l'utilisation de ces instruments au service de l'efficacité économique des contrats, grâce à des adaptations à la fois technologiques et juridiques. Des programmes informatiques auto-exécutants, appelés «smart contracts », peuvent être déployés sur des blockchains afin d'exécuter automatiquement des actions prédéfinies, répondant à des conditions déterminées. Une fois enregistré sur une blockchain, le programme est à la fois vérifiable par tous et immuable, ce qui constitue une véritable garantie pour les parties qui l'utilisent. De plus, le smart contract bénéficie d'une autonomie dans l'exécution dès lors que les conditions prédéfinies sont indiquées comme remplies, chassant l'aléa ou l'erreur humaine. Dans une blockchain, toutes les transactions sont en réalité opérées par des smart contracts. Le smart contract le plus simple envoie des fonds d'une adresse A vers une adresse B. Des smart contracts plus élaborés permettent de programmer des conditions, et par exemple de proposer des prêts à intérêts, de mettre en place des garanties, etc. C'est ce que l'on appelle la finance décentralisée (DeFi). Un smart contract peut également être programmé pour créer des crypto-actifs, par exemple des jetons numériques (tokens), les vendre, prévoir l'équivalent d'un droit de suite, etc. Les jetons non fongibles (NFT) fonctionnent ainsi grâce à des smart contracts. Les smart contracts sont les rouages indispensables de cette grande « machine de confiance » qu'est la blockchain. Parmi tous les smart contracts, une forme est apparue particulièrement intéressante pour une analyse juridique. lI s'agit du cas où le smart contract semble non seulement faire vivre une relation contractuelle, mais aussi matérialiser une offre et un mode d'acceptation. Ainsi, au-delà d'être de simples rouages techniques pour des cas d'usage de al blockchain, les smart contracts peuvent être utilisés au service de l'exécution de contrats déjà formés, voire être le support et l'expression de contrats à part entière. Tele est la thèse soutenue dans cette étude.". -

► Référence complète : Commission de l'intelligence artificielle, présidée par Ph. Aghion et A. Bouverot, IA : notre ambition pour la France, Rapport remis au Premier ministre, mars 2024, 130 p. - 📓lire le rapport -

► Référence complète : P. Barban, « Le cadre européen relatif aux technologies de registre distribué et à la blockchain – Analyse critique des nouvelles techniques législatives en droit de l’Union », Revue des Affaires Européennes (R.A.E.), 2023/2, pp. 487-500 - ► Résumé de l'article (fait par l'auteur) : "The emergence and deployment of distributed ledger technology, including blockchain, has led to the emergence of tokens that are traded and speculated on. The European Union has decided to regulate these tokens. Faced with a protean object and a risk of destabilising the regulatory structure of financial law, it has used several new legislative techniques, namely experimentation and replication. The aim of this study is to analyse both the substance of these regulations and to take a critical look at these new methods, which are likely to be used again in the future." (Free translation : "L'émergence et le déploiement de la technologie des registres distribués, dont la blockchain, a conduit à l'émergence de jetons qui font l'objet d'échanges et de spéculations. L'Union européenne a décidé de réglementer ces jetons. Face à un objet protéiforme et à un risque de déstabilisation de l'édifice réglementaire du droit financier, elle a eu recours à plusieurs nouvelles techniques législatives, à savoir l'expérimentation et la réplication. L'objectif de cette étude est d'analyser à la fois le contenu de cette réglementation et de porter un regard critique sur ces nouvelles méthodes, susceptibles d'être réutilisées à l'avenir.") - 🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche -

► Référence complète : J. Groffe-Charrier, « Contrôle de l’âge du public de contenus pornographiques : l’ouverture de la boîte de Pandore ? », Communication-Commerce électronique, n° 9, septembre 2023, pp. 1-4 - ► Résumé de l'article (fait par l'auteure) : "La protection des mineurs en ligne se traduit notamment, pour le Gouvernement, par la nécessité de contrôler l’âge des utilisateurs de sites proposant des contenus pornographiques, afin d’épargner les plus jeunes. Toutefois, si l’objectif est louable, les solutions envisagées ne sont pas sans risque et mettent en lumière les limites de la règle légale.". - 🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche -

► Référence complète : B. Lehaire, L'innovation hors-la-loi. Les origines de la techno-normativité, Bruylant, coll. « Penser le droit », 2022, 275 p. - 📗lire la 4ième de couverture - 📗lire le sommaire de l'ouvrage - 📗lire la table des matières de l'ouvrage - ► Résumé de l'ouvrage (fait par l'éditeur) : "Le droit est-il incapable d’encadrer l’innovation technologique ? L’idée est véhiculée ici et là comme un constat désarmant toute tentative de légiférer sur le « nouveau », en raison principalement du rythme incessant de l’innovation. L’innovation est devenue un phénomène total entrainant des conséquences sociales réelles. La principale est sans doute l’injonction faite à tous de l’accueillir, quand il ne s’agit pas de l’encourager. Tous les champs de la société sont concernés, y compris le champ juridique. En droit, l’injonction normative tend à faire émerger ce qu’il convient désormais d’appeler une techno-normativité, entendue comme la potentielle normativité juridique de la technique. Ce livre, unique sur le marché, propose une réflexion sur le rôle du droit dans notre société, à la fois comme vecteur de techno-normativité mais aussi comme solution ou limitation des effets négatifs de la technologie sur la société. En partant des écrits les plus récents sur la philosophie, la sociologie et le monde numérique, l’ouvrage propose une lecture critique du rapport entre droit et innovation qui intéressera tant un public universitaire qu’un public de professionnels du numérique.". -

► Référence complète : Labbée, Th, N., Le droit face aux technologies disruptives : : le cas de la blockchain, Thèse Strasbourg, 2021. -   ►  lire la thèse.   -

►  Un article publié le 14 juillet 2021 par The Wall Street Journal, "Brain Implant Lets Man ‘Speak’ After Being Silent for More Than a Decade",  relaye l'information comme quoi il est désormais possible, à titre expérimental, d'implanter dans le cerveau un dispositif permettant à une personne privée par un accident neurologique de la parole de pouvoir s'exprimer de nouveau en inscrivant ses pensées directement sur un écran d'ordinateur, les mots pensés s'affichant en phrases sur celui-ci. - Voilà plusieurs années de recherches dites « fondamentales », notamment de la part de Facebook, qui, notamment en subventionnant le professeur de neurosciences Stanislas Dehaene, dans une comparaison entre le développement d'apprentissage du cerveau et le développement du « deep learning », aboutissent à permettre à des personnes qui ont perdu l'usage de la voix à écrire directement sur les écrans sans ce medium vocal en allant directement de la pensée à l'écriture. Cela conduit à trois réflexions, qui mettent le rapport entre le Droit et la Technologie au centre : 1. A première vue, la parole n'étant  qu'un media entre la pensée et l'expression, il serait concevable d'en faire l'économie ; 2. L'on peut cependant faire le parallèle avec la technologie nouvelle de la « reconnaissance émotionnelle » par laquelle les pensées sont accessibles aux tiers, ce qui contrarie le droit fondamental de rendre ses pensées inaccessibles à autrui ;  Mais l'actualité a précisément montré que cette technologie qui permet de saisir les pensées véritables d'autrui malgré des expressions faciales feintes pose problème au regard du droit fondamental de mentir ou de se taire (v. à ce propos 📧 MaFR, "Compliance et Ethique. Des technologies peuvent être inadmissibles « en soi » et concevoir leur « usage éthique » n'est donc pas admissibles : cas pratique sur le contrôle des émotions des travailleurs"). 3. En anticipant l'usage possible de cette nouvelle technologie et la réaction juridique face à cette potentialité, l'on peut pareillement se demander si en soi une telle implantation d'un outil de « captation des pensées directement dans le cerveau » pour obtenir leur « translation directe sur un écran » ne devrait pas être considéré comme l'équivalent d'une captation des pensées, tout aussi attentatoire au droit fondamental de chacun de garder ses pensées inaccessibles. Là encore, le fait que dans un ou deux cas, cela ait permis de guérir une personne ne légitime pas la technologie en soi (v. sur les règles bioéthiques, telles que le Droit français les a transcrites dans l'article 16 du Code civil par la loi de 1994, Marais, A., Droit des personnes, 2021). De la même façon, le fait que la personne concernée « consente » ne suffit pas à légitime ce qui peut être une atteinte per se à la dignité de la personne humaine si la technologie a pour effet de capter les pensées avec une perte de contrôle de la personne concernée. Pour l'instant, dans la description qu'en donnent les chercheurs selon l'article qui relate l'innovation, c'est l'émetteur qui contrôle la technologie mais l'élimination du média qu'est la parole ou l'écrit mérite d'être pensée dans la perte d'isolement de l'individu, isolement auquel la tradition occidentale a souvent associé la liberté.  - ► s'inscrire à la Newsletter MaFR ComplianceTech®

►   Un article du 3 mars 2021, Smile for the camera: the dark side of China's emotion-recognition tech, puis un article du 16 juin 2021, « Every smile you fake » – an AI emotion – recognition system can assess how « happy » China's workers are in the office décrit la façon dont une nouvelle technologie de reconnaissance émotionnelle est apte, à travers ce qui sera bientôt démodé d'appeler la « reconnaissance faciale », de distinguer un sourire qui traduit un état de satisfaction effective d'un sourire qui n'y correspond pas. Cela permet à l'employeur de mesurer l'adéquation de l'être humain à son travail.  Il est promis qu'il en sera fait usage d'une façon éthique, pour améliorer le bien-être au travail. Mais n'est-ce pas en soi que cette technologie est incompatible avec toute compensation par un accompagnement éthique ?  - La technologie élaborée par une entreprise technologique chinoise et acquise par d'autres entreprises chinoises ayant beaucoup d'employés, permet d'avoir de l'information sur l'état d'esprit effectif de la personne à travers et au-delà de ses mimiques faciales et de son comportement corporel. La technologie de reconnaissance émotionnelle avait été mise au point pour assurer la sécurité, en luttant contre des personnes au projet hostile, les Autorités publiques l'utilisant par exemple dans les contrôles dans les aéroports pour détecter les desseins criminels que pourraient avoir certains passagers. Il est affirmé ainsi que non pas qu'il s'agit de lutter contre quelques personnes malfaisantes (« dangerosité ») pour protéger le groupe avant que l'acte ne soit commis ("défense sociale) mais qu'il s'agit d'aider l'ensemble des travailleurs.  En effet non seulement l'usage qui en sera fait sera éthique, car en premier lieu les personnes qui travaillent pour ces entreprises chinoises à l'activité mondiale, comme Huawaï, le font librement et ont accepté le fonctionnement de ces outils d'intelligence artificielle (ce qui n'est pas le cas des personnes qui voyagent (le contrôle étant alors un sorte de mal nécessaire qu'ils n'ont pas à accepter, qui leur est imposé pour la sauvegarde du groupe), mais encore et surtout que la finalité est elle-même éthique : s'il s'avère que la personne ne se sent pas bien au travail, qu'elle n'y est pas heureuse, avant même qu'elle ait peut-être conscience, l'entreprise pourra lui venir en aide. -   Prenons ce cas pratique du côté du Droit et imaginons que cela soit contesté devant un juge appliquant les principes du Droit occidental. Est-ce que cela serait admissible ? Non, et pour trois raisons. 1. Un « usage éthique » ne peut pas justifier un procédé en soi non-éthique 2. Les premières libertés sont négatives 3. Le « consentement » ne doit pas le seul principe régissant l'espace technologique et numérique -   I. UN « USAGE ETHIQUE » NE PEUT JAMAIS LEGITIMER UN PROCEDE EN SOI NON-ETHIQUE es procédés en eux-mêmes non-éthiques ne peuvent pas être rendus « admissibles » par un « usage éthique » qui en sera fait. Ce principe a été rappelé notamment par Sylviane Agacinski en matière bioéthique : si l'on ne peut pas disposer de la personne d'autrui à travers une disposition de son corps qui rend sa personne même disponible (v. not. Agacinski, S., ➡️📗 Le tiers-corps. Réflexions sur le don d'organes, 2018).  Sauf à rendre la personne réduite à la chose qu'est son corps, ce qui n'est pas éthiquement admissible en soi, cela est exclu, et le Droit est là pour que cela ne soit pas possible.  C'est même pour cela que la notion juridique de « personne », qui n'est pas une notion qui va de soi, qui est une notion construite par la pensée occidentale, fait rempart pour que les êtres humains ne puissent pas être entièrement disponibles aux autres, par exemple par la mise sur le marché de leur corps (v. Frison-Roche, M.-A., ➡️📝Pour protéger les êtres humains, l'impératif éthique de la notion juridique de personne, 2018). C'est pourquoi par exemple, comme le souligne Sylviane Agacinski il n'y a pas d'esclavage éthique (un esclave qu'on ne peut pas battre, qu'il faut bien nourrir, etc.). Que l'être humain y consente (« et s'il me plait à moi d'être battue ? ») n'y change rien.   II. LA PREMIERE LIBERTE EST CELLE DE DIRE NON, PAR EXEMPLE EN REFUSANT DE REVELER SES EMOTIONS : PAR EXEMPLE CACHER SI L'ON EST HEUREUX OU PAS DE TRAVAILLER La première liberté n'est pas positive (être libre de dire Oui) ; elle est négative (être libre de dire Non). Par exemple la liberté du mariage, c'est avant d'avoir la liberté de se marier, avoir la liberté de ne se marier : si l'on ne dispose pas de la liberté de ne pas se marier, alors la liberté de se marier pert toute valeur. De la même façon, la liberté de contracter suppose la liberté de ne pas contracter, etc. Ainsi la liberté dans l'entreprise peut prendre la forme de la liberté d'expression, qui permet aux personnes, selon des procédures fixées par le Droit, d'exprimer leur émotions, par exemple leur colère ou leur désapprobation, à travers la grève. Mais cette liberté d'expression, qui est une liberté positive, n'a de valeur qu'à condition que le travailleur est la liberté fondamentale de ne pas exprimer ses émotions. Par exemple s'il n'est pas heureux de son travail, car il n'apprécie pas ce qu'il fait, ou qu'il n'aime pas l'endroit où il ne fait, ou il n'aime pas les personnes avec lesquels il travaille, son liberté d'expression exige qu'il ait le droit de ne pas l'exprimer.  Si l'employeur dispose d'un outil qui lui permet d'obtenir l'information quant à ce que le travailleur aime ou n'aime pas, alors celui-ci perd cette liberté première. Dans l'ordre juridique occidental, l'on doit pouvoir considérer que c'est au niveau constitutionnel que l'atteinte est réalisée à travers le Droit des personnes (sur l'intimité entre le Droit des personnes et le Droit constitutionnel, v. Marais, A.,➡️📕  Le Droit des personnes, 2021).     III. LE CONSENTEMENT NE DOIT PAS ETRE LE SEUL PRINCIPE REGISSANT L'ESPACE TECHNOLOGIQUE ET NUMERIQUE  L'on pourrait considérer que le cas de l'entreprise est différent du cas des contrôles opérés par l'Etat pour la surveillance des aéroports, car dans le premier cas les personnes observées ont consenti. Le « consentement » est aujourd'hui la notion centrale, souvent présentée comme  l'avenir de ce que chacun souhaite : la « régulation » de la technologie, notamment lorsqu'elle prend la forme des algorithmes (« intelligence artificielle »), notamment dans l'espace numérique.  Le « consentement » permettrait un « usage éthique » et pourrait mettre fonder l'ensemble (sur ces problématiques, v. Frison-Roche, M.-A., ➡️📝Se tenir bien dans l'espace numérique, 2019). Le « consentement » est une notion sur laquelle le Droit prend aujourd'hui des distances en Droit des personnes, notamment quant au « consentement » donné par les adolescents sur la disponibilité de leur corps, mais pas encore sur le numérique.  Sans doute parce qu'en Droit des obligations, le « consentement » est quasiment synonyme de « libre volonté », alors qu'il faut les distinguer (v. Frison-Roche, M.-A., ➡️📝La distinction entre la volonté et le consentement, 1995).  Mais l'on voit à travers ce cas, qui précisément déroule en Chine, le « consentement » est en Droit comme ailleurs un signe de soumission. Ce n'est que d'une façon probatoire qu'il peut constituer une preuve d'une libre volonté ; cette preuve ne doit se transformer en présomption irréfragable. Les Autorités de Régulation des données (par exemple en France la CNIL) cherchent à reconstituer ce lien probatoire entre « consentement » et « liberté de dire Non » pour que la technologie ne permette pas par des « consentements mécaniques », coupés de tout rapport avec le principe de liberté qui protège les êtres humains, de déposséder ceux-ci (v. Frison-Roche, M.-A., Oui au principe de la volonté, manifestation de la liberté, Non aux consentements mécaniques , 2018).    Plus la notion de consentement ne sera plus que périphérique et plus les êtres humains pourront être actifs et protégés. - ► s'inscrire à la Newsletter MaFR ComplianceTech®

Référence complète : Gibert, M., Faire la morale aux robots. Une introduction à l'éthique des algorithmes, Flammarion, 2021, 168 p.   Lire le commentaire de l'ouvrage sur le site NonFiction. 

► Référence complète : S. Merabet, "La morale by design", in M.-A. Frison-Roche (dir.), Les outils de la Compliance, coll. "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2021, pp. 287-298. - 📕consulter une présentation générale de l'ouvrage, Les outils de la Compliance, dans lequel cet article est publié - ► Résumé de l'article (fait par le Journal of Regulation & Compliance) : Après s'être interrogé sur les rapports entre le Droit et la Morale, dont on a du mal à trouver des points de contact, l'auteur avance l'hypothèse que celle-ci pourrait trouver un espace de concrétisation dans la technologie de l'intelligence artificielle, alors même que beaucoup s'inquiètent des effets délétères de celle-ci. L'auteur considérant que la Compliance n'est qu'une méthode tandis que l'éthique serait la façon dont la morale est incorporée d'une façon assouplie dans le Droit, la technologie dite de l'Intelligence Artificielle pourrait donc exprimer la règle morale (« la compliance by design pourrait être l’outil adéquat pour permettre d’assurer l’effectivité des règles morales sans tomber dans les excès envisagés »).  L'auteur prend appui sur des exemples pour estimer qu'ainsi la technologie pour d'une part exprimer la règle morale et d'autre part rendre celle-ci effective. La règle morale peut ainsi élaborée d'une façon équilibrée puisqu'elle l'est conjointement entre l'État et les opérateurs économiques, cette collaboration prenant la forme de principes généraux arrêtés par l'État des moyens choisis par l'entreprise. Son contenu serait également caractérisé par la recherche d'un « juste milieu », qui serait trouvé par cette répartition entre les principes moraux primaires dont l'expression serait le fait de l'État et les principes moraux secondaires dont l'expression serait déléguée aux entreprises. Prenant donc ce qui seraient les principes de la Compliance, l'auteur les applique à l'Intelligence Artificielle, en montrant qu'on insère dans ces technologies non seulement le principe de neutralité mais encore les principes éthiques de non-malveillance, voire de bienveillance (principes premiers) que les entreprises déclinent ensuite en principes secondaires. Dès lors, « la compliance peut utilement être mise à profit pour convertir ces principes moraux fondamentaux en règles morales dérivées, source d’une plus grande effectivité. ». Aboutissant ainsi à une « morale by design », le système global dispose d'un outil d'effectivité supplémentaire. Cela suppose que les règles fondamentales et dérivées soient d'une qualité morale acquise car pour l'instant l'outil technologique ne peut assurer que leur effectivité et non pas la qualité morale des règles implémentées.  Dans la détermination des « règles morales d'application », l'entreprise dispose de marges de liberté, utilisées via les outils technologiques.  -

► Référence complète : A. Trescases, « Le risque », in J.-B. Racine (dir.), Le droit économique au XXIe siècle. Notions et enjeux, LGDJ, coll. "Droit & Économie", 2020, pp. 655-670 - 📕consulter une présentation générale de l'ouvrage, Le droit économique au XXIe siècle. Notions et enjeux, dans lequel cet article est publié  - ► Résumé de l'article :  - 🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche -  

Référence complète: Financial Stability Board, The Use of Supervisory and Regulatory Technology by Authorities and Regulated Institutions. Market Developments and Stability Implications, Rapport du 9 octobre 2020, 36 p.  Lire le rapport (en anglais) Lire la présentation que fait le Financial Stability Board de ce rapport (en anglais) Pour aller plus loin sur la question de l'usage des nouvelles technologies dans les processus de régulation, lire le document de travail de Marie-Anne Frison-Roche: Analyse des blockchains au regard des usages qu'elles peuvent remplir et des fonctions que les officiers ministériels doivent assurer

Référence complète: Frison-Roche, M.-A., Compliance by design, une arme nouvelle? L'opinion de Facebook à propos des nouvelles dispositions techniques d'Apple pour protéger les données personnelles (Compliance by Design, a new weapon? Opinion of Facebook about Apple new technical dispositions on Personal Data protection), Newsletter MAFR – Law, Compliance, Regulation, 31 août 2020 Lire par abonnement gratuit les autres news de la Newsletter MAFR – Law, Compliance, Regulation   Résumé de la news: Les données personnelles, en tant qu'elles sont des informations, sont un outil de Compliance. Elle représentent une ressource précieuse pour les entreprises qui doivent mettre en oeuvre un plan de vigilance afin de prévenir la corruption, le blanchiment d'argent ou le financement du terrorisme, par exemples. C'est la raison pour laquelle, les données personnelles sont la pierre angulaire des dispositifs de « Compliance by design ». Cependant, l'utilisation de ces données ne peut pas dédouaner l'entreprise de son obligation simultanée de protéger ces mêmes données personnelles, ce qui est également un « but monumental » majeur du Droit de la Compliance.  Afin de pouvoir exploiter ses données dans un objectif de Compliance tout en les protégeant, l'entreprise numérique Apple a par exemple adopté de nouvelles dispositions telles que l'exploitation de l'IDentifier For Advisers (IDFA) intégré à l'iPad ou à l'iPhone et largement utilisé par les entreprises de publicité ciblée soit conditionnée au consentement du consommateur.   Facebook a vivement réagi à cette nouvelle disposition d'Apple en expliquant que de telles mesures allaient profondément restreindre l'accès des données aux démarcheurs publicitaires qui verraient ainsi leurs activités limitées. Facebook soupçonne Apple de vouloir bloquer l'accès aux autres entreprises publicitaires dans le but de développer son propre outil publicitaire. Facebook a assuré aux démarcheurs qui travaillaient avec lui qu'ils ne prendraient pas, pour sa part, de telles mesures et qu'il privilégiait toujours la consultation du secteur publicitaire avant ses prises de décisions afin de concilier au mieux les intérêts parfois divergents en présence.  On peut dors-et-déjà formuler quelques remarques: Le RGPD imposant aux entreprises numériques qu'elles garantissent un niveau de protection minimum des données personnelles ne s'applique pas aux Etats-Unis. Il est donc plus plausible qu'Apple ait agit par Responsabilité Sociale des Entreprises (RSE), plus que par obligation légale. Le mode de régulation utilisé ici est la « régulation conversationnelle » théorisée par Julia Black. Effectivement, les régulateurs laissent les forces en présence « converser ». Cette « régulation conversationnelle » ne semble pas très efficace ici et une intervention des autorités administratives ou des juges pourrait se justifier par le biais du Droit de la Concurrence, de la Régulation ou de la Compliance, sachant que le Droit de la Concurrence privilégiera le droit d'accès à l'information et le Droit de la Régulation ou de la Compliance davantage le droit à la vie privée. Tout le paradoxe du Droit de la Compliance réside donc dans l'équilibre entre circulation de l'information et secret.

Référence complète : Mounoussamy, L., Le smart contract, acte ou hack juridique ?, in Petites Affiches, n°37, 20 février 2020, pp. 12-19.   Résumé par les Petites Affiches : Dans cet article, l'auteur analyse l'arrivée du smart contract, système innovant né du développement des nouvelles technologies, dans un environnement juridique déjà structuré. Il commence par définir la nature du smart contract, et le positionne dans cet ensemble juridique mondialisé. Il en présente les impacts et les perspectives de développement, les forces et les faiblesses ainsi que l'intime relation que noues les technologies informatiques et le droit. Le smart contract est un outil dont l'utilisateur définira s'il viendra disrupter le contrat ou le parfaire.

L'expérience montre que dans le numérique la technique juridique du du consentement n'est pas assez protectrice.   Ne serait-ce que parce que la technologie la plus simple neutralise le lien qui devrait exister entre le « consentement » de l'internaute et la « libre volonté » de celui-ci : le consentement de l'internaute ne protège celui-ci que dans la mesure où celui-ci peut de droit et de fait dire "non.   I. L'EXPERIENCE    Par exemple un site inconnu met un ligne un article sur « les droits des arbres »… J'y vais. Conformément au Réglement européen transposé en droit français, le site informe qu'il y a possibilité pour l'interaute d'accepter ou de refuser l'usage de ses données personnelles au bénéfice de « partenaires ». Si l'on continue la lecture, l'internaute est censé avoir tout accepter, mais il peut cliquer pour « personnaliser ». Je clique : là je trouve deux options : « tout accepter » ou « tout refuser », mais l'option « tout refuser » est désactivée. Il n'est possible que de cliquer sur l'option « tout accepter ». Il est possible, parce que la loi y oblige, de consulter la liste des partenaires : je clique et trouve une liste d'entreprises inconnues, à la dénomination étrangère, qui sans doute une fois captées mes données personnelles (et celles de mes contacts), ayant elles-mêmes un siège social hors de l'Union européenne, pourra accroître leur chiffre d'affaire. Il est précisé dans un texte dont on ne peut pas prendre copie que ces « partenaires » peuvent utiliser mes données sans mon consentement et pour des finalités dont ils n'ont pas à m'informer. Mais que je peux « tout refuser ». Là encore l'emplacement « tout refuser » existe mais il n'est pas actif, tandis que l'emplacement « tout accepter » est actif. Comme je ne peux pas refuser (puisque c'est désactivé), et comme 99% des internautes n'ont jamais cliqué sur les deux premiers boutons, toutes leurs données ont été alimentées le marché des données qui permet le ciblage des produits qui se déversent dans l'espace numérique, à leur détriment et à celui de leur contact. Tout en croyant lire un article désintéressé sur le « droit des arbres ». A la fin, je ne lis pas cet article, puisque je n'ai pas cliqué sur les seuls boutons actifs : « tout accepter ».   Dans plus de 50% des cas, l'option « tout refuser » ou « personnaliser » n'est qu'une image mais n'est pas active. Et l'absorption des données vise aussi les contacts. En échange d'un article fantaisiste sur les arbres et leurs droits, ou les crèmes pour être toujours jeunes, ou les vedettes qui changent de conjoints, ou sur des soi-disant tests pour savoir quel roi ou quelle roi vous devriez être si l'on reconnaissait tous vos mérites, etc. Proposés sur le fil d'actualité par des sites inconnus ; en partenariat avec des entreprises étrangères que vous ne pourrez jamais atteindre.  Et consultés en masse par des internautes auxquels l'on raconte par ailleurs que le « consentement » est la solution avérée pour une protection effective …. Alors qu'il ne s'agit que de panneaux bâtis à la hâte par de nouveaux Potemkines ….   II. QUE FAIRE ?    1. Sans doute ne pas se contenter du « consentement » dès l'instant qu'il est un mécanisme qui peut n'être pas l'expression d'une libre volonté : comment pourrait-il l'être si l'option « refuser » n'est pas active ?   2. Le lien entre volonté et consentement ne doit donc être « présumé » que d'une façon simple et non irréfragable, car nous devons refuser de vivre dans une société déshumanisée, fonctionnant sur des « consentements mécaniques », ce à quoi le numérique ne mène pas nécessairement.    3. Confier par le Droit de la Compliance aux « opérateurs numériques cruciaux » (dans le cas d'espèce Facebook grâce auquel ces proposition de lecture gratuite sont faites sur le fil d'actualité des internautes) le soin de vérifier en Ex Ante l'effectivité du lien entre Volonté et Consentement : ici et concrétement la possibilité pour l'internaute de lire tout en refusant la captation de toutes ses données (au profit d'opérateurs étrangers qui n'ont pas même l'obligation de fournir à l'usager l'information de l'usage qui sera fait de leurs données personnelles).   -

Référence complète : Frison-Roche, M.-A., Analyse des blockchains au regard des usages qu'elles peuvent remplir et des fonctions que les officiers ministériels doivent assurer, in Revue Défrenois, Lextenso, n°25, 20 juin 2019, pp. 23-29.   Résumé : La blockchain est une technologie qui n'est pas, en soir, bonne ou mauvaise. Elle est plus ou moins adaptée aux fonctions qu'elle est apte à remplir. Ce qu'il faut ensuite confronter aux fonctions que l'État a dévolues aux officiers ministériels. Or, autant les fonctions de conservation et de duplication des actes gagnent à être transférées et développées dans cette technologie, autant la fonction d'élaboration des instrumentums ne peut être assumée que par des officiers ministériels auxquels l'État demande de vérifier la correspondance entre les mentions des instrumentums et la réalité des négotiums, ce que seuls des êtres humains peuvent mener et ce qu'aucune machine ne peut faire.   Lire l'article.   Lire le document de travail ayant servi de base à l'article publié, document de travail bilingue comprenant des notes de bas de page, des références techniques et de liens hypertextes.

Référence complète : Frison-Roche, M.-A., participation à la table-ronde L'officier public ministériel est-il soluble dans la blockchain?, conférence-débat organisée par  Le Club du Droit & le Conseil supérieur du Notariat, 14 mai 2019, Paris.   Consulter la présentation générale du colloque.   Consulter le document de travail sur la base duquel l'intervention a été faite.   Lire le compte-rendu qui en a été fait dans la presse.    Dans cette table-ronde, un professeur d'économie expose la dimension technologique et économique de la blockchain.  Puis est abordée la dimension juridique, dont l'exposé m'était plus particulièrement confié. -     A ce titre, après avoir replacé la question technique dans ce que doit garder le Droit, à savoir la distinction entre la Personne et les choses, ce que la technologie présentée aujourd'hui comme un ensemble de choses « intelligentes » et « décidantes » remettant en cause…., l'intervention porte sur 4 points (qui sont développés dans le document de travail). En premier lieu, avant de porter une appréciation sur ce qui est adéquat et sur l'avenir il faut distinguer les fonctions techniques de conservation des actes, de duplication des actes et d'élaboration des actes, la distinction entre negotium et instrumentum n'étant en rien effacée par la technologie des blockchains. En deuxième lieu, dès l'instant qu'il y a une altération substantielle de l'acte instrumentaire parce qu'un nouveau negotium a eu lieu, parce que les mentions doivent mesurer la reproduction de la réalité de ce qui fut décidé par les parties, l'on n'est plus dans l'acte de conserver et de dupliquer à l'identique, mais dans l'acte d'élaboration. Or, dans l'acte de conservation et de duplication, la blockchain peut être un atout technologique très précieux, en ce qu'à supposer sa fiabilité acquise, l'erreur étant exclue, c'est comme si l'on pouvait produire des originaux indéfiniment. La fiabilité est telle que la distinction entre original et copie n'aurait plus lieu d'être. Mais pour l'élaboration de l'instrumentum au regard du negotium , comment une machine pourrait-elle « dresser » un acte, c'est-à-dire en vérifier son rapport d'exactitude par rapport à la réalité ? Elle ne le peut pas. Seul un être humain le met, l'Etat ayant « déconcentré » son pouvoir de dresser uniléralement des actes (en cela, les notaires sont issus de la même idée de déconcentration….) en exigeant qu'ils vérifient la conformité à la réalité pour que l'incontestabilité soit ensuite attachée aux mentions. En troisième lieu, il apparaît alors que la blockain est un outil de conservation et de duplication, mais que l'intermédiation d'un tiers de confiance humain vérifiant l'exactitude des mentions est nécessaire si l'on veut par sécurité que ce qui est dit dans l'acte écrit, puis conservé, puis dupliqué, soit la reproduction de la réalité. S'opère alors un choix de politique économique, souvent lié à la culture des pays. L'on peut considérer que le coût de l'intermédiation est élevé et qu'il faut mieux assumer le risque de l'inexactitude des mentions (quant aux parties, à la réalité de leur consentement, à la consistance de l'objet, à l'ampleur des obligations, etc.) et s'assurer ainsi un marché liquide. Le réajustement des actes par rapport à la réalité des choses se fait alors par la crise, qui réinjecte l'information, l'exemple en étant la crise des prêts immobiliers financiarisés des subprimes. C'est le choix anglais et américains. L'on peut préférer la sécurité par l'intermédiation en ralentissant le marché. C'est le choix du droit romano-germanique. Ces options demeurent ouvertes. La technologie du blockchain n'interfère pas, parce qu'elle ne doit pas viser l'établissement des actes. Si elle devait la viser, alors on aurait choisi la liquidité à la sécurité. Ou en termes plus généraux, l'on aurait choisi la Concurrence contre la Régulation. Mais plus que jamais le souci Ex Ante des risques systémiques (et le fossé entre la réalité et les actes qui doivent la transcrire est un risque systémique majeur) est premier.  En quatrième lieu, en ayant ainsi un tableau des fonctionnalités, l'on voit que les notaires peuvent avoir grand usage des blockchains. Sans laisser des machines établir des actes, ils peuvent les utiliser comme le furent des coffreforts et des photocopieuses, avec une fiabilité et une mise en commun que seul le numérique et la capacité de calcul peuvent offrir à travers cette nouvelle technologie. Plus encore, l'articulation de l'amont (élaboration) et de l'aval (conservation et duplication) étant de nouveau reconnue comme la plus efficace, les officiels ministériels sont les mieux placés, en tant qu'ils dressent des actes instrumentaires dont ils ont vérifié les mentions et après avoir conseillé les parties, à conserver et à dupliquer ceux-ci. -