Dignité humaine et neurodroits à l’ère du numérique

Il y a quelque temps, l’idée d’une invasion mentale ou d’une manipulation des personnes par des dispositifs technologiques ne se trouvait que dans des films et des livres de science-fiction. On peut citer comme exemples l’effacement de la mémoire des gens dans Men in Black, l’altération du comportement de criminels dans Orange mécanique ou l’arrestation de personnes sur le point de commettre un crime dans Minority Report ; tous ces scénarios nous ont à la fois divertis et invités à réfléchir à notre avenir.

Aujourd’hui, le flux massif de données et les progrès de la science, notamment dans les domaines des neurotechnologies et de l’intelligence artificielle, ont fait de ces concepts un sujet d’actualité qui impose à la communauté juridique des études plus poussées et de travailler sur des principes de régulation. Les neurodroits représentent un nouveau domaine d’étude, avec un mouvement de recherche mondial qui a émergé, au sein duquel des chercheurs pionniers étudient l’intersection du droit et des neurosciences. Les technologies de pointe, telles que les interfaces cerveau-machine, les dispositifs portables et implantables et les algorithmes avancés, ont fait du droit neurologique un domaine de plus en plus important.

Le droit neurologique : l’émergence d’un nouveau domaine

Bien que les neurosciences existent depuis plus de 100 ans, elles se sont rapidement développées au cours des deux dernières décennies grâce à l’introduction de dispositifs d’imagerie cérébrale en temps réel. La relation entre le droit et les neurosciences remonte à cette époque. L’article « The Brain on the Stand », de Francis X. Shen, publié en 2007 dans le New York Times Magazine, constitue une étape majeure dans l’émergence du droit neurologique aux États-Unis.

En effet, le droit pénal semble être le premier point de contact entre les neurosciences et le droit, et celui qui a été le plus étudié, à tel point qu’en 2009, Jan Christoph Bublitz et Reinhard Merkel, deux auteurs allemands, spécialistes du droit pénal, ont présenté une communication dans laquelle ils remettaient en question « l’influence illégitime » de tiers (par le biais d’interventions directes, comme les produits pharmaceutiques, et indirectes, comme l’hypnose et la publicité subliminale) comme un facteur devant être pris en compte dans les procès. Cela a conduit les chercheurs à tenir également compte des droits de la personne sous influence, et à plaider que leurs droits à l’autonomie et à l’authenticité avaient été violés par des interventions externes.

Un autre article important de Nita Farahany, datant de 2012, traite des progrès des neurosciences dans les tribunaux, et examine la nécessité d’une nouvelle taxonomie pour le principe de non-auto-incrimination. L’auteure fait valoir que la protection de ce principe se réfère généralement à la protection de ce que les gens expriment, et elle suggère « qu’une société soucieuse d’une solide liberté cognitive souhaiterait probablement protéger ses citoyens contre la détection injustifiée de preuves automatiques, mémorisées et fournies par le cerveau. » En ce sens, Farahany s’est interrogée sur le risque d’une mauvaise appréciation de la question par le pouvoir judiciaire, et a suggéré la nécessité d’une norme, une « loi sur les technologies de l’information en neurosciences », qui protégerait l’intimité mentale et la liberté cognitive. Ce document a été essentiel pour donner un nom à ces droits, et a constitué un jalon essentiel pour l’émergence d’un mouvement en facteur des neurodroits.

En 2014, Bublitz et Merkel, des auteurs devenus des références dans le domaine en plein essor du droit neurologique, ont innové en transposant le débat du droit pénal au droit de la consommation. Ils se sont interrogés sur la nécessité de protéger les droits des personnes susceptibles d’être manipulées par des entreprises voulant étudier et influencer la prise de décision, comme le font aujourd’hui les médias sociaux. Cette question témoigne d’une nouvelle orientation de la recherche, qui déplace le centre d’intérêt du système judiciaire et des garanties qui lui sont inhérentes, vers la personne et ses neurodroits bafoués dans la vie quotidienne.

Quels sont les risques associés aux neurosciences et neurotechnologies ?

Les données et les informations générées par l’activité cérébrale, communément appelées données neuronales, sont accessibles par le biais de la neurotechnologie, y compris par des méthodes non invasives telles que la biométrie de frappe. Les données neuronales fournissent des informations précieuses qui, en l’absence d’une réglementation adéquate, pourraient être utilisées à des fins de manipulation, telles que la publicité ciblée ou d’autres intérêts.

Dans une recommandation de 2019, portant sur l’utilisation responsable des neurotechnologies, l’OCDE reconnaît que « les neurotechnologies soulèvent plusieurs questions éthiques, juridiques et sociales spécifiques que les modèles commerciaux potentiels vont devoir prendre en compte ».

La même année, le Comité des ministres du Conseil de l’Europe a attiré « l’attention sur la menace croissante qui pèse sur le droit des êtres humains à se forger une opinion et à prendre des décisions indépendamment des systèmes automatisés, issus de technologies numériques avancées ».

Il est important de noter que l’intelligence artificielle (IA), lorsqu’elle est utilisée pour influencer les décisions, devient une méthode non-invasive de manipulation de l’esprit, qui peut être considérée comme une menace pour la liberté cognitive et l’intimité mentale. Voici quelques exemples de cette manipulation :

• L’hypernudge, une variante du nudge est une manipulation basée sur l’économie comportementale, qui exploite des données et l’intelligence artificielle pour lire indirectement dans les esprits et micro-orienter les actions des gens, ce qui porte atteinte à des valeurs telles que la liberté cognitive, l’intimité mentale, l’intégrité mentale, la continuité psychologique et l’identité. (SHINER ; O’CALLAGHAN, 2021).
  
  
• Les effets inhibiteurs des nouvelles technologies et de la surveillance technologique, qui empêchent l’utilisateur d’exercer ses libertés légales ou de s’engager dans des activités légitimes, par crainte d’être surveillé à tout instant. (SHINER ; O’CALLAGHAN, 2021).
  
  
• Le profilage consiste à enregistrer et à classer systématiquement et délibérément des données relatives à des personnes, et de les compiler à des fins de classification et de regroupement en catégories. Le profilage peut conduire à la personnalisation, c’est-à-dire au résultat d’une pression indirecte visant une conformité à des normes supposées de comportement. Lorsque le gouvernement établit des profils, les personnes peuvent avoir tendance à correspondre à un modèle ou à un autre, et la même chose peut se produire lorsque des classements privés basés sur des catégories (tels que ceux des compagnies d’assurance, des banques et des entreprises du secteur de la santé) font entrer des êtres humains dans certains groupes. Cette personnalisation se retrouve aussi en politique et représente un risque pour la démocratie, puisque les gens peuvent cesser de produire et de rechercher des informations qu’ils partageraient s’ils n’étaient pas surveillés, par crainte d’être classés comme trop radicaux ou trop tolérants. (Büchi, Fosch-Villaronga, Lutz, Tamò-Larrieux, Velidi et Viljoen, 2020).
  
  
• Le profilage peut également mener à la désindividualisation et à la création de stéréotypes (Schermer, 2013).
  
  
• Asymétrie d’information, perte de précision, risque d’abus (fraude) et discrimination (Schermer, 2013).

La manipulation comportementale diffère de la persuasion, qui, elle, est explicite, et de la coercition, qui porte explicitement atteinte aux libertés individuelles. La manipulation est une subversion secrète du pouvoir de décision des personnes qui exploite leurs faiblesses cognitives ou affectives.

Cette manipulation est une forme subtile de contrôle qui affecte la capacité de choisir, ou d’agir. L’expansion des médias sociaux, l’utilisation du big data, du profilage et de l’IA créent un niveau de médiation numérique sans précédent (médiation entre la personne et le monde réel, comme la publicité, la propagande gouvernementale et la propagande électorale). Ce support – les systèmes électroniques gérés par l’IA et fondés sur des données – n’est pas neutre. Qu’ils reposent sur des intérêts commerciaux, électoraux ou même de domination étatique, ces systèmes peuvent chercher à corrompre le comportement des personnes et leur liberté cognitive.

Une taxonomie des neurodroits

Les droits liés aux effets neuroscientifiques de l’IA préoccupent le neurobiologiste Rafael Yuste et son groupe de chercheurs à Columbia University. Dans un article qui a fait date, paru en 2017 dans Nature et intitulé « Four ethical priorities for neurotechnologies and AI » (Quatre priorités éthiques pour les neurotechnologies et l’IA), Yuste et ses plus de 20 co-auteurs ont suggéré les quatre priorités qui ont conduit au développement actuel des neurodroits : (a) vie privée et consentement, (b) agentivité et identité, (c) augmentation des capacités humaines, et (d) biais. Dans un article de 2021 intitulé « It’s time for neurorights » (L’heure des neurodroits a sonné), Yuste et ses collègues ont dressé une liste mise à jour des neurodroits :

1. le droit à l’identité, ou la capacité de gérer son intégrité à la fois physique et mentale ;
2. le droit d’agir [agentivité], ou la liberté de pensée et le libre arbitre pour ce qui est de choisir ses propres actions ;
3. le droit à l’intimité mentale, ou la capacité à protéger ses pensées de toute divulgation ;
4. le droit à un accès équitable à l’amélioration mentale, ou la capacité de garantir que les avantages des améliorations des capacités sensorielles et mentales grâce aux neurotechnologies sont équitablement répartis dans la population ; et
5. le droit à la protection contre les biais algorithmiques, ou la capacité à garantir que les technologies qui utilisent le big data et l’IA n’introduisent pas des biais.

La même année, Marcello Ienca a proposé une classification complète des neurodroits :

Depuis 2007, les neurodroits ont été consolidés en tant que nouvel ensemble de droits de l’homme qui, aujourd’hui, sont déjà définis et appliqués par certains pays.

Donner force de loi aux neurodroits

Il existe deux approches juridiques en la matière : l’une préfère actualiser l’interprétation de normes déjà existantes, rédigées avant les développements contemporains de l’IA et des nouvelles neurotechnologies ; l’autre, apparemment plus appropriée, propose de nouveaux droits de l’homme face aux défis posés à l’intégrité mentale et psychique, ainsi qu’à l’identité et à l’autonomie des individus.

a) Nouvelles interprétations judiciaires des droits existants

Historiquement, le droit national et le droit international ont traité de la défense de la liberté cognitive, de l’intimité mentale et de la liberté d’action.

En droit pénal, par exemple, on peut analyser le principe de non-auto-incrimination sous l’angle des neurodroits. En 2012, Nita Farahany a exprimé le besoin de définir clairement les neurodroits du défendeur/accusé, et a soutenu que la discussion sur la non-auto-incrimination doit inclure l’intimité mentale, même si on ne tient pas compte des appareils neurotechnologiques.

Dans le droit de la consommation, on peut craindre que le fournisseur profite de faiblesses psychologiques du consommateur pour tirer parti de l’asymétrie d’information. Cette manipulation est une sorte de « version 0.1 » de la manipulation algorithmique actuelle. Les clauses abusives sont considérées comme telles parce qu’elles exploitent les limites cognitives, tout comme le fait la publicité abusive. D’ailleurs, au-delà de l’asymétrie d’information, le droit de la consommation s’est toujours soucié de la vulnérabilité psychologique des consommateurs.

Plus récemment, la question du harcèlement – telle qu’elle est traitée dans la loi brésilienne 13.185/2915 – fait référence à la « violence physique ou psychologique dans des actes d’intimidation, d’humiliation ou de discrimination », c’est-à-dire au harcèlement systématique. À l’époque, on pouvait observer une préoccupation concernant l’intégrité mentale des personnes, même lorsque le harcèlement se produisait en ligne (cyber-harcèlement).

La loi brésilienne de 2021 sur le surendettement, loi 14.181/2021, qui traite aussi une question relative à la consommation, met en évidence un autre aspect de la violation de la liberté cognitive. L’Art. 54-C, qui figure dans le Code de protection des consommateurs, interdit la publicité sur le crédit si elle peut « dissimuler ou rendre difficile la compréhension » par les personnes, ainsi que la publicité qui « harcèle ou qui pousse le consommateur à souscrire un contrat. » Dans ces cas, la liberté cognitive, en particulier celle des personnes les plus vulnérables, comme les personnes malades ou âgées, est un véritable droit protégé par la loi. Cette innovation était nécessaire puisqu’il n’y a pas de coercition au sens classique du terme, ni même de persuasion explicite, mais une manipulation par le biais de la publicité destinée à corrompre la liberté de choix.

Ce souci de défendre les faiblesses psychologiques est déjà proche de la théorie des neurodroits, qui sont des droits existants pouvant être considérés comme le premier stade de la préoccupation pour l’intimité mentale (le principe de non-auto-incrimination) ; pour l’intégrité mentale (la règle anti-harcèlement) ; et pour la liberté cognitive (le droit de la consommation et contre le surendettement).

De manière similaire, en droit international, deux articles de la Déclaration universelle des droits humains soulignent la nécessité de protéger les neurodroits. L’article 18 stipule que « toute personne a droit à la liberté de pensée, de conscience et de religion ». L’article 22 mentionne le droit à la dignité et au libre développement de la personnalité.

On peut dire que ce sont là des neurodroits de première génération. Des droits plus spécifiques sont cependant nécessaires maintenant. Le développement des dispositifs et des technologies neuronales, de l’intelligence artificielle et de la collecte massive de données, en particulier sur Internet et les médias sociaux, rend nécessaire d’affirmer des droits qui puissent protéger directement la santé psychique, l’esprit et les données neuronales.

b) Les neurodroits dans le droit national et international

La protection des données neuronales et d’autres données personnelles susceptibles de révéler des faiblesses et des aspects comportementaux des individus est nécessaire pour préserver l’intégrité mentale ou psychique dans ce nouveau scénario. En ce sens, la proposition brésilienne de traitement contemporain et spécifique du sujet, figurant dans le projet de loi 1.229/2021, traite initialement de la protection des données neuronales dans le cadre de la loi générale sur la protection des données, rendant systématique la protection du « corps et de l’esprit numériques » des personnes.

La proposition brésilienne introduit quelques concepts intéressants et propose une définition de base pour les données neuronales : « toute information obtenue, directement ou indirectement, à partir de l’activité du système nerveux central, et dont l’accès est assuré par des interfaces cerveau-machine invasives ou non invasives » (proposition pour l’article 5, XX). La proposition suggère par ailleurs ce qui suit : « La demande de consentement pour le traitement des données neuronales doit indiquer, de manière claire et explicite, les effets physiques, cognitifs et émotionnels possibles de son application, les droits du détenteur et les devoirs du responsable du traitement et de l’opérateur, les contre-indications ainsi que les règles relatives à la vie privée et les mesures de sécurité de l’information qui sont adoptées. » (Proposition Article 13-D)

Le texte est bon, bien qu’il n’aborde pas explicitement l’utilisation de données extraites de la navigation sur Internet. Même sans règles explicites, il est toutefois possible d’étendre le texte proposé aux systèmes d’IA et aux données des réseaux sociaux, puisqu’elles couvrent les « interfaces non invasives » et l’obtention « indirecte » de données. De ce fait, les nouvelles règles seraient donc appropriées pour fournir une protection de base aux neurodroits, même les plus récents.

Un autre exemple de règles existantes est la Charte espagnole des droits numériques, qui comprend un chapitre sur les droits numériques dans l’utilisation des neurotechnologies. Le document, débattu depuis 2020, devrait entrer en vigueur d’ici 2025 et contient, outre la référence explicite aux neurodroits, des articles qui traitent spécifiquement de l’identité numérique et d’autres sujets connexes tels que l’anonymat et l’égalité. Certaines règles relatives à l’utilisation de l’intelligence artificielle seront d’ailleurs très pertinentes pour la défense des droits neuronaux liés à l’utilisation de cet outil. Il existe des règles concernant la non-discrimination, la transparence et le droit de ne pas être soumis à des décisions algorithmiques, ou permettant de les contester le cas échéant.

La Charte espagnole des droits numériques aborde également la protection contre la manipulation, élément crucial pour la préservation des neurodroits, dans un article spécifique aux droits en matière d’intelligence artificielle : « L’utilisation de systèmes d’intelligence artificielle visant à manipuler ou à perturber des personnes sur le plan psychologique, dans tout ce qui touche aux droits fondamentaux, est interdite ».

Dans l’article de 2017 de Nature mentionné plus haut, Rafael Yuste et ses collaborateurs proposent une Déclaration internationale sur les neurodroits et une Convention internationale permettant une meilleure efficacité. Ils remettent en question les formulaires de consentement actuels, qui n’abordent que les risques physiques, et proposent de mettre en place une éducation sur les effets cognitifs et émotionnels possibles des neurotechnologies dans un document global. Lors de la Conférence internationale de l’UNESCO sur l’éthique des neurotechnologies de juillet 2023, Rafael Yuste a déclaré que « la conclusion [de notre analyse de l’accord d’utilisation des consommateurs de 18 grandes entreprises de neurotechnologie dans le monde] est qu’il y a un manque total de protection, et qu’en fait, on ne peut pas imaginer une protection plus faible pour les données neurologiques. » La conférence a avancé l’idée d’un « cadre de gouvernance global pour exploiter le potentiel des neurotechnologies et faire face aux risques qu’elles présentent pour les sociétés », ainsi que la nécessité d’un « instrument normatif mondial et d’un cadre éthique conforme à la recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle. »

Conclusion : Des neurodroits pour la dignité humaine

L’existence digne de l’être humain est un principe de base dans de nombreuses constitutions modernes. Exister de manière juridiquement digne, c’est, d’une part, toujours rester une personne et jamais un objet de relations et, d’autre part, disposer de conditions socio-économiques minimales pour vivre.

Les études sur les neurodroits soulignent que la dignité humaine est remise en question par plusieurs nouvelles techniques, invasives ou non, qui peuvent entraver l’exercice de l’autonomie et de l’agentivité humaines, réduisant la personne à un objet, sans désir, ou avec des désirs induits de l’extérieur. Un robot vu dans de vieux films, et dont les pensées n’étaient que des déroulements de commandes préprogrammées.

Les nouvelles connaissances et les propositions de solutions existantes sont des outils importants pour traiter ces questions, ainsi que les nouveaux défis posés par les technologies basées sur le big data et l’intelligence artificielle.