"Les entreprises lisent déjà dans nos pensées et en sauront encore plus grâce à la neurotechnologie"

Il y a quelques années, l'idée d'une "menace sur la confidentialité de la pensée" relevait de la science-fiction dystopique, à l'image du 1984 de George Orwell.

Mais pour Nita Farahany, professeur à l'université Duke (États-Unis), spécialisée dans l'étude des conséquences des nouvelles technologies et de leurs implications éthiques, cette menace existe déjà et doit être prise au sérieux.

Cette année, la professeure irano-américaine a publié le livre The Battle for your Brain : Defending the Right to Think Freely in the Age of Neurotechnology (La bataille pour votre cerveau : défendre le droit de penser librement à l'ère de la neurotechnologie).

Mais comment est-il possible de lire dans notre cerveau ? Il n'existe pas encore de super machine capable d'entrer dans la tête d'une personne et de lui fournir une liste complète d'idées et de concepts, comme c'est le cas dans la science-fiction.

Mais en fait, Farahany explique que les défenses de notre intimité de pensée ont commencé à être brisées sans qu'il soit nécessaire d'examiner directement le cerveau.

L'ère des données

Cela est rendu possible par la grande quantité de données personnelles que nous partageons sur les réseaux sociaux et d'autres applications, qui sont ensuite analysées par des algorithmes et monétisées.

Aujourd'hui, les entreprises technologiques disposent d'informations importantes sur nous : l'identité de nos amis, les contenus qui nous passionnent (et, surtout, le type de passion), nos préférences politiques, les produits sur lesquels nous cliquons, nos déplacements au cours de la journée et certaines de nos transactions financières.

"Tout cela est utilisé par les entreprises pour créer des profils très précis de qui nous sommes afin de comprendre nos préférences et nos désirs", explique Mme Farahany dans une interview accordée à BBC News Brazil.

"Il est important que les gens comprennent qu'ils sont déjà dans un monde où les esprits sont lus", ajoute-t-elle.

Avec la popularité croissante des smartwatches - qui recueillent des données sur le rythme cardiaque, le niveau de stress, la qualité du sommeil et bien d'autres choses encore - une autre frontière commence à être explorée, celle de notre fonctionnement interne.

Mais les progrès de la neurotechnologie et des équipements en contact direct avec la tête permettent de franchir une nouvelle étape, avec davantage de données et une plus grande précision.

Le professeur explique que les capteurs cérébraux sont précisément similaires aux capteurs de fréquence cardiaque que l'on trouve dans les smartwatches ou aux anneaux qui mesurent la température corporelle lorsqu'ils captent l'activité électrique dans le cerveau.

"Chaque fois que vous pensez ou que vous ressentez quelque chose, des neurones se déclenchent dans votre cerveau, émettant de minuscules décharges électriques. Vous pouvez utiliser des schémas caractéristiques pour tirer des conclusions", explique-t-elle.

"Par exemple, si vous voyez une publicité et que vous ressentez de la joie, du stress, de la colère, de l'ennui, de l'engagement... toutes ces réactions peuvent être capturées par l'activité électrique de votre cerveau et décodées par l'intelligence artificielle la plus avancée", ajoute-t-il.

En d'autres termes, ces signaux cérébraux traduisent ce que nous ressentons, observons, imaginons ou pensons.

Mme Farahany estime que les gens doivent comprendre et accepter que leur cerveau "ne leur appartient pas entièrement".

Cela remet en question le concept de libre arbitre, c'est-à-dire le pouvoir d'un individu de choisir ses actions.

"Imaginez qu'au début de la semaine, vous vous soyez fixé comme objectif de ne pas passer plus d'une heure par jour sur les réseaux sociaux. À la fin de la semaine, vous vous rendez compte que vous avez passé quatre heures par jour - que s'est-il passé ?

"S'il existe des algorithmes conçus pour vous attraper lorsque vous voulez vous déconnecter, si vous recevez des notifications lorsque vous passez trop de temps loin de votre téléphone, si vous voulez regarder un seul épisode de la série et que le suivant démarre automatiquement, pourriez-vous vraiment utiliser votre libre arbitre ? Ce sont des outils et des techniques conçus pour saper ce à quoi vous vous êtes engagé."

"La technologie elle-même est rarement le problème"

Farahany, contrairement à ce que l'on pourrait penser, est une grande enthousiaste des progrès de la neurotechnologie.

Tout au long de son livre, elle énumère une longue liste de contextes dans lesquels la surveillance du cerveau pourrait améliorer l'humanité et sauver des vies.

"Ce que je propose, c'est un équilibre. C'est à la fois un moyen pour les gens de voir les aspects positifs de la technologie, mais aussi de se prémunir contre les risques les plus importants", explique-t-elle.

"Pour y parvenir, nous devons changer la façon dont nous envisageons notre relation avec la technologie. La technologie est rarement le problème. C'est presque toujours une mauvaise utilisation.

Il ne s'agit pas d'adopter des positions absolues telles que "tout cela est mauvais" ou "tout cela est génial", mais d'essayer de définir quelles sont les fonctionnalités de cette technologie pour le bien commun et quels sont les risques d'une mauvaise utilisation", ajoute-t-elle.

La liste est pleine de cas complexes et d'armes à double tranchant.

La neurotechnologie pourrait réduire le nombre d'accidents mortels en surveillant les niveaux d'inattention et, surtout, de fatigue qui affectent les conducteurs de camions, de trains et de métros, par exemple.

Cette même fonctionnalité pourrait être utilisée à mauvais escient par une entreprise ou une école en quête de productivité totale, où les moments de distraction d'un employé ou d'un étudiant sont surveillés, enregistrés et éventuellement sanctionnés.

Un bracelet qui capte les ondes électromagnétiques envoyées par le cerveau pour faire bouger les bras et les mains pourrait transformer ces impulsions en signaux électroniques et rendre les expériences de réalité numérique ou virtuelle beaucoup plus intuitives et intégrées.

Le potentiel de ce dispositif est encore plus grand : il permet de détecter les premiers stades d'une maladie neurodégénérative. L'analyse de l'activité cérébrale dans son ensemble pourrait représenter une percée pour la médecine et la longévité.

D'autre part, écrit Mme Farahany dans son livre, le même bracelet pourra également détecter "si vous vous livrez à des activités intimes en utilisant vos mains dans votre chambre à coucher".

Et toutes ces données entre les mains des gouvernements ?

Mais pour Farahany, la plus grande préoccupation concernant la vie privée des individus est que les gouvernements possèdent un éventail de plus en plus large de données personnelles.

Elle rapporte que le ministère américain de la défense a financé une entreprise qui a mis au point un système biométrique combinant des données sur les ondes cérébrales, les états cognitifs, la reconnaissance faciale, l'analyse des pupilles et les variations de la quantité de sueur produite.

En Chine, un rapport publié en 2018 par le South China Morning Post indique que des travailleurs de diverses branches et des membres de l'armée du pays utilisent déjà des moniteurs d'ondes cérébrales pour détecter les pics émotionnels tels que la dépression, l'anxiété ou la colère.

Outre leur utilisation pour améliorer les performances et donc les résultats financiers des entreprises, le rapport indique que le projet visait également à "maintenir la stabilité sociale de la Chine".

Selon Mme Farahany, dans la plupart des pays, les lois sur la protection de la vie privée n'abordent pas explicitement le droit à la confidentialité des données mentales.

Je pense que les Nations unies devraient s'efforcer de reconnaître ce que j'appelle le "droit à la liberté cognitive". Un droit universel qui nous ferait progresser vers une actualisation de la vie privée, qui dirait explicitement qu'il existe un droit à la vie privée mentale, un droit à être protégé des interférences avec notre façon de penser et de ressentir les choses.

Selon elle, aujourd'hui, la "liberté de pensée" est appliquée et comprise comme se référant strictement à la liberté de religion et de croyance.

"Je pense que nous devons élargir cette compréhension afin d'assurer une protection contre l'ingérence, la manipulation et la punition de la pensée".

Le problème est que la technologie évolue toujours plus vite que le débat et l'adoption de la législation, et que les entreprises et les gouvernements profitent des lacunes de la loi.

"Il s'agit vraiment d'essayer de déterminer le plus tôt possible, et aussi au fur et à mesure que la technologie évolue, quels sont les avantages et les risques. Il faut ensuite clarifier les enjeux et élaborer un régime réglementaire qui les prenne en compte. Ce n'est pas toujours facile à faire", reconnaît Mme Farahany.

Le projet d'Elon Musk

Le projet de neurotechnologie le plus connu comporte plusieurs éléments controversés : il s'agit d'implanter une puce dans le cerveau et il est dirigé par Elon Musk, un personnage qui fait fréquemment la une des journaux, souvent pour des raisons de controverse.

L'une de ses entreprises, Neuralink, souhaite implanter à l'avenir de tels dispositifs dans l'organe humain le plus complexe afin de guérir des maladies telles que la maladie d'Alzheimer et de permettre aux personnes atteintes de maladies neurologiques de contrôler des téléphones portables ou des ordinateurs par la pensée.

Certains experts du domaine s'inquiètent de ce projet et émettent des doutes sur les implications de ce type de technologie développée par une entreprise à but lucratif.

En mai dernier, la FDA, l'agence américaine des produits alimentaires et médicamenteux, a autorisé le premier essai sur l'homme.

"Je ne suis pas si inquiet à propos du projet de Musk. En fait, je suis plutôt optimiste", déclare Mme Farahany.

"Neuralink promet deux innovations. La première consiste à effectuer des interventions chirurgicales par l'intermédiaire de robots, qui se chargeraient des parties les plus délicates et les plus difficiles de l'opération [l'implantation de la neurotechnologie]. La seconde est la mise au point d'électrodes de la taille d'un cheveu qui pourraient être implantées avec beaucoup moins de risques pour le cerveau humain.

Peu de chirurgiens dans le monde ont aujourd'hui les compétences nécessaires pour réaliser une telle intervention.

"Si je devais être gravement handicapée au point de ne plus pouvoir communiquer ou bouger, je chercherais probablement à me faire implanter une sorte de technologie neuronale", conclut-elle.