Nous avons écouté et résumé les épisodes 3 et 4 du podcast "deftech, la menace cognitive" qui fait partie du programme de prospective technologique d'armasuisse Science et Technologie (Office fédéral de l'armement) et mis à disposition par l'Atelier des Futurs.
Épisode 3 : Les machines qui lisent nos pensées : petit précis de neurotechnologie
Les neurotechnologies sont un domaine en pleine expansion dédié à l’étude du cerveau et à la création de technologies qui interagissent avec son fonctionnement. Nous pouvons les retrouver dans les objets connectés pour mesurer nos activités physiques, notre sommeil, nos émotions ou notre attention. Bien qu’elles aient permis des progrès significatifs dans certains domaines, et en particulier la médecine, les neurotechnologies soulèvent de nombreuses problématiques éthiques, comme la question du contrôle, de la manipulation et de la préservation de l’autonomie mentale.*
Beaucoup d’exemples, comme les interfaces cerveau-ordinateur pour contrôler des appareils par la pensée, allant parfois jusqu’à l’implantation de puces électroniques-neurologiques, comme projette de le faire la start-up d’Elon Musk, Neuralink, témoignent de la possibilité de moduler par des signaux électriques le corps et la pensée. Ainsi, nous pourrions dépasser nos limites : améliorer l’efficacité, la concentration, la mémoire, ou augmenter nos performances sportives. Mais à quel moment ces technologies risquent de franchir la limite vers la surveillance ou la contrainte ?
En utilisant un appareil d’imagerie dans le cadre d’une étude, des chercheurs de Rochester, Yale et Princeton ont réussi à inscrire dans le cerveau des participants une nouvelle information comme s’ils l’avaient apprise, mais sans qu’ils fournissent un effort d’apprentissage conscient. Pour les chercheurs, le mécanisme de rétroaction a « efficacement sculpté l’activité cérébrale des participants, les guidant vers le schéma souhaité ». Bien sûr, utilisées à bon escient, ces neurotechnologies peuvent aider à mieux vivre. Mais rappelons l’alerte de Nita Farahany, professeure de droit à l’université Duke :
« Rien dans la loi ni dans les traités internationaux ne confère aux individus une souveraineté même rudimentaire sur leur propre cerveau. Ce n’est pas pour demain, mais nous nous dirigeons rapidement vers un monde de transparence cérébrale totale, où les avancées en neurotechnologie permettront aux scientifiques, aux médecins, aux gouvernements et aux entreprises d’explorer nos cerveaux et nos esprits à volonté. »
Combinées à l’intelligence artificielle, les neurotechnologies peuvent facilement devenir une menace.
Alors que l’activité mentale est notre partie la plus intime, que deviendront alors notre vie privée mentale et notre droit à l’autodétermination sur notre cerveau et nos expériences mentales ? Comment protéger nos capacités cognitives ?
« Penser la résilience et la robustesse cognitive devient alors primordial », conclut Bruno Guissani.
* UNESCO « Éthique des neurotechnologies »
Écouter l'épisode 3 : Les machines qui lisent nos pensées : petit précis de neurotechnologie
Épisode 4 : Guerre cognitive : quand le cerveau devient un terrain de bataille
Il y a, en ce moment, plus de cinquante conflits armés dans le monde. Bien qu’ils fassent encore rage, ces conflits armés ne sont pas les seuls à sévir. D’autres, invisibles, ont pour armes l’information, les ordinateurs et les réseaux, la psychologie, la linguistique ou encore la neurobiologie. Nous parlons désormais de guerre cognitive.
« La nature de la guerre a changé. L’esprit humain est désormais considéré comme un nouveau domaine de la guerre ». François du Cluzel, chercheur auprès de l’OTAN, nous parle ici de menace cognitive, qui a pour but de modifier notre façon de penser, notre capacité à savoir, à s’orienter dans le monde et à décider en autonomie. L’instrument central de cette guerre est l’exploitation de la connaissance de plus en plus détaillée et intime des personnes et de leur cerveau.
Les armées modernes sont organisées en 5 domaines : terre, mer, air, espace et cyberespace. Le cognitif devient le sixième domaine. L’idée était déjà proposée il y a 2500 ans par Sun Tzu dans son traité L’Art de la Guerre. Le stratège chinois y suggère d’être invisible et inaudible pour « soumettre l’ennemi sans combattre ». Il s’agit là d’un type de guerre moins cher, furtif, qui ne provoque pas de dommages matériels, qui brouille la frontière entre paix et conflit, sans contraintes temporelle ou géographique, et qu’on peut nier avec plausibilité.
Mauro Vignati, spécialiste de la question auprès du Comité International de la Croix Rouge, résume ainsi : « Nous vivons dans un environnement imprégné de technologie et en sur-information constante, et on appelle cela la data economy, mais en réalité l’enjeu, ce ne sont pas les données. La surveillance et la capture de données ne sont que l’outil. Le nerf de cette nouvelle guerre (...) est l’influence que cela permet d’exercer sur les comportements humains, qu’ils soient commerciaux, sociaux, politiques ou militaires ».
Ainsi, seule derrière son écran, chaque personne devient une cible potentielle ou un soldat involontaire de la bataille cognitive. En effet, l’utilisation croissante de ces technologies dans notre quotidien crée un phénomène d’accoutumance et d’addiction qui atténue notre capacité critique et nous rend moins sensibles aux risques qu’elles représentent.
L’auteur nous explique qu’une opération d’influence se déroule en 4 étapes :
- La perturbation de l’information : bornage du narratif auprès des médias.
- La concurrence discursive : impulsions, émotions et préjugés prennent le dessus sur la raison et participent à nous enfermer dans des bulles informationnelles.
- Le blackout de l’opinion publique : mapping (cartographie) des sentiments de la population permettant de cibler de manière précise les individus pour leur envoyer de l’information afin de susciter une réponse qui va aller dans le sens souhaité par l’instigateur.
- La neutralisation de l’adversaire : blocage des systèmes de communication et digitaux.
Puisque aujourd’hui, la majorité des campagnes cognitives connues portent des visions anti-démocratiques, les pays Européens doivent réinventer des dispositifs de sécurité adaptés à ces nouvelles guerres. Ainsi, en 2021, la France a créé un service en charge de la vigilance et de la protection contre les ingérences numériques étrangères, appelé Viginum. Ce service a pour objectif de « préserver le débat public des manipulations de l’information provenant de l’étranger sur les plateformes numériques ». En 2022, la Suède a créé une agence de défense psychologique.
Au-delà d’une vision militaire, Jean-Marc Rickli explique qu’ « il faut augmenter la résilience de la population et des individus à ce type d’attaque ».
Émerge alors le concept de souveraineté numérique, c’est-à-dire la capacité d’un pays à protéger ses données, ses infrastructures et à maintenir son autonomie stratégique. Protéger une forme d’autonomie intellectuelle pour permettre aux individus et aux sociétés de contrôler leur perception de la réalité et de prendre des décisions éclairées et indépendantes, demande qu’on pense en termes de souveraineté cognitive.
