“If we want to protect personal autonomy and freedom of thought we should exercice some degree of control over the information located inside our brains” (1) : la phrase du jour est de Marcelo Ienca, Technical University of Munich. La prolifération de données issues du fonctionnement cérébral, associée au pouvoir d’interprétation de celles-ci par des intelligences artificielles, induisent un risque accru d’une part d’atteintes à la privacy, d’autre part de manipulation des individus, estime Marcelo Ienca. L’auteur insiste sur le problème des “inférences”, c’est à dire les possibilités de déduire, de prédire, ou encore d’effectuer des reconstructions sémantiques, à partir de ces données cérébrales.

Pour cette réflexion sur la collecte et l’utilisation des données cérébrales rendues possibles par les nouvelles technologies, la définition des interfaces neuronales retenue par l’auteur est issue des travaux de la Royal Society : “devices that are placed on the outside or inside of the brain or other components of the central nervous system […] to record or stimulate activity — or both“.  Les fonctions des interfaces neuronales, aujourd’hui rendues possibles par l’IA,  sont regroupées par M. Ienca en trois grandes catégories : 

• “Data Analysis: Al algorithms (above all deep learning) can identify correlations and anomalies in neural data that might not be apparent to human researchers.
• Pattern recognition: Al can recognize complex patterns in neural data associated with specific mental states, emotions, or cognitive processes.
• Neurofeedback: Al plays a role in neurofeedback applications by providing real-time analysis of brain activity”.

1 – Traduction Deep L

2 – Marcello Ienca. Mind your privacy : navigating the neurodata dilemma. 15 mars 2024. Séminaire en ligne, John Hopkins Institute for assured autonomy, Berman Institute of bioethics.

https://www.youtube.com/watch?v=LM34vjtko7k