Training Data Governance for Brain Foundation Models

La vue d'ensemble : Un nouveau type de Chef de cuisine cérébral

Imaginez que, pendant des années, les scientifiques aient cuisiné des plats très spécifiques. S'ils voulaient une « Soupe à l'Épilepsie », ils ne rassemblaient que des ingrédients liés à l'épilepsie. S'ils voulaient une « Salade TDAH », ils ne rassemblaient que des ingrédients liés au TDAH. Ce sont comme les anciens modèles d'IA : spécifiques à une tâche. Ils sont excellents pour une chose, mais inutiles pour tout le reste.

Maintenant, une nouvelle tendance est arrivée, appelée Modèles de Fondation Cérébraux. Considérez ces modèles comme un Maître Chef qui ne se contente pas de préparer un seul plat. Au lieu de cela, ce Chef goûte tout — des millions d'heures d'enregistrements cérébraux (EEG, IRMf, etc.) provenant d'hôpitaux, de laboratoires de recherche et même de personnes portant des bandeaux de suivi du sommeil. En goûtant tout, il apprend la « saveur » générale du cerveau humain. Une fois entraîné, ce Maître Chef peut instantanément préparer une Soupe à l'Épilepsie, une Salade TDAH ou même un « Smoothie de Sommeil » sans avoir besoin de réapprendre depuis le début.

Le Problème : Cet article soutient que, bien que ce Maître Chef soit incroyable, la manière dont nous le nourrissons avec des ingrédients crée un désordre éthique massif. Nous prenons des ingrédients qui ont été collectés à l'origine pour des raisons très spécifiques et soigneusement protégées (comme un essai clinique pour une maladie rare) et nous les jetons dans un immense bol de mélange ouvert pour entraîner un produit commercial. L'article pose la question : Est-il acceptable de faire cela ? À qui appartiennent les ingrédients ? Et comment s'assurer que le Chef ne gâche pas le repas ou ne blesse pas les personnes qui ont fourni la nourriture ?

---

Partie 1 : D'où viennent les ingrédients ?

L'article explique que pour entraîner ce Maître Chef, les développeurs « recousent » deux principaux types de données :

1. Les Archives Publiques (Le Garde-manger Communautaire) : Ce sont des ensembles de données vieilles de plusieurs décennies provenant d'hôpitaux et d'universités. Ils ont été collectés pour des recherches spécifiques (comme l'étude de l'épilepsie) et partagés ouvertement pour aider la science.
2. Les Flux Commerciaux (Le Jardin Privé) : Ce sont de nouveaux flux de données provenant d'entreprises vendant des appareils portables (comme des bandeaux EEG) ou des implants cérébraux invasifs.

Le problème de la « couture » :
Imaginez qu'un développeur prenne un bocal de « Données d'Épilepsie » du Garde-manger Communautaire (où les gens ont accepté de les partager pour la recherche médicale) et le mélange avec des « Données de Méditation » d'un Jardin Privé (où les utilisateurs ont accepté de les partager pour une application de sommeil). Il entraîne ensuite son Maître Chef sur ce ragoût géant et mélangé.

• Le Risque : Les personnes qui ont initialement donné les « Données d'Épilepsie » n'ont jamais consenti à ce que leurs schémas cérébraux soient utilisés pour entraîner une IA commerciale qui pourrait être vendue à une entreprise ou utilisée pour quelque chose de totalement différent, comme surveiller le niveau de stress des employés.

---

Partie 2 : Les cinq grandes zones d'inquiétude

L'article organise les préoccupations éthiques en cinq catégories. Voici ce qu'elles signifient en langage simple :

1. Vie privée : Le problème de l'« Empreinte digitale »

Les données cérébrales sont uniques, comme une empreinte digitale. Même si vous supprimez les noms des données, il est souvent encore possible de savoir à qui elles appartiennent.

• L'analogie : Imaginez que vous laissiez une empreinte digitale unique sur un verre d'eau dans un parc public. Si quelqu'un d'autre possède une base de données d'empreintes digitales, il peut faire correspondre votre verre à votre visage.
• La préoccupation de l'article : Parce que ces nouveaux modèles d'IA sont si puissants, ils pourraient être capables de « ré-identifier » des personnes à partir de vieux dossiers médicaux anonymes. Pire encore, ils pourraient être capables de deviner des choses que vous ne leur avez jamais dites, comme « Cette personne a une maladie rare » ou « Cette personne se sent stressée », simplement en regardant ses ondes cérébrales.

2. Consentement : Le problème du « Chèque en blanc »

Lorsque les gens donnent des données cérébrales aujourd'hui, ils signent un formulaire disant : « J'accepte que des chercheurs utilisent mes données pour de futures études de santé ».

• L'analogie : Imaginez que vous signiez un formulaire disant : « J'accepte que vous utilisiez ma voix pour de futurs concours de chant ». Vous n'aviez pas imaginé que ce « futur chant » signifierait que votre voix est utilisée pour entraîner un robot à écrire des discours politiques ou à espionner vos voisins.
• La préoccupation de l'article : Les anciens formulaires n'avaient pas anticipé les « Modèles de Fondation ». Les gens n'ont pas consenti à ce que leurs données soient mélangées dans une IA commerciale géante qui pourrait être utilisée pour n'importe quoi, n'importe où. L'article demande : Est-ce que « recherche future » est assez large pour couvrir cela ?

3. Biais : Le problème du « Miroir déformant »

Les modèles d'IA ne sont aussi bons que les données qu'ils consomment. Si les données proviennent uniquement de personnes riches, blanches et occidentales, l'IA pensera que c'est cela, un cerveau « normal ».

• L'analogie : Imaginez un miroir qui ne reflète que des personnes aux yeux bleus. Si vous placez une personne aux yeux bruns devant lui, le miroir dit : « Erreur : Vous n'existez pas ».
• La préoccupation de l'article : La plupart des données cérébrales proviennent de groupes spécifiques (populations WEIRD : Occidentales, Éduquées, Industrialisées, Riches, Démocratiques). Si nous entraînons le Maître Chef sur ces données, l'IA fonctionnera peut-être très bien pour certains, mais échouera lamentablement pour d'autres, ou pourrait même les diagnostiquer de manière erronée parce que leurs schémas cérébraux paraissent « différents » pour l'IA.

4. Partage des bénéfices : Le problème du « Déjeuner gratuit »

Les hôpitaux publics et les universités ont dépensé des millions de dollars et des années d'efforts pour collecter ces données cérébrales. Maintenant, des entreprises privées utilisent ces données gratuites pour construire des produits valant des milliards de dollars.

• L'analogie : Imaginez un jardin communautaire où tout le monde plante des tomates. Une grande corporation arrive, prend toutes les tomates gratuitement, fabrique un ketchup de luxe et le vend pour réaliser un profit. Les jardiniers ne reçoivent rien en retour.
• La préoccupation de l'article : Est-il juste que des entreprises s'enrichissent grâce à des données publiques ? Les hôpitaux ou les personnes ayant donné les données devraient-ils recevoir une part des profits, ou du moins un meilleur accès à la technologie ?

5. Gouvernance : Le problème du « Far West »

Nous avons des lois pour les hôpitaux (HIPAA) et des lois pour les applications de consommation (lois sur la vie privée), mais il n'existe aucune loi claire pour l'« IA Cérébrale ».

• L'analogie : Imaginez un nouveau type de véhicule qui est à la fois une voiture, un bateau et un avion. Nous avons des règles pour les voitures et des règles pour les bateaux, mais personne ne sait quelles règles s'appliquent à ce nouvel hybride.
• La préoccupation de l'article : Parce que les données passent d'un hôpital (règles strictes) à une application de consommation (règles souples) puis à une IA commerciale (pas de règles spécifiques), les protections disparaissent. L'article affirme que nous avons besoin de nouvelles règles spécifiquement pour cet espace de l'« IA Cérébrale ».

---

Que suggère l'article de faire ?

Les auteurs ne prétendent pas avoir toutes les réponses, mais ils proposent quelques « mesures de protection de base » (règles de conduite) pour commencer :

1. Être transparent : Les développeurs doivent lister clairement exactement quelles données ils ont utilisées et d'où elles proviennent (comme une étiquette nutritionnelle pour l'IA).
2. Renforcer le consentement : Les nouveaux formulaires de collecte de données doivent explicitement mentionner : « Vos données pourraient être utilisées pour entraîner une IA à usage général, et non pas seulement pour une étude spécifique ».
3. Contrôler l'accès : Si les risques sont trop élevés, ne laissez pas tout le monde télécharger le modèle. Au lieu de cela, permettez aux gens de l'utiliser via un « bac à sable » sécurisé ou une API où il ne peut pas être mal utilisé.
4. Partager les bénéfices : Si une entreprise gagne de l'argent grâce à des données publiques, elle devrait redonner quelque chose, comme un meilleur accès à l'outil pour les hôpitaux qui ont fourni les données.
5. Écouter tout le monde : Nous devons mettre en place des comités comprenant des médecins, des patients, des éthiciens et le public pour décider comment ces règles doivent évoluer à mesure que la technologie progresse.

L'essentiel

L'article conclut que les Modèles de Fondation Cérébraux sont un nouvel outil puissant qui pourrait révolutionner la médecine et les neurosciences. Cependant, nous sommes actuellement en train de construire le moteur sans vérifier les freins. Nous devons faire une pause et décider comment gouverner les données d'entraînement (les ingrédients) avant de laisser l'IA s'emballer, sous peine de briser la confiance entre les patients, les scientifiques et le public.