Training Data Governance for Brain Foundation Models

개요: 새로운 종류의 브레인 셰프 (Brain Chef)

수년 동안 과학자들이 매우 특정한 요리만을 만들어 왔다고 상상해 보세요. 만약 그들이 "발작 수프(Seizure Soup)"를 만들고 싶다면, 발작과 관련된 재료만을 모았을 것입니다. 만약 "ADHD 샐러드(ADHD Salad)"를 원한다면, ADHD 관련 재료만을 모았을 것입니다. 이것들은 기존의 AI 모델과 같습니다. 즉, 특정 작업에 특화된(task-specific) 모델입니다. 이들은 한 가지 일에는 뛰어나지만, 그 외의 것에는 쓸모가 없습니다.

이제, **브레인 파운데이션 모델(Brain Foundation Models)**이라는 새로운 트렌드가 등장했습니다. 이것은 단순히 한 가지 요리만 만드는 것이 아니라, 모든 것을 맛보는 **마스터 셰프(Master Chef)**라고 생각하면 됩니다. 이 셰프는 병원, 연구실, 심지어 수면 추적 헤드밴드를 착용한 사람들의 데이터 등 수백만 시간의 뇌 기록(EEG, fMRI 등)을 통해 모든 것을 맛봅니다. 모든 것을 맛봄으로써, 이 셰프는 일반적인 인간의 뇌가 가진 "풍미"를 배웁니다. 일단 훈련이 되면, 이 셰프는 처음부터 다시 배울 필요 없이 즉석에서 발작 수프, ADHD 샐러드, 또는 "수면 스무디"를 만들어낼 수 있습니다.

문제점: 이 논문은 이 마스터 셰프가 놀랍기는 하지만, 우리가 그에게 재료를 공급하는 방식이 거대한 윤리적 혼란을 야기하고 있다고 주장합니다. 우리는 매우 구체적이고 엄격하게 관리되는 이유(예: 희귀 질환에 대한 임상 시험)로 수집된 재료들을 가져와서, 상업적 제품을 훈련시키기 위한 거대하고 공개된 믹싱 볼에 쏟아붓고 있습니다. 논문은 다음과 같이 묻습니다. 이렇게 해도 괜찮은가? 재료의 소유권은 누구에게 있는가? 그리고 셰프가 음식을 망치거나 음식을 제공한 사람들에게 피해를 주지 않도록 어떻게 보장할 것인가?

---

파트 1: 재료는 어디에서 오는가?

이 논문은 이 마스터 셰프를 훈련시키기 위해 개발자들이 두 가지 주요 유형의 데이터를 "짜깁기(stitching together)"하고 있다고 설명합니다.

1. 공공 아카이브 (커뮤니티 팬트리 - Community Pantry): 병원과 대학에서 수십 년간 모은 데이터셋입니다. 이는 특정 연구(예: 뇌전증 연구)를 위해 수집되었으며, 과학 발전을 위해 공개적으로 공유되었습니다.
2. 상업적 스트림 (프라이빗 가든 - Private Garden): 웨어러블 기기(예: EEG 헤드밴드)나 침습적 뇌 임플란트를 판매하는 기업들로부터 나오는 새로운 데이터 스트림입니다.

"짜깁기"의 문제:
개발자가 커뮤니티 팬트리에서 "뇌전증 데이터" 병을 가져와서(사람들이 의료 연구를 위해 공유하기로 동의한 것), 프라이빗 가든의 "명상 데이터"와 섞는다고 상상해 보세요(사용자들이 수면 앱을 위해 공유하기로 동의한 것). 그런 다음 이 거대하고 뒤섞인 스튜를 가지고 마스터 셰프를 훈련시킵니다.

• 위험 요소: "뇌전증 데이터"를 제공한 원래의 사람들은 자신의 뇌 패턴이 상업적 AI를 훈련시키는 데 사용되거나, 직원의 스트레스 수준을 모니터링하는 것과 같이 완전히 다른 용도로 사용되는 것에 동의한 적이 없습니다.

---

파트 2: 다섯 가지 주요 우려 영역

논문은 윤리적 우려 사항을 다섯 가지 범주로 분류합니다. 이것이 쉬운 영어로 무엇을 의미하는지 설명합니다.

1. 프라이버시: "지문" 문제

뇌 데이터는 지문처럼 고유합니다. 데이터에서 이름을 제거하더라도, 누구의 것인지 식별하는 것이 여전히 가능한 경우가 많습니다.

• 비유: 공공 공원에서 당신이 유리컵에 독특한 지문을 남겼다고 상상해 보세요. 만약 다른 사람이 지문 데이터베이스를 가지고 있다면, 그들은 당신의 컵을 당신의 얼굴과 매칭할 수 있습니다.
• 논문의 우려: 이러한 새로운 AI 모델들은 매우 강력하기 때문에, 오래된 익명 의료 기록으로부터 사람들을 "재식별(re-identify)"할 수도 있습니다. 더 나려하게는, 그들이 뇌파를 보는 것만으로도 당신이 말하지 않은 것들, 예를 들어 "이 사람은 희귀 질환을 앓고 있다"라거나 "이 사람은 스트레스를 느끼고 있다"라는 것을 알아낼 수도 있습니다.

2. 동의: "백지 수표" 문제

오늘날 사람들이 뇌 데이터를 제공할 때, 그들은 "나는 미래의 건강 연구를 위해 이 데이터를 사용하는 것에 동의합니다"라는 양식에 서명합니다.

• 비유: 당신이 "나는 미래의 노래 경연 대회를 위해 내 목소리를 사용하는 것에 동의합니다"라는 양식에 서명했다고 상상해 보세요. 당신은 그 "미래의 노래"가 당신의 목소리를 사용하여 정치 연설을 쓰거나 이웃을 감시하는 로봇을 훈련하는 데 사용될 것이라고는 상상하지 못했습니다.
• 논문의 우려: 기존의 양식들은 "파운데이션 모델"을 예측하지 못했습니다. 사람들은 자신의 데이터가 거대한 상업적 AI에 섞여서 어디에서나 무엇이든 하는 데 사용될 것이라는 점에 동의한 적이 없습니다. 논문은 묻습니다. "미래의 연구"라는 표현이 이 범위를 포괄하기에 충분한가?

3. 편향: "왜곡된 거울" 문제

AI 모델은 그것이 먹는 데이터만큼 훌륭합니다. 만약 데이터가 부유하고, 백인이며, 서구적인 사람들로부터만 온다면, AI는 그것이 "정상적인" 뇌의 모습이라고 생각할 것입니다.

• 비유: 파란 눈을 가진 사람들만을 비추는 거울을 상상해 보세요. 만약 갈색 눈을 가진 사람이 그 앞에 서면, 거울은 "오류: 당신은 존재하지 않습니다"라고 말합니다.
• 논문의 우려: 대부분의 뇌 데이터는 특정 집단(WEIRD 인구: 서구적, 교육 수준이 높고, 산업화되었으며, 부유하고, 민주적인 사회)으로부터 옵니다. 만약 우리가 이 데이터를 바탕으로 마스터 셰프를 훈련시킨다면, AI는 어떤 사람들에게는 잘 작동하겠지만 다른 사람들에게는 처참하게 실패하거나, 혹은 그들의 뇌 패턴이 AI에게 "다르게" 보인다는 이유로 오진을 내릴 수도 있습니다.

4. 이익 공유: "공짜 점심" 문제

공공 병원과 대학들은 이 뇌 데이터를 수집하기 위해 수백만 달러와 수년간의 노력을 들였습니다. 그런데 이제 민간 기업들이 이 무료 데이터를 사용하여 수십억 달러 가치의 제품을 만들고 있습니다.

• 비유: 마을 공동 정원에서 모두가 토마토를 심는다고 상상해 보세요. 큰 기업이 와서 그 토마토를 공짜로 가져가서 멋진 케첩을 만들고 수익을 남기고 파는 것입니다. 정원사들은 아무것도 돌려받지 못합니다.
• 논문의 우려: 기업들이 공공 데이터를 사용하여 부를 쌓는 것이 공정한가? 병원이나 데이터를 기부한 사람들이 이익의 일부를 받거나, 최소한 기술에 더 잘 접근할 수 있어야 하지 않을까?

5. 거버넌스: "서부 시대(Wild West)" 문제

우리는 병원을 위한 법(HIPAA)과 소비자 앱을 위한 법(개인정보 보호법)을 가지고 있지만, "브레인 AI"를 위한 명확한 법은 없습니다.

• 비유: 자동차의 일부이자, 배의 일부이며, 비행기의 일부인 새로운 종류의 탈것이 나왔다고 상상해 보세요. 우리는 자동차에 대한 규칙과 배에 대한 규칙을 가지고 있지만, 이 새로운 하이브리드 모델에 어떤 규칙이 적용되어야 하는지 아무도 모릅니다.
• 논문의 우려: 데이터가 병원(엄격한 규칙)에서 소비자 앱(느슨한 규칙)을 거쳐 상업적 AI(특정 규칙 없음)로 이동함에 따라, 보호 장치가 사라집니다. 논문은 이 "브레인 AI" 공간에 특화된 새로운 규칙이 필요하다고 말합니다.

---

논문은 무엇을 제안하는가?

저자들은 모든 정답을 가지고 있다고 주장하지는 않지만, 시작을 위한 몇 가지 "기본적인 안전장치(rules of the road)"를 제안합니다:

1. 투명성 확보: 개발자는 정확히 어떤 데이터를 사용했는지, 그리고 그 출처가 어디인지 명확하게 목록을 작성해야 합니다 (AI를 위한 영양 성분 표시처럼).
2. 동의 강화: 새로운 데이터 수집 양식은 "당신의 데이터가 특정 연구뿐만 아니라 일반 목적의 AI를 훈련하는 데 사용될 수 있음"을 명시적으로 밝혀야 합니다.
3. 접근 제어: 위험이 너무 높다면, 모든 사람이 모델을 다운로드하게 해서는 안 됩니다. 대신, 오용할 수 없는 보안 "샌드박스"나 API를 통해 사용하도록 허용해야 합니다.
4. 이익 공유: 만약 기업이 공공 데이터로 돈을 번다면, 그들은 병원이 데이터를 제공한 것에 대해 더 나은 도구 접근권과 같은 방식으로 무언가를 돌려주어야 합니다.
5. 모두의 목소리 경청: 기술이 성장함에 따라 이 규칙들을 어떻게 변경할지 결정하기 위해 의사, 환자, 윤리학자, 그리고 대중이 포함된 위원회를 구성해야 합니다.

결론

이 논문은 브레인 파운데이션 모델이 의학과 신경과학을 혁신할 수 있는 강력한 새로운 도구라고 결론짓습니다. 그러나 우리는 현재 브레이크를 점검하지 않고 엔진을 만드는 데 급급합니다. 우리는 AI가 통제 불능 상태가 되기 전에, 어떻게 이 데이터를 거버넌스(관리)할 것인지(즉, 재료를 어떻게 다룰 것인지)를 먼저 고민해야 합니다. 그렇지 않으면 환자, 과학자, 그리고 대중 사이의 신뢰를 깨뜨릴 위험이 있습니다.