Voices in the Loop: Mapping Participatory AI
본 논문은 참여형 AI 이니셔티브를 매핑하기 위한 개방형·상호작용적 아틀라스와 재현 가능한 프로토콜의 구축을 제시하여 기존 노력의 지리적·주제적 집중도를 드러내는 동시에 비교 연구, 정책 학습, 그리고 커뮤니티 감시를 지원하기 위한 살아있는 프레임워크를 확립한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
거대한 안개 낀 섬들의 군도를 매핑하려고 한다고 상상해 보세요. 각 섬은 사람들이 자신들의 영향을 받는 지역 사회와 함께 인공지능 (AI) 을 구축하려는 프로젝트를 나타냅니다. 어떤 섬은 잘 조명되어 있고 명확한 지도가 있지만, 다른 섬들은 안개에 휩싸여 있거나 지도가 분실되었습니다.
이 논문인 "순환 속의 목소리: 참여형 AI 매핑 (Voices in the Loop: Mapping Participatory AI)" 은 이러한 섬들을 명확하게 볼 수 있도록 돕는 살아 있고 상호작용 가능한 지도 (atlas) 를 구축하는 것에 관한 것입니다. 저자 라시드 무슈카니 (Rashid Mushkani) 는 많은 사람들이 AI 에 '참여'한다고 주장하지만, 누가 무엇을, 어디서, 얼마나 효과적으로 수행하고 있는지에 대한 명확한 그림은 없다는 점을 주장합니다.
다음은 간단한 비유를 사용하여 이 논문의 여정을 요약한 것입니다:
1. 문제: 흩어진 도서관
"지역 사회 AI 프로젝트"에 관한 책들이 여기저기 흩어져 있는 도서관을 상상해 보세요. 어떤 책은 정부 기록 보관소에, 어떤 것은 대학 지하에, 어떤 것은 블로그 게시물로 존재하며, 어떤 것은 검색하기 어려운 언어로 쓰여 있습니다.
- 문제: 정보가 너무 파편화되어 있어 연구자와 정책 입안자들이 프로젝트를 비교할 수 없습니다. 케냐의 프로젝트가 캐나다의 프로젝트와 유사한지, 혹은 프로젝트가 실제로 사람들에게 결정에 대한 실질적인 발언권을 부여했는지, 아니면 실제로 아무것도 바꾸지 않고 듣는 척만 하는 '참여 세척 (participation-washing)'이었는지 알 수 없습니다.
- 목표: 저자는 이러한 흩어진 책들을 모아 정리하고, 단일한 상호작용 지도 위에 배치하고자 했습니다.
2. 해결책: "AI 지도 (AI Atlas)" 구축
저자는 131 개의 구체적인 프로젝트를 포함한 개방형 저장소이자 상호작용 가능한 지도를 구축했습니다. 이 지도를 정적인 사진 앨범이 아니라 업데이트되고 수정되며 논쟁될 수 있는 살아 있는 위키로 생각하세요.
- 레시피 (프로토콜): 저자는 어떤 프로젝트를 포함할지 단순히 추측하지 않았습니다. 프로젝트를 찾고, 그것이 실제인지 확인하며, 데이터를 정리하기 위한 엄격하고 반복 가능한 레시피 (프로토콜) 를 만들었습니다.
- 필터: AI 시스템이 실제로 구축되거나 사용되었고, 그리고 일반 사람들 (이해관계자) 이 해당 AI 의 설계나 거버넌스에 실질적인 발언권을 가졌다는 증거가 있는 프로젝트만 포함했습니다. 단순히 회의를 운영하는 데 AI 를 사용한 프로젝트는 포함되지 않았습니다.
- 지도: 이 131 개의 프로젝트를 세계 지도에 표시하여 다음과 같은 세부 사항을 기록했습니다:
- 어디서 발생했는지 (지리).
- 누가 관여했는지 (지역 사회 단체, 대학, 비정부기구).
- 프로세스의 어느 단계에서 사람들이 관여했는지 (문제를 정의하는 데 도움을 주었는지, 아니면 최종 제품만 검토했는지).
3. 지도가 밝혀낸 것 (결과)
저자가 완성된 지도를 살펴봤을 때, 군도 위의 뚜렷한 기상 패턴처럼 네 가지 주요 패턴이 나타났습니다:
- "부유한" 지역: 문서화된 프로젝트의 대부분은 몇몇 부유한 국가, 특히 미국, 영국, 캐나다, 케냐에 집중되어 있습니다.
- 비유: 전 세계 지도에서 대부분의 가로등이 북미와 유럽에 있는 것과 같습니다. 이는 AI 참여가 오직 그곳에서만 일어난다는 뜻이 아니라, 명확하고 검색 가능한 '거리 표지판 (문서화)'이 있는 곳은 그곳뿐이라는 뜻입니다.
- "정문" 대 "부엌": 대부분의 참여는 시작 단계 (문제 정의) 나 끝 단계 (결과 평가) 에서 발생합니다. 중간 단계 (실제로 AI 모델을 훈련하는 것) 에 관여하는 사람은 매우 적습니다.
- 비유: 식당을 상상해 보세요. 사람들은 메뉴를 선택하는 것 (문제 정의) 과 음식을 맛보는 것 (평가) 에 초대받습니다. 하지만 거의 아무도 요리를 돕기 위해 부엌으로 초대받지 않습니다.
- "누가"와 "어떻게": 가장 일반적인 참여 유형은 지역 사회 주도 이니셔티브와 공동 설계 (co-design, 함께 작업) 입니다.
- 빠진 페이지: 많은 정보가 누락되어 있습니다. 많은 프로젝트의 경우, 언제 끝났는지, 모든 파트너가 누구였는지, 혹은 이야기를 확인할 제 2 의 출처가 있는지 알 수 없습니다. 페이지의 절반이 찢어진 전기 (biography) 를 읽는 것과 같습니다.
4. "살아 있는" 기능: 이 지도가 다른 이유
대부분의 연구 논문은 스냅샷과 같습니다. 한 순간의 데이터를 찍어 출판합니다. 이 논문은 AI 에 대한 지도가 살아 있는 유기체여야 한다고 주장합니다.
- 수정 채널: 프로젝트 팀이 "hey, 우리 세부 사항을 잘못 기록했습니다" 또는 "우리는 실제로 사람들이 모델에 투표하도록 허용했습니다"라고 말하면, 지도는 그들이 정정을 제출할 수 있도록 허용합니다.
- 분쟁 구역: 지역 사회가 "이 프로젝트는 참여적이라고 주장하지만, 우리는 무시당했습니다"라고 말하면, 지도는 그 분쟁을 기록할 장소를 제공합니다.
- 버전 관리: 소프트웨어 업데이트와 마찬가지로, 지도는 "버전"을 출시합니다. 이는 연구자들이 나중에 지도가 변경되더라도 해당 시점에 어떤 데이터가 포함되었는지 정확히 알고 특정 버전의 지도를 인용할 수 있음을 의미합니다.
5. 미래를 위한 청사진
마지막으로, 이 논문은 거버넌스 프레임워크를 제안합니다. AI 가 진정으로 참여적이 되려면, 이를 추적하는 도구 (이러한 지도와 같은) 역시 참여적이어야 한다고 제안합니다.
- 규칙: 문서화는 단순한 사실 목록이 아니라, 경쟁 가능성 (사실에 대한 도전), 출처 (정보의 출처 파악), 그리고 지역 사회 권리 (필요한 경우 민감한 정보를 숨길 수 있는 권한) 를 허용하는 시스템이어야 합니다.
요약
간단히 말해, 이 논문은 다음과 같이 말합니다: "우리는 볼 수 없는 것을 고칠 수 없으며, 비교할 수 없는 것을 개선할 수 없습니다."
저자는 참여가 어디에서 일어나고, 어디에서 결여되어 있으며, 문서화가 약한지를 보여주기 위해 131 개의 AI 프로젝트에 대한 동적이고 크라우드 소싱된 지도를 구축했습니다. 궁극적인 목표는 단순히 프로젝트를 세는 것이 아니라, AI 순환 속의 "목소리"들이 단순히 들리는 것을 넘어 기록되고, 검증되며, 시간이 지남에 따라 기록을 수정할 수 있는 시스템을 만드는 것입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.