Whose Good, Whose Place? The Moral Geography of Agentic AI for Social Good

기술적 요약: "누구의 선, 누구의 장소? 사회적 선을 위한 주체적 AI 의 도덕적 지리학"

문제 제기
본 논문은 사회적 선을 위한 주체적 AI에 관한 신흥 문헌에서 중요한 공백을 다룹니다. 연구자들이 유엔 지속가능발전목표 (SDGs) 를 진전시키기 위해 자율적 시스템 (계획, 조정, 자원 배분, 설득 등) 을 제안하는 경우가 늘어나고 있지만, "사회적 선"이라는 용어의 사용이 반드시 이러한 시스템이 봉사한다고 주장하는 특정 공동체에 대한 책임성을 내포하는 것은 아닙니다. 저자들은 이 분야가 특히 지리적 초점과 관련하여 **맥락의 미구체성 (contextual underspecification)**으로 고통받고 있다고 주장합니다. 이러한 구체성 부재는 균일하지 않으며, 지역적 정치, 법적, 문화적 맥락이 실행 가능성과 정당성에 가장 중요한 영역에 집중되어 있습니다. 또한, 개념적 제안과 현실 세계 구현 사이에는 상당한 괴리가 존재하며, 문헌의 대다수가 배포된 환경에서의 경험적 검증 없이 시뮬레이션 또는 이론 수준에 머무르고 있습니다.

방법론
저자들은 2015 년부터 2026 년 사이에 출판된 112 편의 논문 (2020 년 이후 91%) 에 대해 구조화된 조사를 수행했습니다. 코퍼스는 검색 편향을 최소화하기 위해 17 개 SDG 전체를 중심으로 구성된 쿼리를 활용하여 구글 스칼라, ACL 앤솔로지, 시맨틱 스칼라, 엘리시트 등 4 개의 학술 플랫폼에서 PRISMA 스타일의 체계적 검토를 통해 구축되었습니다.

• 주석 절차: 8 가지 차원에 걸친 대규모 주석을 관리하기 위해 저자들은 동일한 통제 어휘 프롬프트를 사용하여 GPT-4o 와 Llama-3.3-70B 를 활용한 이중 LLM 주석 절차를 채택했습니다.
• 인간 검증: LLM 출력값을 검증하기 위해 50 편의 논문을 표집하여 인간 주석자가 수동으로 코딩했습니다. 합의 레이블은 표본에 대해서는 인간 레이블을 우선시하고, 나머지 대해서는 인간 -LLM 간 일치도 (Cohen's $\kappa$) 가 더 높은 LLM 을 선택하여 구성되었습니다.
• 코딩 차원: 각 논문은 다음 항목에 대해 코딩되었습니다:
  1. 도메인
  2. SDG 정렬 (1–17)
  3. 에이전트 유형 (예: LLM 에이전트, 다중 에이전트 시스템)
  4. 자율성 수준
  5. 현실 세계 배포 상태
  6. 평가 유형
  7. 에이전트 목표
  8. 지리적 초점 ("미지정", "글로벌/광범위", 또는 "구체적"으로 코딩)
• 통계 분석: 본 연구는 SDG 클러스터와 지리적 구체성 간의 관계를 검토하기 위해 기술 통계와 추론 검정 (독립성 카이제곱 검정, 피셔의 정확 검정) 을 활용했습니다. 민감도 분석은 대체 SDG 클러스터 할당과 엄격 대 광범위 지리적 코딩 정의를 사용하여 수행되었습니다.

주요 기여

1. 구조화된 매핑: 본 논문은 도메인, 아키텍처, 자율성 수준, 평가 유형 전반에 걸쳐 사회적 선을 위한 주체적 AI 의 첫 번째 체계적 분류 체계를 제공합니다.
2. 도덕 - 지리적 비대칭성 식별: 저자들은 맥락 추상화의 비균일한 패턴을 식별했습니다. 건강 및 생태 도메인은 종종 지리적 맥락을 구체화하는 반면, 제도 및 사회 정책 도메인 (특히 SDG 16: 평화, 정의, 강력한 제도) 은 이를 구체화하지 못하는 경우가 압도적으로 많습니다.
3. 책임성 의제: 본 논문은 최소 보고 기준을 제안하고 이 분야의 성숙도를 제한하는 다섯 가지 구체적인 책임성 격차를 식별하며, "가능성"에서 "책임 있는 사회기술적 개입"으로의 전환을 주장합니다.

결과

• 지리적 미구체성: 논문의 **73% (82/112)**는 지리적 맥락을 전혀 지정하지 않습니다. 이러한 부재는 극도로 불균등합니다.
  • 건강 또는 물리적/생태적 SDG와 정렬된 논문은 **37–40%**의 경우에만 지리를 지정합니다.
  • 제도 및 사회 정책 SDG와 정렬된 논문은 광범위 코딩 시 **13%**의 경우에만, 엄격 코딩 시 (글로벌 주장 제외) **0%**의 경우에만 지리를 지정합니다.
  • SDG 16은 코퍼스에서 가장 많이 다루어진 목표 (39 편) 이지만 지리적 구체화율은 가장 낮습니다 (광범위 13%; 엄격 2.6%).
  • 통계 분석은 이 비대칭성이 유의미하며 ($\chi^2(2) = 8.78, p = .012$) 8 가지 민감도 구성 중 7 가지에서 견고함을 확인했습니다.
• 제안 - 실천 간격: 논문의 **25% (28/112)**만이 실제 배포 또는 소규모 테스트를 보고합니다. 나머지 75% 는 개념적이거나 시뮬레이션 전용입니다.
  • 이 간격은 특정 아키텍처나 시대에 국한된 것이 아니라 전 분야에 걸쳐 존재합니다. 지리를 명시한 논문이 그렇지 않은 논문보다 더 높은 배포율을 보이지는 않습니다. 2023 년 이후 LLM 에이전트 논문도 이전 다중 에이전트 작업보다 배포율이 낮지 않습니다.
• 평가 결핍: 평가 관행은 배포 간격을 반영합니다. 36 편은 개념 연구이며 30 편은 시뮬레이션입니다. 현장 연구를 보고한 논문은 단 5 편뿐입니다.
• 자율성 모호성: "자율성 수준"에 대한 교차 LLM 합의는 낮았습니다 ($\kappa = 0.56$). 이는 시스템이 주도하는 행동과 인간이 승인한 행동 사이의 경계에 대한 정확한 정의가 이 분야에 부재함을 나타냅니다.

의의 및 주장
본 논문은 이 분야의 현재 궤적이 제도적 선을 건강이나 생태적 선과 달리 보편적인 것으로 취급한다고 주장합니다. 이러한 "도덕적 추상화"는 윤리적으로 문제시됩니다. 제도적 개입 (거버넌스, 정의, 정책) 은 지역적 정치 및 법적 맥락에 크게 의존하기 때문입니다. 이러한 시스템이 봉사하는 공동체나 장소를 명시하지 않음으로써, 문헌은 권력 역학과 책임성을 흐리게 만듭니다.

저자들은 이 분야가 "에이전트가 무엇을 할 수 있는가"를 묻는 것을 넘어 "사회적 선을 위한 주체적 AI 가 그 이름으로 구축된 사람들과 장소에 무엇을 빚지고 있는가"를 묻는 것으로 나아가야 한다고 주장합니다. 저자들은 향후 연구가 다음을 수행해야 한다고 제안합니다:

1. 대상 맥락 명시 (공동체, 제도, 환경).
2. 주장과 증거의 일치 (예: 공동체 혜택 주장에 대한 현장 연구).
3. 설계 초기 단계에서 영향받는 이해관계자 참여.
4. 아키텍처 복잡성과 자율성 수준의 명시적 정당화.
5. 집단적 학습을 가능하게 하기 위한 실패 및 미배포 사례 문서화.

본 논문은 제안 수의 증가가 성숙도를 의미하지는 않는다고 결론지으며, 진정한 성숙은 맥락 특화적, 참여적, 책임 있는 시스템을 필요로 한다고 주장합니다.