기술 요약: 사회적 영향력을 위한 AI 연구에서 영향력 달성의 어려움

1. 문제 제기

사회적 영향력을 위한 인공지능 (AI4SI), 일명 사회적 선을 위한 AI(AI4SG) 분야는 급속한 성장을 거듭해 왔으며, 의료, 기후 행동, 사회 정의 등 유엔 지속가능발전목표 (UN SDGs) 를 다루는 프로젝트들이 등장하고 있습니다. 그러나 연구 프로젝트의 급증과 현장에서의 실질적 배포 사이에는 상당한 격차가 존재합니다. 관심이 높아지고 있음에도 불구하고, 약 72% 의 AI4SI 프로젝트가 연구 개발 (R&D) 이나 개념 증명 (PoC) 단계에서 장기적이고 확장된 배포 단계로 전환하지 못하고 있습니다.

기존 문헌은 책임 있는 AI 설계에 대한 프레임워크를 제시하고 기술적 한계를 식별하고 있지만, 자원 제약이 있는 현실 세계에서 배포를 방해하는 비기술적, 구조적, 운영적 장벽에 대한 현실적인 이해는 부족합니다. 구체적으로, 문헌은 종종 현장 배포의 '살아있는 현실 (lived realities)'을 추상화하여, 학술 기관, 비영리 단체 및 정부 기관과 같은 파트너 조직 (PO), 그리고 저자원 지역 사회가 포함된 복잡한 생태계를 navigate 하는 데 필요한 실용적인 지침을 연구자들에게 제공하지 못하고 있습니다.

2. 방법론

현실 세계 배포를 저해하는 요인을 조사하기 위해 저자들은 다음과 같은 데이터에 **주제 분석 (thematic analysis)**을 적용한 질적 연구를 수행했습니다:

• 반구조화 인터뷰: 경험이 풍부한 AI4SI 연구자 26 명과 인터뷰를 진행했습니다. 표본에는 주로 글로벌 노스 (Global North) 의 기관에 소속된 학술 연구자들이 포함되었으며, 산업계 연구자와 한 명의 스타트업 실무자도 포함되었습니다.
• 살아있는 경험: 분석은 저자들이 직접 참여한 5 개의 AI4SI 프로젝트에 대한 경험으로 보완되었습니다.
• 범위: 이 연구는 보전, 공중보건, 사회 정의 등 다양한 부문의 38 개의 서로 다른 AI4SI 프로젝트를 다루었습니다.

데이터 수집 및 분석:

• 모집: 주요 AI4SI 행사 (예: AAAI, AAMAS, KDD 워크숍) 의 저자들을 대상으로 목적적 표본 추출을 통해 참여자를 모집했으며, 인용 네트워크를 기반으로 한 눈덩이 표본 추출도 활용했습니다.
• 프로토콜: 인터뷰는 평균 약 43 분 동안 진행되었습니다. 참여자들은 배포에 실패한 프로젝트를 포함한 구체적인 프로젝트들을 논의하고 협력 모델 개선을 위한 제안을 제공했습니다.
• 분석: 저자들은 귀납적 주제 분석 접근법을 활용했습니다. 두 명의 저자가 약 1,121 분의 인터뷰 기록을 독립적으로 개방 코딩하여 33 개의 예비 코드를 생성했습니다. 이러한 코드는 반복적인 이론적 코딩을 통해 고차원 주제를 확립하기 위해 정제되었으며, 의견 불일치는 합의를 통해 해결되었습니다. 분석은 질적 데이터 분석 소프트웨어인 Taguette 를 통해 지원되었습니다.

3. 주요 기여 및 발견

본 논문은 기술적 한계를 넘어 구조적 및 조직적 장애물을 다루며, AI4SI 솔루션의 배포를 저해하는 네 가지 주요 범주의 과제를 식별합니다:

3.1 구조적 및 조직적 과제

• 불일치하는 학술적 인센티브: 지배적인 '출판 아니면 도태 (publish or perish)' 문화는 배포에 필요한 장기적이고 엔지니어링 중심의 작업보다 고량의 출판과 이론적 참신성을 우선시합니다. 연구자들은 종종 현실 세계의 유용성에 집중하면 출판량이 줄어들어 AI4SI 프로젝트가 우선순위에서 밀리는 딜레마에 직면합니다.
• 불일치하는 파트너 조직 (PO) 인센티브: PO 들은 종종 장기 연구 협력에 참여할 예산, 인력 역량 또는 공식적 권한이 부족합니다. 현장 근로자들은 즉각적인 필요 (예: 더 나은 장비) 에 비해 AI 도구를 관련성이 없거나 부담스러운 것으로 간주할 수 있어, 리더십의 열정과 운영 현실 사이의 괴리가 발생합니다.
• 자금 제약: 프로젝트 관리, 인프라, 장기 유지보수와 같은 배포의 '숨겨진 비용'에 대한 만성적인 자금 부족이 존재합니다. 보조금은 초기 프로토타이핑을 지원하지만, 확장所需的인 지속적 엔지니어링 노력을 지원하지는 못합니다.
• 제도적 관성과 학제 간 격차: 절차적 관료주의 (예: 데이터 사용 계약) 가 진전을 지연시킵니다. 또한 연구자들은 현장 배포에 필수적인 계량경제학, 인간 중심 설계, 소프트웨어 공학 등의 분야에서 종종 학제 간 훈련이 부족합니다.

3.2 의사소통 및 이해 격차

• 논쟁의 여지가 있는 의미: 연구자와 PO 간의 'AI'에 대한 상이한 이해가 기대치 불일치를 초래합니다. PO 는 회의론이나 과장된 희망을 품을 수 있는 반면, 연구자들은 기술적 역량을 접근 가능한 용어로 설명하는 데 어려움을 겪습니다.
• 학문적 전문 용어: 도메인별 전문 용어의 사용은 효과적인 협력을 위한 장벽을 만듭니다.
• 내부 옹호자의 역할: 성공적인 프로젝트는 종종 PO 내부에 경제학이나 게임 이론과 같은 공유된 전문 지식을 갖춘 '옹호자 (champions)'를 식별하여 의사소통 격차를 해소하고 내부적으로 시스템을 옹호하는 데 의존합니다.

3.3 협력 장벽

• 전략적 파트너십: 배포는 의사결정 권한을 가진 PO 리더십의 제도적 동의가 필요합니다. 이것이 없으면 프로젝트가 멈추게 됩니다. 연구자들은 종종 신뢰와 물류를 촉진하기 위해 사회복지사나 공중보건 학자와 같은 '중개자'에 의존하지만, 이러한 네트워크가 부족한 신규 연구자들에게는 병목 현상을 초래할 수 있습니다.
• 신뢰 문제: PO 들은 종종 연구자의 동기에 대해 회의적이며, 영구적 혜택 없이 데이터를 가져가 논문으로만 사용하는 '착취적' 연구를 우려합니다. 신뢰 구축에는 투명성, 설명 가능한 모델, 그리고 실질적 가치의 조기 제공 ('빠른 승리') 이 필요합니다.

3.4 운영적 장벽

• 동적 환경: PO 들은 높은 직원 이직률 (종종 자원봉사자에 의존) 과 변화하는 우선순위를 가진 변동적인 맥락에서 운영됩니다. 조직 구조나 문제 정의가 변경됨에 따라 정적 소프트웨어 솔루션은 종종 구식이 됩니다.
• 데이터 문제: 고품질이고 관련성 있는 데이터에 대한 접근은 주요 병목 현상입니다. 데이터는 종종 불결하고 불완전하거나 민감하여, 정제하고 접근 권한을 협상하는 데 상당한 시간과 노력이 필요합니다.
• 확장성 및 유지보수: 대부분의 프로젝트는 제한된 자금 (<25 만 달러) 을 받으며 범위가 좁습니다. 확장에는 학술 연구실이 거의 제공하거나 인센티브를 부여하지 않는 상당한 소프트웨어 엔지니어링 노력이 필요합니다. 학생들의 이직 또한 장기 유지보수를 더욱 방해합니다.

4. 제안된 전략 및 모범 사례

'쉬운 해결책'은 없다는 점을 인정하면서도, 저자들은 인터뷰와 자신의 경험에서 도출된 실행 가능한 전략들을 종합합니다:

• 연구자를 위해:
  • 조기 가치 제공: 기술적 참신성을 목표로 하기 전에 신뢰를 구축하고 유용성을 입증하기 위해 '빠른 승리' (예: 간단한 데이터 분석) 를 우선시합니다.
  • 표준화된 문서화: Model Cards 와 Data Cards 와 같은 도구를 사용하여 의사소통 장벽을 줄이고 한계를 명확히 합니다.
  • 전략적 노동 위임: 핵심 연구에 집중하는 박사 과정 학생과 엔지니어링 및 유지보수 작업을 처리하는 석사/학부생을 짝지어 배치합니다.
  • 재정 메커니즘 활용: 전체 규모 배포 전에 초기 협력과 신뢰 구축을 장려하도록 설계된 '매칭 시장' 스타일의 보조금 (예: NSF ReDDDot, NSF TTP) 을 활용합니다.
• 기관을 위해:
  • 연구 가치 재정의: 알고리즘적 참신성과 함께 배포된 시스템, 오픈소스 도구, 공공 영향력을 평가 지표에 포함하도록 확장합니다.
  • 제도적 지원: 데이터 계약과 같은 행정적 부담을 관리하고 연구자를 PO 와 연결하기 위한 컨소시엄을 설립합니다.
  • 학제 간 훈련: 기술적 AI 기술과 함께 정책, 윤리, 현장 방법론에 대한 기술을 갖춘 학생들을 양성하기 위한 전용 훈련 프로그램을 개발합니다.
• 파트너 조직을 위해:
  • 학술적 제약 이해: 연구자들이 직면한 구조적 압력 (예: 출판 주기) 을 인식하여 현실적인 기대치를 설정하고 양측 모두에게 이익이 되는 협력 구조를 옹호합니다.

5. 중요성 및 위치 설정

본 논문은 학술 연구자 및 조직을 위한 실용적인 가이드로서 자신의 위치를 설정하며, 커뮤니티나 PO 관점뿐만 아니라 연구자의 관점에 초점을 맞춤으로써 문헌의 공백을 메웁니다. 이는 AI4SI 의 과제가 단순히 기술적인 것이 아니라 학술적 보상 시스템과 현장 배포의 현실 사이의 인센티브 불일치에 깊이 뿌리내리고 있다고 주장합니다.

저자들은 그들의 발견이 글로벌 노스의 학술 연구 그룹에 가장 직접적으로 적용 가능하다고 명시적으로 밝히며, 글로벌 사우스, 스타트업, 정부 부문의 관점은 표본에서 과소 대표되어 있음을 인정합니다. 그들은 AI4SI 가 빅테크의 영리 중심 솔루션에 대한 중요한 대안이라고 강조하지만, 그 성공은 현재 사회적 영향력 있는 작업이 개념 증명 단계를 넘어가는 것을 막는 체계적 장벽을 해결하는 데 달려 있다고 말합니다. 논문은 이 분야를 강화하기 위해서는 인센티브를 정렬하고, 훈련을 개선하며, 지속 가능한 파트너십을 조성하기 위한 집단적 노력이 필요하다고 결론짓습니다.