Bridging the Gap in the Responsible AI Divides

이 논문은 AI 안전과 AI 윤리 간의 대립을 분석하고 3,550 편의 논문을 기반으로 한 계산적 연구를 통해 '비판적 연결 (critical bridging)'과 공유된 문제 해결을 통해 책임 있는 AI 발전을 위한 협력적 거버넌스를 제안합니다.

핵심

이 논문은 인공지능 (AI) 을 더 안전하고 윤리적으로 만들기 위해 노력하는 두 개의 다른 그룹, 즉 'AI 안전 (AI Safety)' 연구자와 'AI 윤리 (AI Ethics)' 연구자 사이의 갈등을 해결하는 방법을 탐구합니다.

이들을 쉽게 비유하자면 다음과 같습니다.

• AI 안전 (AIS) 그룹: 마치 고급 자동차 엔지니어처럼 생각합니다. "이 차가 너무 빨리 달리면 어떻게 될까?", "브레이크가 고장 나면 어떻게 할까?", "미래에 이 차가 인간을 해칠까?"라고 걱정하며, 기술적 결함을 막고 시스템이 통제 불능이 되지 않도록 하는 데 집중합니다. (주로 미래의 큰 재앙과 기술적 버그를 염려함)
• AI 윤리 (AIE) 그룹: 마치 도시 계획가나 사회 운동가처럼 생각합니다. "이 차가 누구의 길만 더 넓혀줄까?", "차량 번호판이 특정 인종이나 성별을 차별하지는 않을까?", "이 기술이 일자리를 빼앗거나 환경을 파괴하지는 않을까?"라고 걱정하며, 현재의 사회적 불평등과 편향을 해결하는 데 집중합니다. (주로 현재의 불공정과 사회적 피해를 염려함)

1. 문제: "책임 있는 AI"를 두고 싸우는 두 팀

이 두 그룹은 모두 AI 를 잘 만들려고 하지만, 서로의 접근 방식이 달랐고 때로는 서로를 무시하거나 대립하기도 했습니다. 마치 엔지니어는 "속도"만 중요하고, 계획가는 "누구를 위한 길인지"만 중요하다고 생각하며 대화도 안 하는 상황과 비슷합니다.

저자들은 이 갈등을 해결하는 네 가지 방식을 제시합니다.

1. 격렬한 대결 (Radical Confrontation): 서로를 "너는 쓸모없어", "너는 위험해"라고 비난하며 싸우는 것. (결과: 서로의 관계가 악화됨)
2. 아예 대화 안 하기 (Disengagement): "내 일은 내 일, 너는 너"라며 서로의 존재를 무시하고 각자 일만 하는 것. (결과: 중요한 문제가 해결되지 않음)
3. 함께 있지만 따로 노는 것 (Compartmentalized Coexistence): 같은 회의실에 앉아 있지만, 서로의 말을 듣지 않고 각자만의 발표만 하는 것. (결과: 겉보기엔 화목하지만 실제 협력은 없음)
4. 비판적 연결 (Critical Bridging): 이 논문이 추천하는 가장 좋은 방법입니다. 서로의 차이를 인정하면서도, **"우리가 함께 해결해야 할 공통의 문제"**를 찾아 협력하는 것입니다.

2. 해결책: "공통의 문제"를 찾아서 연결하기

저자들은 3,550 편의 연구 논문을 컴퓨터로 분석하여 두 그룹이 실제로 어디서 겹치는지를 찾아냈습니다. 마치 두 개의 다른 지도를 겹쳐보면서, 두 팀이 모두 '홍수'와 '지진'이라는 같은 재해에 대해 걱정하고 있다는 것을 발견한 것과 같습니다.

두 그룹이 함께 걱정하는 공통 문제들 (교량 역할을 할 수 있는 부분):

• 설명 가능성 (Explainability): "이 AI 가 왜 이런 결정을 내렸는지"를 인간이 이해할 수 있게 설명해야 한다는 점. (엔지니어는 시스템이 고장 나지 않게 하려고, 계획가는 사람들이 신뢰할 수 있게 하려고 둘 다 필요로 함)
• 편향과 불공정 (Bias): 데이터나 알고리즘이 특정 집단을 차별하지 않도록 해야 한다는 점.
• 감시와 통제 (Monitoring): AI 가 이상한 행동을 할 때 이를 잡아내야 한다는 점.
• 거짓 정보 (Misinformation): AI 가 가짜 뉴스나 해로운 정보를 퍼뜨리지 않도록 막아야 한다는 점.

3. 결론: 함께 손잡고 가는 길

이 논문은 두 그룹이 서로의 철학이나 세계관을 완전히 바꾸려고 애쓰기보다, **"우리가 함께 해결할 수 있는 구체적인 문제들"**에 집중하라고 제안합니다.

• 엔지니어는 AI 가 미래에 인간을 해치지 않도록 기술적 안전장치를 만들고,
• 윤리학자는 AI 가 지금 당장 특정 사람을 차별하지 않도록 사회적 안전장치를 만들고,
• 함께는 AI 가 어떻게 작동하는지 투명하게 설명하고, 해로운 정보를 막는 시스템을 만드는 것입니다.

한 줄 요약:
AI 를 안전하게 만들려면 '엔지니어'와 '사회운동가'가 서로를 비난하거나 무시하지 말고, **"함께 해결해야 할 공통의 적 (공통 문제)"**을 찾아 협력해야 합니다. 이것이 바로 '책임 있는 AI'를 향한 가장 현실적이고 건설적인 길입니다.

기술 요약

1. 문제 정의 (Problem)

최근 인공지능 (AI) 거버넌스와 공공 담론에서 **AI 안전성 (AI Safety, AIS)**과 AI 윤리 (AI Ethics, AIE) 간의 긴장이 심화되고 있습니다. 두 분야는 AI 의 위험을 어떻게 정의하고, 자원을 어떻게 배분하며, 어떤 완화 전략을 우선시할 것인지에 대해 근본적인 견해 차이를 보이고 있습니다. 저자들은 이를 **"책임 있는 AI 분열 (Responsible AI Divides)"**이라고 명명합니다.

이 분열은 다음과 같은 네 가지 상호작용 모드로 나타납니다:

1. 급진적 대결 (Radical Confrontation): 상대방의 정당성을 직접적으로 부정하거나 무효화하려는 시도.
2. 소극적 단절 (Disengagement): 긴장을 중립성이라는 명목 하에 의도적으로 회피하거나 무시.
3. 분리된 공존 (Compartmentalized Coexistence): 같은 장소를 공유하지만 실질적인 통합 없이 각자의 의제를 병행.
4. 비판적 연결 (Critical Bridging): 불일치를 인정하면서도 공통된 문제 영역을 식별하고 협력하는 건설적 접근.

현재까지의 연구는 주로 대결이나 분리된 공존에 머무르고 있으며, 두 분야의 실질적인 협력을 통한 책임 있는 AI 거버넌스 확장이 어렵다는 문제가 제기됩니다.

2. 방법론 (Methodology)

저자들은 AIE 와 AIS 간의 분열을 해결하기 위해 비판적 연결 (Critical Bridging), 특히 **'문제 연결 (Bridging Problems)'**에 초점을 맞춘 체계적인 문헌 분석을 수행했습니다.

• 데이터 수집:
  • AIE 코퍼스: 2018 년 설립 이후 ACM AIES 및 ACM FAccT 회의의 전체 프로시딩 (Talk 및 워크숍 제안 제외) 에서 1,770 편의 논문을 수집.
  • AIS 코퍼스: 기존 오픈소스 데이터셋을 기반으로 35 개의 주요 안전 연구소 및 개별 연구자의 메타데이터를 추가하여 1,780 편의 논문을 수집.
  • 총 데이터: 2025 년 7 월 9 일 기준 총 3,550 편의 논문.
• 분석 기법:
  • 정량적 분석 (Text Mining): VOSViewer 를 활용한 용어 공발생 네트워크 분석, BERTopic 을 통한 비지도 토픽 모델링, 로그-오즈비 (Log-odds ratio) 를 통한 두 코퍼스 간 고유 용어 비교, SentenceBERT 를 이용한 문서 임베딩의 시간적 유사성 추적.
  • 정성적 분석 (Deductive Coding): 저자들이 개발한 계층적 분류 체계 (Taxonomy) 를 기반으로 수동 코딩을 수행. 각 논문을 최대 3 개의 저수준 (Low-level) 위험 및 완화 전략 카테고리로 분류.
    • 코딩 전략 1: 각 분야 (AIE 또는 AIS) 고유의 분류 체계만 적용하여 각 분야의 고유 관심사 파악.
    • 코딩 전략 2: 전체 분류 체계 (AIE+AIS 통합) 를 적용하여 두 분야 간의 중첩 (Overlap) 과 차이점 식별.

3. 주요 기여 (Key Contributions)

1. 네 가지 참여 모드 제시: 책임 있는 AI 분열을 해결하기 위한 네 가지 전략 (대결, 단절, 분리 공존, 비판적 연결) 을 체계화하고, 비판적 연결이 가장 실용적인 경로임을 주장.
2. 시각적 연구 지도 작성: 체계적인 문헌 검토를 기반으로 AIE 와 AIS 연구의 공간적 분포를 시각화.
3. 공통 및 고유 문제 식별: 두 분야가 다루는 위험과 완화 전략의 중첩 부분과 고유 부분을 정량적, 정성적으로 명확히 구분.
4. 연결 가능한 문제 영역 제안: 두 분야가 협력할 수 있는 구체적인 '연결 문제 (Bridging Problems)'를 제시하여 향후 협력적 거버넌스의 기반 마련.

4. 주요 결과 (Results)

가. 연구 주제 및 용어의 차이 (Divergences)

• AIE (AI 윤리): 주로 사회적, 구조적 불의에 집중.
  • 주요 용어: 인종적 불평등 (disparity), 불공정 (injustice), 교육 부족, 구제 (recourse), 얼굴 인식, 참여적 방법, 교차적 공정성.
  • 초점: 알고리즘 편향, 차별, 배제, 투명성, 사회적 영향, 노동 조건, 환경적 불평등.
• AIS (AI 안전): 주로 기술적 능력과 예측 불가능한 위험에 집중.
  • 주요 용어: 재앙적 위험 (catastrophic risks), 기술적 버그, 분포 외 (out-of-distribution) 오류, 백도어 공격, 기계적 해석 가능성 (mechanistic interpretability), 자기 학습 (self-supervised), 강화 학습 (RL).
  • 초점: 시스템 오작동, 통제 상실, 적대적 공격, 모델의 불확실성, 장기적 생존 위험.

나. 공통된 위험 및 중첩 영역 (Overlaps)

두 분야는 다음과 같은 핵심 영역에서 상당한 중첩을 보임:

• 해석 가능성 (Interpretability): AIE 는 인간 중심의 설명과 책임 소재를 위해, AIS 는 시스템 제어와 감시를 위해 해석 가능성을 연구함.
• 벤치마크 및 재현성: 두 분야 모두 부정확하거나 과장된 벤치마크, 재현성 위기, 부적절한 평가 지표의 위험을 인식.
• 거버넌스 부재: 글로벌 조정의 부재, 책임 소재 불명확성, 데이터 투명성 부족.
• 데이터 분포 변화 (Distribution Shifts): AIE 는 공정성 저하 측면에서, AIS 는 성능 저하 측면에서 데이터 드리프트를 다룸.
• 악용 (Malicious Use): 재킹 (Jailbreaking), 데이터 중독, 딥페이크 등 악의적 사용에 대한 관심이 두 분야에서 모두 증가 중.

다. 완화 전략의 차이와 공통점

• 차이점:
  • AIE 는 참여적 방법 (Participatory methods), 이해관계자 중심 설계, 인간 - 컴퓨터 상호작용 (HCI) 에 집중.
  • AIS 는 기계적 해석 가능성 (Circuit analysis, Sparse autoencoders), 강화 학습의 안전 탐험, 수학적 기초, 시스템 제어에 집중.
• 공통점 (연결 가능한 영역):
  • 인간 가치 및 선호도 모델링: 인간 가치 유도 (elicitation) 및 보상 학습 (Reward learning) 방법.
  • 적대적 견고성 (Adversarial Robustness): 재킹 방지, 악용 탐지.
  • 감사 및 평가: 위험 분류, 영향 평가, 감사 (Audit) 프레임워크.
  • 데이터 거버넌스: 머신 언러닝 (Machine unlearning), 차등 프라이버시.

5. 의의 및 결론 (Significance)

• 협력적 거버넌스의 실용적 경로: AIE 와 AIS 간의 이념적, 방법론적 차이를 완전히 해소하려 하기보다, **공통된 문제 공간 (Shared Problem Spaces)**을 식별하고 협력하는 '비판적 연결'이 책임 있는 AI 를 확장하는 가장 현실적인 길임을 입증.
• 중복 연구 방지 및 자원 효율성: 두 분야의 연구 중첩을 파악함으로써 불필요한 중복 연구를 줄이고 자원을 효율적으로 배분할 수 있는 기반을 제공.
• 정책 및 표준화 지원: 두 분야가 공통으로 인식하는 위험 (예: 해석 가능성, 벤치마크 신뢰성, 거버넌스 부재) 을 바탕으로 보다 포괄적인 AI 규제 가이드라인 및 표준을 수립할 수 있음.
• 미래 연구 방향: 저자들은 '사회기술적 안전 (Sociotechnical Safety)', '시간적 위험 조정 (Temporal conflict resolution)', '기금의 정치적 경제학', '제도적 하이브리드화' 등 해결해야 할 5 가지 개방적 질문을 제시하며, 향후 연구가 단순한 기술적 통합을 넘어 사회학적, 제도적 통합으로 나아가야 함을 강조.

이 논문은 AI 안전과 윤리 커뮤니티 간의 분열을 단순히 논쟁의 대상으로 보지 않고, 구조적인 협력의 기회를 포착하여 책임 있는 AI 개발을 가속화할 수 있는 방법론적, 실증적 근거를 제시했다는 점에서 중요한 의의를 가집니다.