Beyond Binary Moral Judgment: Modeling Ethical Pluralism in AI

기술적 요약: 이분법적 도덕적 판단을 넘어: AI 에서 윤리적 다원주의 모델링

문제 제기
AI 의 자율적 도덕적 의사결정에 대한 현재 접근법은 주로 스칼라 또는 이분법적 판단 (예: 도덕적으로 수용 가능 vs. 수용 불가) 에 의존합니다. 저자들은 이러한 방법들이 설명력이 부족하고 책임성을 위해 필요한 맥락적 및 이론적 뉘앙스를 무시하기 때문에 의학, 법률, 공공정책과 같은 사회적 결과가 중요한 영역에는 부적절하다고 주장합니다. 인간의 도덕성은 맥락 의존적이며, 의무에 기반하고, 다원적인 것으로 묘사되는 반면, 표준 AI 는 수치적 최적화를 통해 작동합니다. 기존 계산 윤리학은 종종 단일한 보편적 도덕 체계를 가정하거나 이분법적 분류에 의존하여, 단일 행위가 때로는 상충하는 규범적 윤리 이론들 (예: 결과론, 의무론, 덕 윤리) 에 의해 정당화될 수 있는 현상인 '윤리적 다원주의'를 포착하지 못합니다. 이 논문은 정확하지만 불투명한 모델이나 설명 가능하지만 예측력이 약한 모델은 실용적 계산 윤리학에 부적절하다고 주장합니다.

방법론
이 논문은 단일 판결이 아닌 규범적 윤리 이론에 대한 확률 분포로서 도덕적 추론을 모델링하는 계층적 프레임워크를 제안합니다. 방법론은 이중 스트림 규범 - 의미 구조와 스택 앙상블 학습 접근법을 중심으로 구성됩니다.

1. 규범 윤리 분류법과 심플렉스:

   • 저자들은 윤리적 의사결정을 결과론 ($\alpha$), 덕 윤리 ($\beta$), **의무론 ($\gamma$)**으로 정의된 3 차원 공간에 매핑하는 '규범 윤리 심플렉스'를 정의합니다.
   • 이러한 광범위한 이론들은 15 개의 세분화된 하위 이론 (예: 행위 공리주의, 칸트적 의무론, 아리스토텔레스적 덕 윤리, 돌봄 윤리) 으로 세분화됩니다.
   • 이 프레임워크는 윤리적 의사결정을 세 축 전체의 소속 점수 합이 1 이 되는 '퍼지 분할 (fuzzy partition of unity)'로 처리하여, 중첩된 윤리적 정당화를 허용합니다.

2. 벤치마크 데이터셋:

   • 각 하위 이론당 30 건씩 총 450 건의 실제 사례로 구성된 구조화된 벤치마크가 수집되었습니다.
   • 사례들은 윤리적으로 모호한 자연어 내러티브의 기존 대규모 데이터셋에서 출처를 얻었습니다.
   • 특성 공학: 데이터셋에는 다음이 포함됩니다:
     • 의미적 특성: 원본 텍스트 및 요약.
     • 맥락적 특성: 능동/수동 행위자, 관계, 도덕적 의도, 결과의 심각성, 지속 시간, 효용을 포함한 원-핫 인코딩 변수.
     • 규범적 사전 지식: DeepSeek V3를 사용하여 도출된 세 가지 광범위한 이론 및 하위 이론에 대한 점수로, '윤리적 사전 지식'으로 작용하며 인간 전문가 합의에 대해 검증되었습니다.

3. 아키텍처:

   • 스트림 1: 규범적 사전 지식 스트림: 사례의 이론적 지향을 포착하기 위해 확률적 정렬 점수 ($\alpha, \beta, \gamma$) 와 파생 지표 (엔트로피, 점수 마진, 쌍별 비율) 를 처리합니다.
   • 스트림 2: 의미 - 맥락 스트림:
     • 의미 임베딩: 세 가지 다른 트랜스포머 (all-MiniLM-L6-v2, all-distilRoBERTa-v1, multi-qa-mpnet-base-dot-v1) 의 임베딩을 연결하여 1920 차원 슈퍼벡터를 생성하는 Triple-BERT 방식을 사용합니다. 이는 일반 콘텐츠, 상세 요약, 그리고 질문 - 답변 추론 패턴을 포착합니다.
     • 맥락적 특성: 공학된 맥락 변수를 통합합니다.
   • 스택 앙상블 분류기: 두 스트림의 출력이 메타 학습기에 입력됩니다.
     • 기초 학습기: 랜덤 포레스트 (배깅), XGBoost (부스팅), 선형 SVM (스태킹).
     • 메타 학습기: 두 번째 XGBoost 모델이 기초 예측을 결합하여 15 개 하위 이론 간의 최종 분류를 출력합니다.

주요 기여

• 윤리적 다원주의 모델링: 이 논문은 이분법적 도덕 분류에서 규범적 이론에 대한 확률 분포로의 패러다임 전환을 이루어 윤리적 추론에 내재된 중첩과 모호함을 명시적으로 모델링합니다.
• 규범 - 의미 아키텍처: 철학적 분류 (규범적 사전 지식) 와 심층 의미 표현 (트랜스포머 임베딩) 및 구조화된 맥락적 특성을 융합하는 하이브리드 아키텍처를 도입합니다.
• 구조화된 벤치마크: 도덕적 추론의 세밀함을 테스트하도록 설계된 15 개의 세분화된 윤리 하위 이론으로 레이블이 지정된 450 건 사례의 벤치마크를 구축했습니다.
• 모호성의 정량화: 이 프레임워크는 윤리적 모호성의 정도와 도덕적 의사결정의 '퍼지함'을 정량화하기 위한 지표 (엔트로피, 신뢰 마진, 중첩 점수) 를 제공합니다.

결과

• 분류 성능: 제안된 아키텍처는 15 개 하위 이론으로 사례를 분류하는 데 있어 정확 일치 정확도 88.89% 및 **마이크로 F1 점수 88.78%**를 달성했습니다.
• 어블레이션 연구:
  • 규범적 사전 지식을 제거하면 정확도가 85.56% 로 감소했습니다.
  • 맥락적 특성을 제거하면 정확도가 81.11% 로 추가로 감소했습니다.
  • 사전 지식이나 맥락 없이 의미 임베딩만 사용할 경우 정확도는 77.78% 로 떨어졌습니다.
  • 이는 구조화된 윤리적 표현과 맥락적 기반이 유추적 추론만으로는 달성할 수 없는 중요한 기여를 한다는 것을 보여줍니다.
• 다원주의 분석:
  • 엔트로피: 정규화로 분류 엔트로피가 1.66 에서 0.61 로 감소하여, 모델이 명확한 사례와 모호한 사례를 구별할 수 있음을 나타냅니다.
  • 신뢰도: 모델은 약 15% 의 사례에서만 높은 신뢰도 (>70%) 를 보였으며, 낮은 신뢰도는 높은 윤리적 모호성 또는 중첩된 이론과 상관관계가 있었습니다.
  • 시각화: 1920 차원 슈퍼벡터의 UMAP 투영은 유사한 규범적 이론을 가진 사례들이 함께 군집화됨을 보여주어, 아키텍처가 근본적인 윤리적 구조를 학습할 수 있음을 검증했습니다.

의의 및 주장
이 논문은 확률적 규범 분포로서 윤리적 다원주의를 모델링하는 것이 인간과 유사한 도덕적 추론을 지원하고 윤리적 이견 분석을 용이하게 한다고 주장합니다. 스칼라 판단을 넘어섬으로써, 이 프레임워크는 AI 시스템이 단순히 판결과만 제공하는 것이 아니라 특정 윤리 학파와 의사결정이 어떻게 정렬되는지 왜 설명할 수 있게 합니다. 저자들은 이 접근법이 불투명하지만 정확도가 높은 모델과 설명 가능하지만 예측력이 약한 모델 사이의 간극을 메운다고 강조합니다.

저자들은 다음과 같은 점을 인정하며 주장에 대해 겸손한 태도를 유지합니다:

• 벤치마크는 작고 균형 잡혀 있어 실제 세계의 환경적 복잡성을 완전히 대표하지는 않습니다.
• 규범적 사전 지식은 인간 주석가들에 대해 검증되었지만 편향의 위험을 내포하는 LLM 생성 점수에 의존합니다.
• 선택된 15 개 하위 이론은 모든 규범 윤리를 포괄하지는 않습니다.
• 현재 프레임워크는 분류를 위한 '최적 적합' 확률로 축소되며 적응적 갈등 해결을 수행하지는 않습니다.

궁극적으로, 이 연구는 복잡한 사회 - 기술 환경에서의 미래 AI 정렬은 경쟁적인 도덕적 해석을 더 잘 처리하기 위해 판결 기반 추론에서 윤리적 다원주의의 구조화된 표현으로 이동해야 함을 시사합니다.