ApplE: A Modular Ontology of Applied Ethics and Event Context for Ethical Decision Modeling

당신의 토스터가 빵을 태울지 말지를 도덕적 규칙에 따라 결정하거나, 자율주행 자동차가 보행자를 칠 것인지 벽에 들이받을 것인지를 선택해야 하는 세상을 상상해 보십시오. 이것은 단순한 공상 과학 소설이 아닙니다. 이것은 인공지능(AI)의 최전선입니다. 수십 년 동안 우리는 기계에게 똑똑하고, 빠르고, 강해지는 법을 가르쳐 왔지만, 기계에게 '선해지는' 법을 가르치는 데는 어려움을 겪어 왔습니다. 핵심적인 질문은 이것입니다: 어떻게 하면 컴퓨터가 어떤 일이 옳고 그름을, 특히 규칙이 복잡해질 때도 이해하도록 만들 수 있을까요?

이를 답하기 위해서는 두 가지 주요 성분을 이해해야 합니다. 첫째, 무엇이 '좋은' 행동이고 '나쁜' 행동인지를 연구하는 학문인 **윤리(Ethics)**가 있습니다. 이것은 삶을 위한 규칙 책과 같지만, 단 하나의 규칙 책이 아니라 여러 가지가 존재합니다. 어떤 이들은 "항상 진실을 말하라"(의무론)고 말하고, 다른 이들은 "가장 많은 사람에게 도움이 되는 일을 하라"(공리주의)고 하며, 또 어떤 이들은 "덕스러운 사람이 되어라"(덕 윤리)라고 말합니다. 둘째, 결정이 일어나는 구체적인 상황인 **맥락(Context)**이 있습니다. 이는 배고픈 아이를 먹이기 위해 빵 한 덩이를 훔치는 것과, 단지 심심해서 빵을 훔치는 것의 차이와 같습니다. 동일한 행동이라도 "누가, 무엇을, 어디서, 왜" 하느냐에 따라 완전히 달라질 수 있습니다.

문제는 컴퓨터가 이러한 모호하고 복잡한 인간의 뉘앙스를 이해하는 데 매우 서투르다는 점입니다. 컴퓨터는 보통 매우 명확하고 엄격한 지침을 필요로 합니다. 만약 우리가 병원, 기업, 혹은 도로 위와 같은 현실 세계에서 윤리적 결정을 내리는 AI를 원한다면, 우리는 이러한 모호한 인간의 개념들을 기계가 실제로 읽고 추론할 수 있는 언어로 번역할 방법이 필요합니다. 바로 이 지점에서 이 논문이 등장합니다.

---

"ApplE" 레시피: 로봇에게 인간처럼 생각하는 법 가르치기

ApplE(Applied Ethics and Event Context)를 만나보십시오. 이것을 로봇의 뇌라고 생각하지 말고, 컴퓨터를 위해 특별히 설계된 '윤리적 구성 요소'들의 거대하고 매우 체계적인 도서관이라고 생각하십시오. 인도 출신의 연구진인 저자들은 우리가 윤리에 관한 많은 이론을 가지고 있음은 물론이지만, 기계가 사용할 수 있도록 이를 기록하는 표준화된 방법이 없다는 점을 깨달았습니다. 그래서 그들은 **모듈형 온톨로지(Modular Ontology)**를 구축했습니다.

"온톨로지"라는 멋진 단어에 겁먹지 마십시오. 간단히 말해, 온톨로지는 서로 다른 사물들이 어떻게 연결되는지를 정의하는 상세한 지도나 사전과 같습니다. 당신이 레고 성을 쌓고 있다고 상상해 보십시오. 당신에게는 브릭들(개념들)이 담긴 상자가 있지만, 설명서가 없다면 어떤 브릭을 어디에 놓아야 할지 알 수 없습니다. ApplE는 바로 그 설명서입니다. ApplE는 복잡한 윤리의 세계를 완벽하게 맞물리는 두 가지 주요 섹션으로 나눕니다:

1. "이론(Theory)" 모듈: 이것은 규칙의 도서관입니다. 여기에는 "해를 끼치지 말라"는 규칙이나 "최대 다수의 최대 행복" 규칙과 같은 다양한 윤리 철학들이 담겨 있습니다.
2. "맥락(Context)" 모듈: 이것은 이야기책입니다. 여기에는 특정 사건의 세부 사항이 담겨 있습니다: 누가 했는가?(행위자), 무엇을 했는가?(행위), 언제 어디서 일어났는가?(시간과 장소), 그리고 결과는 어떠했는가?(결과).

ApplE의 마법은 이 둘을 연결한다는 데 있습니다. 이를 통해 컴퓨터는 특정 이야기(예: 의사가 약을 처방하는 상황)를 살펴보고, 그 행동이 규칙 책에 부합하는지 확인할 수 있습니다.

"도덕적 계산기"와 오피오이드 이야기

연구진은 자신들의 지도가 작동한다는 것을 증명하기 위해 단순히 코드를 작성한 것이 아니라, 의료계의 실제적이고 복잡한 시나리오로 테스트했습니다. 그들은 2000년대 초반, 한 의사가 십 대 환자에게 강력한 진통제(옥시콘틴)를 처방한 사례를 살펴보았습니다. 의사는 좋은 의도를 가지고 있었습니다. 아이의 통증을 멈춰주고 클리닉에 반복적으로 방문하지 않도록 돕고 싶었던 것입니다.

하지만 장기적인 결과는 나빴습니다. 그 십 대 청소년은 약물 중독에 빠졌습니다.

여기서 ApplE의 진가가 드러납니다. 단순한 컴퓨터라면 "좋은 의도"만을 보고 "잘했다!"라고 하거나, "나쁜 결과"만을 보고 "잘못했다!"라고 할 것입니다. 하지만 ApplE는 더 똑똑합니다. 이 시스템은 SWRL 규칙(복잡한 도덕적 수학을 위한 레시-처럼 생각하십시오)이라는 특별한 지침 세트를 사용합니다. 이는 단기적인 통증 완화라는 선한 측면과 장기적인 중독이라는 끔찍한 측면을 저울질합니다. 또한 약물의 위험성을 알아야 하는 의사의 의무를 확인합니다.

결과는 어땠을까요? ApplE 지도를 사용한 컴퓨터는 해당 의사의 행동을 **"도덕적으로 잘못됨"**으로 정확히 식별했습니다. 컴퓨터는 단순히 추측한 것이 아니라, 비록 의도는 좋았을지라도 그 행동이 "악행 금지(Nonmaleficence, 해를 끼치지 말 것)"의 원칙과 의사의 책임 의무를 위반했다는 것을 근거로 추론했습니다. 시스템은 자신이 사용한 특정 규칙과 사실들을 지목하며 왜 그런 결론에 도달했는지 설명할 수 있었습니다.

이것이 중요한 이유 (그리고 그렇지 않은 이유)

저자들은 ApplE가 할 수 있는 것과 할 수 없는 것에 대해 매우 명확하게 밝히고 있습니다. 그들은 갑자기 죄책감을 느끼거나 스스로 완벽한 도덕적 선택을 내릴 수 있는 로봇을 만들었다고 주장하는 것이 아닙니다. 대신, 그들은 인간과 기계가 함께 협력할 수 있도록 돕는 도구를 만든 것입니다.

그들은 수백만 개의 이야기를 컴퓨터에 입력하여 정답을 추측하게 만드는 방식(머신 러닝이라 불리는 방법)으로 컴퓨터에게 윤리를 가르칠 수 있다는 생각에 반대합니다. 그들은 단순히 데이터만 입력하면 컴퓨터가 데이터 속에 숨겨진 나쁜 습관이나 편향을 학습할 수 있으며, 왜 그런 선택을 했는지 설명하지 못할 것이라고 지적합니다. 그것은 마치 수학 원리는 이해하지 못한 채 정답만 암기한 학생과 같습니다. 반면, ApplE는 게임의 규칙을 이해하고 자신의 풀이 과정을 보여줄 수 있는 학생과 같습니다.

연구팀은 전문가들이 작업을 반복해서 검증하는 SAMOD라는 엄격한 과정을 통해 지도를 테스트했습니다. 그들은 지도가 정확한지 확인하기 위해 "역량 질문(competency questions)"(마치 퀴즈와 같은)을 실행했습니다. 그 결과, ApplE가 의료 사례부터 기업의 결정(예: 자폐인을 고용하는 기업), 그리고 환경 문제(예: 개발을 위해 나무를 베는 것)에 이르기까지 다양한 유형의 윤리적 딜레마를 처리할 수 있음을 발견했습니다.

결국, ApplE는 기초적인 단계입니다. 이는 AI에게 윤리적 규칙과 현실 세계의 세부 사항을 모두 이해할 수 있는 구조적이고 명확하며 모듈화된 방식을 제공함으로써, 우리가 단순히 행동하는 것이 아니라 '윤리적으로' 행동하는 기계를 만들기 시작할 수 있음을 시사합니다. 이것은 모든 도덕적 문제를 해결하는 마법 지팡이는 아니지만, 매우 어두운 방 안에서 우리가 나아갈 길을 비추는 아주 강력한 손전등입니다.