당신이 거대하고 시끌벅적한 도서관에 들어섰다고 상상해 보세요. 그곳의 책들은 당신이 미스터리를 해결하도록 도우려 애쓰고 있습니다. 인공지능의 세계에서는 이 디지털 조력자들이 우리에게 어떻게 말을 걸어야 하는지에 대한 큰 논쟁이 있습니다. 오랫동안 표준적인 접근 방식은 마치 엄격한 사서가 책 한 권을 가리키며 "이것이 정답입니다. 저를 믿으세요"라고 말하는 것과 같았습니다. 이것을 '추천(recommendation)'이라고 부르는데, 이는 빠르긴 하지만 우리가 스스로 생각하는 것을 멈추게 만들곤 합니다. 우리는 그 조언을 맹목적으로 따르거나, 왜 그런지 이해하지 못한 채 완전히 무시해 버릴 수도 있습니다. 하지만 더 새롭고 흥미로운 아이디어인 **평가형 AI(Evaluative AI)**가 있습니다. 평가형 AI는 최종적인 답 하나를 외치는 대신, 마치 친절한 토론 코치처럼 행동합니다. 이 유형의 AI는 일어날 수 있는 몇 가지 가능한 이론들을 제시하고, 각 이론에 대한 근거와 그 이론에 반대되는 근거를 함께 보여줍니다. 그리고 당신이 직접 개입하여 단서들을 살펴보고, 어떤 이론이 가장 타당한지 스스로 결정하도록 초대합니다. 이는 당신을 운전석에 앉혀둠으로써, AI를 주인이 아닌 파트너로 만듭니다.

영국과 호주의 대학 연구진이 작성한 이 논문은 이러한 종류의 '토론 코치' AI를 구축하는 구체적이고 강력한 방법을 제안합니다. 저자들은 이 작업에 가장 적합한 도구가 **논증(Argumentation)**이라고 주장합니다. 이것을 고함치는 싸움이 아니라, 모든 증거가 하나의 노드(node)가 되고, 그들 사이의 연결이 서로를 지지하거나 공격하는 방식을 보여주는 구조화된 '점 잇기' 게임이라고 생각하십시오. 저자들은 **가중치 기반 양극적 정량적 논증 프레임워크(wQBAF, Weighted Quantitative Bipolar Argumentation Frameworks)**라는 수학적 프레임워크를 사용할 것을 제안합니다. 쉬운 말로 설명하자면, 이것은 모든 단서가 '신뢰도 점수'(얼마나 강력한지)를 가지고, 모든 연결이 '가중치'(얼마나 큰 영향력을 미치는지)를 가지는 지도를 그리는 방법입니다. 이 수치들을 계산함으로써, AI는 단순한 추측이 아닌 최선의 이론들을 순위가 매겨진 목록으로 만들어낼 수 있습니다. 이 방법은 기존의 방식보다 우월하다고 제 وهذا 논문은 왜냐하면 투명하기 때문입니다. 즉, 왜 특정 이론의 순위가 높은지 명확히 알 수 있습니다. 그리고 무엇보다 중요한 것은, 이 시스템이 **논쟁 가능(contestable)**하다는 점입니다. 만약 당신이 어떤 단서가 틀렸거나 연결이 약하다고 생각한다면, 당신은 그것에 이의를 제기하고, 수치를 조정하고, 그에 따라 순위가 변하는 것을 지켜볼 수 있습니다. 이는 AI를 '블랙박스'에서 인간과 기계가 논쟁하고, 개선하며, 최선의 길에 합의할 수 있는 협업 워크숍으로 변화시킵니다.

핵심 아이디어: "여기 정답이 있다"에서 "함께 토론하자"로

저자들은 우리가 보통 AI를 사용하는 방식의 결함을 지적하며 시작합니다. 대부분의 시스템은 '추천 후 설명(recommend-and-explain)' 모델로 작동합니다. AI가 승자를 선택하고, 그 후에 그것을 정당화하려고 노력하는 방식입니다. 문제는 무엇일까요? 연구에 따르면 이 방식은 사람들의 사고를 멈추게 만듭니다. 사람들은 AI의 선택에 홀린 듯이 응시하는 '인지적 고착(cognitive fixation)' 상태에 빠지거나, 혹은 아무런 재고 없이 완전히 무시해 버립니다.

이를 해결하기 위해, 이 논문은 **평가형 AI (EAI)**를 옹호합니다. EAI는 단 하나의 추천을 건네는 대신, 그럴듯한 가설(guesses)의 메뉴와 함께 각 가설에 대한 '장점'과 '단점'을 제시합니다. 의사가 환자를 진단하기 위해 AI를 사용하는 상황을 상상해 보십시오. AI가 "분명히 폐렴입니다"라고 말하는 대신, "세 가지 가능성이 있습니다: 바이러스성 폐렴, 세균성 폐렴, 또는 천식입니다. 각 상황을 뒷받all하는 근거는 다음과 같으며, 각 상황에 반대되는 근거는 다음과 같습니다. 당신이 결정하십시오"라고 말하는 식입니다.

해결책: "논증 지도" 게임

이 논문은 이러한 시스템을 구축하는 가장 좋은 방법이 **논증(Argumentation)**을 사용하는 것이라고 제안합니다. 저자들은 wQBAF(가중치 기반 양극적 정량적 논증 프레임워크)라고 불리는 구체적인 수학적 구조를 제안합니다. 이를 비유로 풀어보겠습니다.

빛나는 노드들이 떠다니는 거대한 웹을 상상해 보십시오.

• 노드: 어떤 노드는 증거(예: "고열" 또는 "기침")이고, 어떤 노드는 가설(예: "바이러스성 폐렴" 또는 "천식")입니다.
• 연결: 선들이 이 노드들을 연결합니다. 어떤 선은 **초록색(지지)**으로, "이 단서가 해당 이론을 더 가능성 있게 만든다"는 것을 의미합니다. 다른 선은 **빨간색(공격)**으로, "이 단서가 해당 이론을 덜 가능성 있게 만든다"는 것을 의미합니다.
• 가중치: 모든 노드는 기본 점수(처음 시작할 때의 단서의 강도)를 가집니다. 모든 선은 가중치(그 연결의 영향력)를 가집니다.

논문의 예시에서, 환자는 고열과 기침을 앓고 있습니다. 이것들이 시작 노드입니다. 열은 '바이러스성 폐렴'을 강력하게 지지할 수 있지만, '천식'은 약하게 지지할 수 있습니다. AI는 단순히 추측하는 것이 아니라 계산을 수행합니다. 기본 점수와 연결의 강도를 살펴보고, 초록색 선과 빨간색 선 사이의 줄다리기(tug-of-war)를 바탕으로 모든 가설의 강도를 '재계산'합니다.

결과는 단 하나의 답이 아니라, 순위가 매겨진 목록입니다. 가장 높은 최종 강도를 가진 가설이 맨 위에 위치하고, 그다음 최선의 선택이 그 뒤를 잇습니다. 논문의 의료 사례에서, 시스템은 '항바이러스 요법'과 '항생제'를 동일하게 강한 것(둘 다 강도 0.40)으로 순위를 매기는 한편, '기관지 확장제'는 더 낮은 순위(0.31)로 매길 수 있습니다.

이 접근 방식이 특별한 이유

저자들은 이 논증적 접근 방식이 다른 방법에는 없는 세 가지 초능력을 가지고 있다고 주장합니다.

1. 설명 가능성(Explainability): 시스템이 논증의 가시적인 지도를 기반으로 구축되었기 때문에, 왜 특정 가설의 순위가 높은지 설명할 수 있습니다. 시스템은 특정 "고열" 노드와 "바이러스성 폐렴"을 연결하는 강한 초록색 선을 가리키며, "이것이 우리가 이것을 최선의 선택으로 생각하는 이유입니다"라고 말할 수 있습니다. 이것은 마법이 아니라 추적 가능한 경로입니다.
2. 논쟁 가능성(Contestability): 이것이 가장 중요한 부분입니다. 많은 AI 시스템에서 당신이 동의하지 않는다면, 당신은 막히게 됩니다. 하지만 여기서는 시스템이 가중치와 연결의 지도일 뿐이므로, 당신이 지도를 바꿀 수 있습니다. 만약 당신이 "기침" 증상이 AI가 생각하는 것만큼 중요하지 않다고 생각한다면, 그 가중치를 낮출 수 있습니다. 새로운 증거가 있다면 새로운 노드를 추가할 수 있습니다. 시스템은 즉시 순위를 재계산합니다. 이는 사용자를 수동적인 관찰자에서 AI의 추론에 이의를 제기할 수 있는 능동적인 참여자로 변화시킵니다.
3. 다중 에이전트 협업(Multi-Agent Collaboration): 논문은 서로 다른 '에이전트'(예를 들어 한 명은 인간 의사, 다른 하나는 전문 데이터베이스, 세 번째는 다른 AI 모델)가 각자의 논증 지도를 만드는 미래를 구상합니다. 그런 다음 그들은 자신의 지도를 결합하고, 서로 논쟁하며, 의견을 융합하여 더 강력하고 견고한 최종 순위를 만들어낼 수 있습니다. 이는 모든 사람이 각자의 노트를 가져와서 최선의 해결책을 찾을 때까지 토론하는 전문가들의 원탁 회의와 같습니다.

게임의 규칙

시스템이 이성적으로 작동하도록 하기 위해, 저자들은 순위 시스템이 따라야 할 일련의 "원칙"을 제안합니다. 이것은 공정한 게임의 규칙과 같습니다.

• 단조성(Monotonicity): 이론을 지지하는 증거를 더 추가하더라도, 그 순위가 내려가서는 안 됩니다.
• 균형(Balance): "찬성" 증거와 "반대" 증거를 동일한 양만큼 추가하면, 순위는 변하지 않아야 합니다.
• 지배성(Dominance): 만약 어떤 이론이 다른 이론보다 더 많거나 더 강한 지지 증거를 가지고 있다면(동일한 반대 증거를 가진 경우), 반드시 더 높은 순위를 가져야 합니다.
• 강건성(Robustness): 데이터의 작은 변화가 전체 순위를 미친 듯이 뒤집어 놓아서는 안 됩니다.
• 설명 가능성 및 논쟁 가능성: 언급했듯이, 시스템은 자신의 논리를 설명할 수 있어야 하며 인간이 이에 이의를 제기할 수 있어야 합니다.

논문은 기존의 많은 수학적 논증 방법들이 처음 네 가지 규칙을 이미 충족하고 있지만, 저자들은 시스템이 또한 강건하고 진정으로 논쟁 가능하도록 하기 위해 새로운 방법들을 계속 개발해야 한다고 제안합니다.

한계와 미래

저자들은 자신들이 모든 것을 해결했다고 주장하는 데 신중합니다. 그들은 이러한 논증 지도를 구축하는 것이 어렵다는 점을 인정합니다. 현재, AI가 모든 논증, 연결, 가중치를 정확하게 식별하도록 만드는 것은 주요한 병목 구간입니다. 그들은 최신 "거대 언어 모델(LLM, 우리가 아는 똑똑한 챗봇들)"이 이러한 지도를 자동으로 구축하는 데 도움이 될 수 있다고 제안하지만, 아직 완벽하지는 않습니다.

또한 그들은 "논쟁 가능성" 기능에 대해 경고합니다. 만약 인간이 가중치를 변경할 수 있다면, 무엇이 사람으로 하여금 시스템을 의도적으로 망가뜨리는 것을 막을 수 있을까요? 그들은 오직 신뢰할 수 있는 사용자만이 규칙을 변경할 수 있는 "권한 부여된(permissioned)" 시스템이나, 변경을 수행하는 사람의 신뢰도를 측정하는 방법이 필요할 수 있다고 제안합니다.

마지막으로, 그들은 다중 에이전트 환경에서 서로 다른 전문가들이 깊게 이견을 가질 수 있음을 인정합니다. 때로는 단 하나의 '정답'이 없을 수도 있습니다. 그들의 시스템의 목표는 모두가 동의하도록 강요하는 것이 아니라, 인간이 갈등을 헤쳐 나갈 수 있도록 구조화되고 투명한 방식으로 그 불일치를 관리하는 것입니다.

요약하자면, 이 논문은 단순히 새로운 알고리즘을 제안하는 것이 아니라, AI에 대한 새로운 철학을 제안합니다. 스마트한 기계의 미래는 그들이 방 안에서 가장 똑똑한 사람이 되는 것이 아니라, 증거를 검토하고, 우리의 가정을 의심하며, 우리가 진정으로 신뢰할 수 있는 결정을 내릴 수 있도록 돕는 최고의 조력자가 되는 것에 있다는 것을 시사합니다.