Policy-as-logic for robust reasoning over rules
이 논문은 AI 응답이 명문화된 정책을 준수하도록 보장하기 위해 사실 추출을 위한 언어 모델과 논리적 추론을 위한 답변 집합 솔버(answer set solver)를 결 der한 하이브리드 심볼릭 접근 방식을 소개하며, 이를 통해 기존 방식보다 토큰 사용량을 크게 줄이면서도 우수한 정확도, 해석 가능성 및 견고성을 달성한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신은 아주 유능하지만 약간 산만한 로봇에게 규칙 책을 따르는 법을 가르치려 한다고 상상해 보세요. 이 로봇은 거대 언어 모델(LLM)로, 이야기, 농담, 인간의 대화를 이해하는 데 매우 뛰어난 인공지능의 일종입니다. 이 로봇은 수천 페이지짜리 소설을 읽고 등장인물의 감정을 정확히 말해줄 수 있습니다. 하지만 당신이 엄격한 수학 계산을 시키거나, 수하물이 너무 무거운지 결정하는 것과 같은 엄격한 "만약 ~라면, ~한다" 식의 규칙을 따르게 하면 가끔 혼란에 빠지곤 합니다. 로봇은 재미있는 단어에 한눈을 팔 수도 있고, 규칙의 순서를 바꾸면 완전히 다른 답을 내놓기도 합니다. 이는 항공사, 세무서, 병원처럼 질문 방식이 어떠하든 결정이 완벽하고 공정하며 일관되어야 하는 실제 업무 환경에서 문제가 됩니다.
이를 해결하기 위해 과학자들은 두 가지 서로 다른 유형의 사고방식을 혼합하고 있습니다. 하나는 복잡한 인간의 언어를 잘 읽는 AI의 "창의적인" 뇌입니다. 다른 하나는 초정밀 계산기나 지치거나 감정에 휘둘리지 않는 판사처럼 작동하는 엄격한 컴퓨터 프로그램인 "논리적인" 뇌입니다. 핵심적인 질문은 이것입니다: 창의적인 AI가 규칙과 복잡한 질문을 읽게 하되, 실제 의사결정은 엄격한 논리 엔진에 넘겨줄 수 있을까요? 이 논문은 바로 이 아이디어를 탐구하며, 창의적인 독자와 엄격한 논리 기계 사이의 역할을 분담하는 것이 더 똑똑하고 신뢰할 수 있는 의사결정자를 만드는지 테스트합니다.
"번역가와 판사" 접근법
이 논문의 연구진인 라훌 네어(Rahul Nair), 바스티안 립카(Bastian Lipka), 엘리자베스 데일리(Elizabeth Daly)는 정책 규칙을 다루는 영리하고 새로운 방법인 **정책-투-로직(Policy-as-Logic)**을 제안합니다. 이것은 두 명의 팀 구성원을 생각하면 쉽습니다. 바로 번역가와 판사입니다.
기존의 방식(그들이 "프롬프트-투-정책(Policy-as-Prompt)"이라 부르는 방식)에서는 AI의 뇌에 전체 규칙 책과 사용자의 질문을 한꺼번에 쏟아붓고 AI가 알아서 해결하기를 바랐습니다. 이는 마치 천재적이지만 주의력이 산만한 학생에게 소설을 읽으면서 동시에 복잡한 수학 문제를 풀라고 요구하는 것과 같습니다. 때로는 정답을 맞히기도 하지만, 질문의 어구가 조금만 바뀌어도 혼란에 빠져 틀린 답을 내놓을 수 있습니다.
새로운 "정책-투-로직" 방식은 업무를 나눕니다:
- 번역가 (AI): 먼저 AI는 사용자의 복잡하고 자연스러운 언어 질문(예: "20kg짜리 가방 하나가 있고, 이코노미석을 이용합니다")을 읽습니다. 이때 AI는 아직 문제를 해결하려고 시도하지 않습니다. 대신 번역가로서 역할을 수행하며, 그 문장을 깔끔하고 구조화된 사실 목록(예: JSON 파일 형태)으로 변환합니다. 불필요한 미사여구는 무시하고 중요한 숫자와 카테고리만을 추출합니다.
- 판사 (논리 솔버): 사실들이 추출되면, 이 정보들은 엄격한 논리 엔진(구체적으로는 답변 집합 솔버, Answer Set Solver)으로 전달됩니다. 이 엔진은 감정이나 말장난에는 관심이 없습니다. 오직 명확한 사실과 기록된 규칙만을 살핍니다. 엔진은 규칙이 해당 행동을 허용하는지 확인하기 위해 계산을 실행합니다.
- 판결: 논리 엔진은 명확한 "예" 또는 "아니오"를 내놓으며, 이는 다시 인간이 이해하기 쉬운 답변으로 번역됩니다.
그들이 발견한 것: "강건성(Robustness)"의 승리
연구팀은 이 방법을 네 가지 서로 다른 실제 시나리오에 테스트했습니다: 항공 수하물 요금, 소득세 계산, NBA 선수 연봉 규칙, 그리고 HR 콘텐츠 중재(직장 내 상황이 안전한지 결정하는 것)입니다.
결과는 "번역가와 판사" 팀의 압승이었으며, 특히 딱딱한 사실을 다루는 영역에서 두드러졌습니다.
- 정확도: 수치(무게나 돈 등)에 기반한 규칙이 있는 항공 및 세무 도메인에서, 그들의 새로운 방식은 0.94에서 1.00 사이의 점수를 기록하며 거의 완벽했습니다. 반면, 기존의 "프롬프트-투-정책" 방식(AI에게 직접 질문하는 방식)은 어려움을 겪었으며, 종종 0.40 미만의 정확도를 보였습니다. 테스트한 가장 작은 AI 모델조차 이 새로운 파이프라인을 사용했을 때 정확도가 0.01에서 0.61로 급증했습니다.
- 강건성 (스트레스 테스트): 이 부분이 가장 흥ile한 대목입니다. 연구진은 질문을 우스꽝스럽게 바꾸거나(즐겁게, 혹은 화난 듯이 표현하거나, 주의를 분산시키는 세부 사항을 추가하는 등) 시스템을 속이려고 시도했습니다. 기존의 AI 방식은 무너졌습니다. 세금 관련 질문에서 어구가 바뀌자 정확도가 0.00으로 떨어졌습니다. 하지만 "정책-투-로직" 방식은 강력하게 유지되었습니다. 논리 솔버는 어조에 의해 주의가 분산되지 않기 때문에 높은 정확도를 유지했습니다. 이는 마치 변호사가 소리를 지르든 속삭이든 상관없이 오직 증거만을 보는 판사와 같습니다.
- 효율성: 새로운 방식은 실행 비용도 훨씬 저렴했습니다. AI가 매번 전체 규칙 책을 읽는 대신, 찾아야 할 항목의 템플릿(스키마)만 읽으면 되었기 때문입니다. 이로 인해 약 10배 적은 토큰(AI가 처리하는 텍스트 단위)을 사용했습니다. 예를 들어, 항공 질문의 경우 기존 방식은 11,000개 이상의 토큰을 사용했지만, 새로운 방식은 단 1,175개만을 사용했습니다.
한계: 규칙이 "모호해질" 때
그러나 이 논문은 이 초능력에도 한계가 있음을 발견했습니다. 규칙이 주관적인(예: "이 메시지가 해로운가?") HR 콘텐츠 중재를 테스트했을 때, 새로운 방식은 큰 이점을 제공하지 못했습니다. 이러한 경우 규칙은 수학보다는 인간의 믿음과 해석에 의존합니다. AI가 여전히 사실을 추출하기 위해 초기 판단을 내려야 하고, 논리 솔버가 AI보다 감정에 대해 더 잘 "생각"할 수는 없기 때문에, 두 방식의 성능은 비슷했습니다(정확도 약 0.93 ~ 0.96).
저자들은 이것이 자신들의 논점을 입증한다고 제안합니다: 정책-투-로직은 객관적인 지식 기반 규칙(수학 및 물리학 등)에는 환상적인 도구이지만, 규칙 자체가 모호하거나 인간의 의견에 의존하는 문제를 마법처럼 해결해주지는 못한다는 것입니다.
결론
이 논문은 우리 세상의 가장 중요한 규칙 기반 결정들을 내릴 때, 단 하나의 AI에게 모든 것을 맡겨서는 안 된다는 점을 시사합니다. 대신, AI를 우리의 복잡한 언어를 이해하는 번역가로 활용하고, 최종 결정을 내리는 데는 엄격한 논리 기계에게 주도권을 넘겨야 합니다. 이 조합은 규칙이 명확하고 객적인 한, 훨씬 더 정확하고, 속이기 어려우며, 훨씬 저렴하게 운영할 수 있게 해줍니다. 이는 때때로 AI가 할 수 있는 가장 똑똑한 일은 추측을 멈추고 계산을 시작해야 할 때를 아는 것이라는 점을 상기시켜 줍니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.