AiDER: Auditing and Document Evaluation via Rule Compilation and Small Language Models - An Education Case Study

당신이 로봇에게 학생의 숙제를 채점하는 법을 가르치려 한다고 상상해 보십시오. 인공지능의 세계에는 이를 수행하는 두 가지 주요 방법이 있습니다. 첫 번째 방법은 거대하고 똑똑한 "두뇌"(LLM이라 불리는 대규모 언어 모델)가 과제를 읽고 자신의 직감에 따라 점수를 추측하게 하는 것입니다. 이 방식은 빠르지만, 내부를 알 수 없는 '블랙박스'와 같습니다. 만약 결과가 틀렸을 경우, 왜 그런 결과가 나왔는지 알 수 없으며 그 과정을 검증할 수도 없습니다. 두 번째 방법은 엄격한 규칙서를 사용하는 것입니다. "학생이 '중력'을 언급하면 5점을 준다"와 같이 정확한 지침을 작성하는 것이죠. 이 방식은 투명하고 확인하기 쉽지만, 특히 인간의 불분명한 언어로 된 모든 것을 위한 규칙을 일일이 작성하기는 어렵습니다.

이 논문은 바로 이 두 세계의 접점에 위치합니다. 이 논문은 다음과 같은 질문을 던집니다. "우리는 똑똑한 AI의 유연함과 엄격한 규칙서의 정직함을 결합할 수 있을까?" 연구자들은 AI의 결정이 단순히 마법처럼 받아들여지는 것이 아니라, 설명 가능하고 검증될 수 있도록 만드는 '감사 가능한 AI(auditable AI)' 분야를 연구하고 있습니다. 그들은 특히 "소규모 언어 모델(SLM)"에 주목하고 있습니다. SLM은 거대한 클라우드 서버 없이도 단일 컴퓨터에서 실행될 수 있는, 더 작고 저렴한 AI 두뇌입니다. 핵심적인 질문은 이것입니다. "더 작고 단순한 AI가 인간의 모호한 지침을 컴퓨터가 완벽하게 따를 수 있는 엄격한 규칙서로 변환할 만큼 충분히 똑똑할 수 있을까?"

저자들은 AiDER(Auditing and Document Evaluation via Rule Compilation and Small Language Models)라고 불리는 새로운 시스템을 소개합니다. AiDER를 영리한 번역가이자 엄격한 심판이 협력하는 구조라고 생각해 보십시오. AI에게 점수를 직접 추측하게 하는 대신, AiDER는 AI에게 두 가지 별도의 역할을 강제합니다. 첫째, AI는 번역가 역할을 합니다. 자연어 요구 사항(예: "학생들은 자신이 어떻게 평가받을지 알아야 한다")을 받아 이를 컴퓨터가 실행 가능한 엄격한 코드 규칙으로 컴파일하려고 시도합니다. 둘째, 별도의 결정론적 컴퓨터 프로그램이 심판 역할을 합니다. 이 프로그램은 문서를 살펴보고, 규칙이 요구하는 구체적인 증거를 찾아내어 규칙이 충족되었는지 확인합니다. AI는 실제로 점수를 결정하지 않습니다. 단지 규칙을 설정하고 단서를 찾을 뿐입니다.

이를 테스트하기 위해 연구진은 네 가지 서로 다른 소규모 AI 모델(파라미터 크기 20억에서 40억 사이)과 강의 계획서, 채점 루브릭과 같은 200개의 실제 교육 문서 세트를 사용했습니다. 그들은 AI가 규칙을 작성하게 하는 세 가지 방법을 시도했습니다:

1. 인간이 작성한 규칙: 인간이 엄격한 코드를 직접 작성한 '골드 스탠다드(표준)' 방식입니다.
2. 직접 컴파일: AI가 한 번에 코드를 작성하도록 시도하는 방식입니다.
3. 검증 루프를 통한 수정: 만약 AI가 잘못된 규칙을 작성하면, 시스템이 "오류!"라고 알려주고 AI가 수정할 기회를 최대 다섯 번까지 주는 방식입니다.

결과는 "기쁜 소식"과 "조심스러운 낙관론"이 섞여 있었습니다. 연구 결과, AI가 유효한 규칙을 성공적으로 작성했을 때, 가장 작은 모델조차도 결정을 내리기 위한 적절한 증거를 찾는 데 놀라울 정도로 뛰어난 능력을 보였습니다. 하지만 AI는 첫 시도에 완벽한 규칙을 쓰는 데 종종 어려움을 겪었습니다. 바로 이 지점에서 "수정 루프(repair loop)"가 빛을 발했습니다. AI가 스스로 실수를 고칠 수 있게 함으로써, 시스템은 규칙이 올바르게 작동하는 빈도를 크게 개선했습니다.

흥lik하게도, 이 논문은 일단 엄격한 규칙(즉, '스캐폴드/비계')이 마련되면, AI는 증거를 찾는 데 추가적인 도움을 많이 필요로 하지 않는다는 점을 시사합니다. 사실, AI로부터 추가적인 지침을 너무 많이 받으면 오히려 상황을 악화시키기도 했는데, 이는 특히 작은 모델들에서 두드러졌습니다. 연구는 과정에서 가장 중요한 것은 규칙을 제대로 만드는 것이라고 결론짓습니다. 규칙이 명확하다면, 작고 단순한 AI라도 증거를 찾는 무거운 작업은 충분히 해낼 수 있습니다.

궁극적으로 이 논문은 교육 자료를 점검하는 작업에 대해, 단순히 AI에게 문서를 "판단"하라고 요구해서는 안 된다고 제안합니다. 대신, 인간의 요구 사항을 엄격하고 검증 가능한 규칙으로 번로하는 데 AI를 사용하고, 그 후 컴퓨터가 사실을 검증하게 해야 합니다. 이 접근 방식은 전체 과정을 투명하게 만듭니다. 만약 결정이 틀렸다면, 신비로운 "블랙박스"의 판결을 탓하는 대신, 규칙이 잘못 작성되었는지 혹은 AI가 증거를 놓쳤는지 추적하여 원인을 파악할 수 있기 때문입니다. 비록 이 연구가 특정 강의 하나와 작은 문서 세트로 제한되었다는 한계가 있지만, AI를 교육 분야에서 더 신뢰할 수 있고, 공정하며, 이해하기 쉽게 만드는 유망한 청사진을 제시합니다.