A Neurosymbolic Multiagent Framework for Culturally Responsive Personalised Explainable and Fair AI Tutoring

교실에서 교사가 가진 가장 강력한 도구는 교과서나 화이트보드가 아니라, 학생이 어느 순간에 무엇을 이해하고 있는지를 정확히 파악하는 능력입니다. 수십 년 동안 교육자들은 학습자의 구체적인 요구에 맞춰 수업을 조정할 때 학생들이 표준적인 집단 환경보다 훨씬 더 빠르게 내용을 숙달할 수 있다는 사실을 알고 있었습니다. 흔히 "근접 발달 영역(zone of proximal development)"이라고 불리는 이 개념은, 교사가 학생이 혼자 할 수 있는 것보다 아주 약간 높은 수준의 도전을 제공하고, 그 간극을 메울 수 있는 적절한 힌트나 예시를 제공할 때 학습이 가장 잘 일어난다는 것을 시사합니다. 오늘날 인공지능은 이러한 종류의 일대일 과외를 수백만 명에게 동시에 제공할 것을 약속하고 있습니다. 많은 현대적 챗봇의 기반이 되는 기술인 거대 언어 모델은 유창한 대화를 나눌 수 있고 몇 초 만에 복잡한 아이디어를 설명할 수 있습니다. 그러나 이러한 시스템은 인상적인 대화 상대이기는 하지만, 종종 올바른 교육적 결정을 내리는 데 어려움을 겪습니다. 그들은 학생이 실제로 무엇을 알고 있는지 알지 못할 수도 있고, 서로 다른 학생 집단을 불공평하게 대할 수도 있으며, 실수를 했을 때 왜 특정 경로를 선택했는지 설명하지 못할 수도 있습니다. 이러한 안전장치가 없다면, AI 튜터는 고정관념을 강화하거나 특정 학생들에 대한 기대치를 낮추어, 권한 부여를 위한 도구를 미묘한 차별의 도구로 변질시킬 위험이 있습니다.

바나라스 힌두 대학교(Banaras Hindu University)의 연구자 니키타 스리바스타바(Nikita Srivastava)와 디파 메타(Deepa Mehta)는 이러한 문제들을 단순히 임시방편으로 해결하는 것이 아니라, 시스템이 사고하는 방식을 재구축함으로써 해결하고자 하는 KAIROS라는 새로운 AI 튜터링 시스템 설계를 제안했습니다. 이것은 개념 논문이므로, 저자들은 아직 작동하는 버전의 시스템을 구축하거나 실제 학생들을 대상으로 테스트를 수행하지 않았습니다. 대신, 그들은 그러한 시스템이 어떻게 구축되고 향후 어떻게 테스트되어야 하는지에 대한 정밀한 청사진과 엄격한 계획을 제시했습니다. 그들의 핵심 논지는 신뢰할 수 있는 튜터가 갖춰야 할 네 가지 특성인 개인화, 문화적 반응성, 공정성, 그리고 설명 가능성이 서로 깊게 연결되어 있다는 것입니다. 만약 다른 요소들을 고려하지 않고 하나를 고치려 한다면, 시스템은 실패할 것입니다. 예를 들어, AI가 사용하는 예시를 바꿈으로써 문화적으로 반응하려고 시도한다면, 의도치 않게 수업의 난이도를 변경하여 일부 학생들에게는 기준을 낮추고 다른 학생들에게는 높게 유지하는 결과를 초래할 수 있습니다. 이를 방지하기 위해 저자들은 '무엇을' 가르칠 것인가와 '어떻게' 제시할 것인가를 엄격히 분리하는 프레임워크를 제안합니다.

KAIROS 프레임워크의 핵심은 모든 상호작용에 대한 2단계 프로세스입니다. 첫째, 시스템은 "교육적 핵심(pedagogical core)"을 결정하는데, 이는 수업의 변하지 않는 교육적 실체입니다. 여기에는 학생이 연습해야 할 구체적인 기술 식별, 적절한 난이도 결정, 그리고 힌트 제공, 진단 질문 던지기, 또는 풀이 과정이 포함된 예시 제공과 같은 유형의 교수법 결정이 포함됩니다. 이 결정은 학생이 무엇을 알고 있고 다음에 무엇을 배울 준비가 되었는지에 대한 상세하고 지속적으로 업데이트되는 지도를 바탕으로 내려집니다. 결정적으로, 이 부분의 시스템은 공정성을 보장하기 위해 엄격한 규칙에 묶여 있습니다. 즉, 동일한 이해 수준에 있는 모든 학생은 배경과 관계없이 동일한 핵심 교육을 받아야 합니다. 두 번째 단계는 "제시 변환(presentation transform)"입니다. 여기서 시스템은 학생의 문화와 개인적 스타일에 맞춰 수업을 조정합니다. 언어를 바꾸거나, 일반적인 예시를 학생의 공동체에서 가져온 예시로 교체하거나, 협력적인 톤 혹은 더 격식 있는 톤으로 조절할 수 있습니다. 여기서의 혁신은 시스템이 이러한 문화적 조정이 수업의 난이도나 핵심 개념을 절대 변경할 수 없도록 설계되었다는 점입니다. 문화적 적응은 수업의 표면에 국한되어, 반응성이 결코 차등적인 기대치로 흘러가지 않도록 보장합니다.

이러한 결정을 내리기 위해 시스템은 단일한 블랙박스 컴퓨터 프로그램이 아니라, 함께 작동하는 전문화된 디지털 에이전트 팀에 의존합니다. 한 에이전트는 학생의 지식에 대한 측정값(불확실성 포함)을 포함한 보정된 추정치인 "학습자 모델"을 유지합니다. 시스템이 학생이 무엇을 아는지 확신하지 못할 경우, 추측하기보다는 질문을 통해 명확히 하도록 설계되었습니다. 또 다른 에이전트는 사실 관계가 정확함을 보장하기 위해 구조화된 데이터베이스에서 특정 교육 콘텐츠를 검색합니다. 세 번째 에이전트인 "가드레일(Guardrail)"은 안전 검사관 역할을 합니다. 수업이 전달되기 전, 이 에이전트는 문화적 적응이 실수로 문제의 난이도를 변경했는지, 그리고 해당 교수법이 유사한 상황에 처한 다른 학생들과 비교했을 때 공정한지를 확인합니다. 만약 수업이 이러한 검사를 통과하지 못하면 수정 단계로 되돌려 보내집니다. 모든 단계의 과정이 명확하고 조사 가능한 로그에 기록되기 때문에, 시스템은 설명으로서 "프로비넌스 트레이스(provenance trace, 기원 추적)"를 제공할 수 있습니다. 모호하고 사후적인 이유를 늘어놓는 대신, 시스템은 자신의 결정을 이끌어낸 정확한 데이터 포인트, 목표로 했던 특정 기술, 그리고 통과한 공정성 검사를 보여줄 수 있습니다.

저자들은 이것이 완성된 제품이 아니라 설계 제안서임을 명시하고 있습니다. 그들은 KAIROS가 현재의 방식보다 더 낫다는 것을 증명하기 위해 아직 인간 학생을 대상으로 실험을 수행하지 않았습니다. 대신, 그들은 난이도를 변경하지 않고 얼마나 잘 문화에 적응하는지, 그리고 설명이 실제 결정과 얼마나 충실히 일치하는지와 같은 성공을 측정하기 위한 새로운 지표들을 정의했습니다. 또한 그들은 시뮬레이션된 학습자를 먼저 테스트한 후, 실제 학생들을 대상으로 한 대규모 다기관 실험을 진행하는 상세한 향후 연구 계획을 수립했습니다. 연구자들은 "무엇"과 "어떻게"를 분리하고 핵심 교육에 엄격한 공정성 규칙을 적용함으로써, 깊이 있게 개인화되면서도 엄격하게 공정한 AI 튜터를 만드는 것이 가능하다고 주장합니다. 목표는 인공지능이 교육의 일반적인 부분이 되어감에 따라, 학습자의 배경에 적응하면서도 그들이 달성해야 할 표준을 결코 낮추지 않고 모든 학습자의 존엄성과 잠재력을 존중하도록 하는 것입니다.