KC-Agent: A Dual-Process Cognitive Architecture for Efficient ML Model Improvement

당신이 수년 동안 같은 성계를 항해하며 지나온 우주선의 선장이라고 상상해 보십시오. 당신의 함선 컴퓨터는 완벽하게 항해하도록 프로그래밍되었으며, 모든 소행성과 가스 구름을 속속들이 알고 있습니다. 하지만 어느 날, 우주가 변화합니다. 새로운 성운이 밀려오고, 별들의 색이 변하며, 기존의 지도가 외부의 모습과 더 이상 일치하지 않게 됩니다. 만약 컴퓨터가 계속 옛날 지도를 사용한다면, 당신은 충돌하고 말 것입니다. 이것이 바로 "머신러닝(ML)"이 현실 세계에서 겪는 일상적인 투쟁입니다. 데이터로부터 학습하는 소프트웨어는 시간이 흐름에 따라 데이터가 변할 때 혼란을 겪곤 하는데, 과학자들은 이를 "데이터 드리프트(data drift)"라고 부릅니다.

이를 해결하기 위해 우리는 보통 인간 전문가가 소프트웨어를 지속적으로 재학습시켜야 하며, 이는 느리고 비용이 많이 드는 작업입니다. 최근 우리는 코드를 작성하고 스스로를 고칠 수 있는 스마트한 프로그램, 즉 디지털 정비사와 같은 "AI 에이전트"를 구축했습니다. 하지만 이 디지털 정비사들에게는 결함이 있습니다. 너무 빠르고 무모하여 성급한 변경으로 문제를 일으키거나, 혹은 너무 느리고 신중하여 즉각적인 조치가 필요한 문제에 대응하는 데 한참이 걸린다는 점입니다. 그들은 속도와 안전 사이의 균형을 잡는 데 어려움을 겪습니다. 이 논문은 두 가지 "사고 모드"를 활용하여 이 문제를 해결하는 새로운 종류의 AI 정비사를 소개합니다.

---

KC-Agent를 만나보세요: 똑똑한 정비사

저자들은 KC-Agent(Kahnemann-Clear Agent의 약자)라고 불리는 새로운 AI 시스템을 구축했습니다. 이 시스템은 머신러닝 모델이 의존하는 데이터가 변함에 따라 성능이 저하될 때 자동으로 모델을 수정하도록 설계되었습니다. 그 비결은 무엇일까요? 그것은 단순히 한 가지 방식으로 생각하는 것이 아니라, 인간의 사고 방식에서 영감을 얻은 "이중 프로세스(dual-process)" 뇌를 사용한다는 점입니다.

KC-Agent의 뇌를 서로 협력하는 두 가지 뚜렷한 성격이 있다고 생각해보십시오.

1. 시스템 1 (빠른 반사 신경): 이것은 "직관" 모드입니다. 매우 빠릅니다. 문제가 발생하면 시스템 1은 과거에 본 적 있는 유사한 상황을 기억에서 검색합니다. 만약 일치하는 것을 찾으면, 과거에 효과가 있었던 해결책을 즉시 적용합니다. 이는 마치 요리사가 탄 팬을 보고 생각할 겨를도 없이 즉시 소화기를 집어 드는 것과 같습니다. 이미 수백 번 해본 일이기 때문입니다.
2. 시스템 2 (느린 사색가): 이것은 "심층 탐구" 모드입니다. 신중하고 계획적이며 다소 느립니다. 만약 시스템 1이 빠른 해결책을 찾지 못하거나 문제가 너무 생소하다면, 시스템 2에게 업무를 넘깁니다. 시스템 2는 문제를 아주 작고 안전한 단계로 나눕니다. 하나의 작은 변화를 시도하고, 그것이 작동하는지 확인하며, 만약 실패하면 즉시 "실행 취소"를 누르고 다른 방법을 시도합니다. 이는 과학자가 실험실에서 변수를 하나씩 바꾸며 어떤 결과가 나타나는지 관찰하는 것과 같습니다.

실제 작동 방식

논문은 KC-Agent를 이 두 시스템이 서로 대화하는 워크플로우로 설명합니다. AI가 새로운 데이터에 대해 모델의 성능이 저하되는 것을 감지하면, 먼저 시스템 1에게 묻습니다. "우리가 전에 이걸 본 적이 있나?"

• 만약 그렇다면: 시스템 1은 과거 경험으로부터 성공적인 해결책의 "기억"을 끌어와 즉시 적용합니다. 이는 매우 빠릅니다.
• 만약 아니라면: 시스템 1은 "막혔다"라고 말하며 시스템 2를 호출합니다. 그러면 시스템 2는 느리고 체계적인 과정을 시작합니다. 시스템 2는 아주 작은 "원자적(atomic)" 변화(예: 숫자 하나를 조정하거나 도구를 교체하는 것)를 만들고 이를 테스트합니다. 만약 변화가 상황을 개선하면 이를 유지합니다. 만약 상황을 악화시킨다면, 즉시 변경 사항을 되돌려 모델이 이전보다 나빠지지 않도록 합니다.

시스템 2가 해결책을 찾으면 단순히 거기서 끝내지 않습니다. 시스템 1에게 가르칩니다! 시스템 2는 새로운 해결책을 "기억 저장소"에 기록하여, 다음에 유사한 문제가 발생했을 때 시스템 1이 이를 인식하고 즉시 해결할 수 있도록 합니다. 이것을 **지식 공고화(knowledge consolidation)**라고 합니다.

연구 결과

연구진은 다섯 가지 서로 다른 데이터셋을 통해 KC-Agent를 테스트했습니다. 두 개는 제트 엔진의 노후화에 관한 NASA의 실제 산업 데이터셋으로, 실제적인 시간적 퇴화 과정을 담고 있었습니다. 나머지 세 개는 합성 데이터셋(대출, 건강 상태, 행정 결정 시뮬레이션)으로, 핵심 데이터는 GPT-4를 사용하여 생성된 후 현실적인 특징 분포와 일관된 드리프트 패턴을 보장하도록 정교하게 정제되어, 터무니없는 관계가 나타나지 않도록 조절되었습니다. 그들은 KC-Agent를 CodeAct, Tree of Thoughts, ReAct와 같은 유명한 AI 에이전트들과 비교했습니다.

수치는 다음과 같이 말합니다:

• 정확도: KC-Agent는 평균 **76.8%**의 정확도를 달 기록하며, 그다음으로 뛰어난 에이전트인 CodeAct를 2.4% 차이로 앞질렀습니다. 심지어 "Tree of Thoughts" 방식보다 3.6%, "ReAct"보다 8.0% 더 높은 성적을 거두었습니다.
• 속도: 매우 효율적이었습니다. 평균 실행 시간은 단 13.2초였습니다. 반면, 자체 에이전트의 "느린" 버전(시스템 2만 사용하는 경우)은 141.2초가 걸렸습니다. 이는 이중 프로세스 접근 방식이 시스템 2만 사용할 때보다 91% 더 빠름을 의미합니다.
• 지능: 다른 고급 AI들이 코드 변경의 품질을 평가했을 때, KC-Agent는 "지능" 항목에서 10점 만점에 8.33점을 받았습니다. 이는 CodeAct(5.93)와 ReReAct(5.33)보다 훨씬 높은 점수입니다. 심사위원들은 KC-Agent가 단순히 안전하고 지루한 변화를 만드는 것이 아니라 전략적이고 영리한 변화를 만든다고 평가했습니다.

이것이 중요한 이유

이 논문은 AI 모델을 고치는 열쇠가 단순히 더 똑똑하거나 빠르게 만드는 것이 아니라, 올바른 사고 구조를 부여하는 데 있다고 제안합니다. 패턴 매칭을 수행하는 빠른 시스템과 신중하게 생각하는 느린 시스템으로 업무를 분담함으로써, KC-Agent는 두 가지 장점을 모두 취합니다. 흔한 문제에는 빠르게 반응하면서도, 상황이 이상해져도 당황하지 않습니다.

또한 저자들은 그들의 방법이 안전하다는 것을 증명했습니다. 시스템 2는 오직 미세한 변화만을 만들고, 실패할 경우 즉시 되돌리기 때문에 모델이 이전보다 나빠지는 일은 없습니다. 이 "원자적 변화" 원칙은 병원이나 발전소를 운영하는 시스템처럼 절대 망가져서는 안 되는 실제 환경에서 매우 중요합니다.

요약하자면, KC-Agent는 AI가 좋은 정비사가 되기를 원한다면 단순히 천재로 만드는 것이 아니라, 빠른 반사 신경과 신중한 뇌를 주고 그 둘이 서로를 가르치게 해야 한다는 것을 보여줍니다. 이 접근 방식은 미래의 AI 시스템이 인간의 손길 없이도 변화하는 세상 속에서 스스로를 최신 상태로 유지하는 데 훨씬 더 뛰어날 수 있음을 시사합니다.