기술 요약: AGENTIC-IMODELS

문제 정의

에이전트 데이터 과학 (ADS) 분야는 빠르게 발전하고 있으며, 모델 선택, 계수 해석, 결론 도출과 같은 중간 분석 작업을 자율 에이전트에게 위임하는 시스템이 증가하고 있습니다. 그러나 중요한 불일치가 존재합니다. 현재 ADS 시스템은 인간이 소비하도록 설계된 해석 가능성 도구와 모델에 의존합니다. 이러한 도구들은 종종 에이전트가 신뢰성 있게 파싱하기 어려운 시각화, 복잡한 수정 가능 구성 요소, 또는 비구조화된 텍스트를 포함하는 출력을 생성합니다. 이 불일치는 신뢰할 수 없는 분석, 분석 선택의 모호화, 그리고 데이터 과학 수명 주기에서의 잠재적 실패로 이어집니다. 인간 중심의 해석 가능한 머신러닝 (예: 결정 트리, 일반화 가법 모델) 에 대한 문헌은 풍부하지만, 에이전트 해석 가능성 (LLM 이 모델의 행동을 오직 문자열 표현만 읽어서 정확하게 시뮬레이션할 수 있는 능력) 을 최적화하도록 적응되지 않았습니다.

방법론

저자들은 에이전트 해석 가능성을 위해 특별히 최적화된 데이터 과학 도구를 진화시키기 위해 설계된 에이전트 자동 연구 루프인 AGENTIC-IMODELS를 제안합니다. 이 시스템은 다음과 같은 구성 요소를 통해 작동합니다:

1. 자동 연구 루프

핵심 메커니즘은 두 가지 목표를 동시에 극대화하기 위해 Python 클래스 (interpretable_regressor.py) 를 반복적으로 수정하는 코딩 에이전트 (예: Claude Code 또는 Codex) 입니다.

• 예측 성능: 65 개의 표형 회귀 데이터셋 세트를 통한 Root Mean Squared Error(RMSE) 의 평균 순위로 측정됩니다.
• 에이전트 해석 가능성: LLM 채점 테스트의 통과율로 정의된 새로운 에이전트 해석 가능성 점수로 측정됩니다.

루프는 다음과 같은 단계로 진행됩니다: 에이전트가 모델 수정을 제안하면, 모델이 훈련 데이터에 적합되고, 그 __str__ 출력이 생성되며, LLM 평가자가 오직 해당 문자열을 기반으로 모델의 행동에 대한 정량적 질문에 답하려고 시도합니다. 에이전트의 답변이 적합된 함수에서 유도된 정답과 일치하면 테스트가 통과됩니다.

2. 에이전트 해석 가능성 지표

이 지표는 인간 실험을 자동화된 LLM 기반 테스트로 대체합니다. 이 세트는 여섯 가지 범주로 나뉜 200 개의 테스트로 구성됩니다:

• 특성 귀속: 중요한 특성을 식별하고, 이를 순위 매기며, 관련 없는 특성을 탐지합니다.
• 점 시뮬레이션: 특정 입력에 대한 출력을 예측합니다.
• 민감도 분석: 변화 방향과 단위 민감도를 결정합니다.
• 반사실 추론: 역문제를 해결합니다 (목표 출력에 대한 입력 찾기).
• 구조적 이해: 모델의 컴팩트성과 결정 영역을 평가합니다.
• 복잡 함수 시뮬레이션: 비선형성, 상호작용, 그리고 구간별 함수를 시뮬레이션합니다.

"보상 해킹"(모델이 단순히 테스트 답을 암기하는 경우) 을 방지하기 위해, 이 세트는 최적화 중에 사용되는 개발 세트와 평가를 위해 사용되는 홀드아웃 세트로 나뉩니다.

3. 실험 설정

저자들은 다양한 추론 노력 수준에서 Claude Code(Opus-4.6/4.7) 와 Codex(GPT-5.3) 를 사용하여 루프를 실행했습니다. 그들은 진화된 모델을 선형, 트리, 가법, 규칙 기반, 블랙박스 모델 등 다섯 가지 계열의 16 개 베이스라인과 비교 평가했습니다. 평가에는 일반화를 보장하기 위한 홀드아웃 데이터셋과 홀드아웃 해석 가능성 테스트가 포함되었습니다.

주요 기여

1. 해석 가능성의 재정의: 이 논문은 인간에게 해석 가능한 모델을 설계하는 패러다임에서 에이전트에게 해석 가능한 모델을 설계하는 패러다임으로 전환합니다. 이는 모델의 "문자열 표현"이 에이전트 추론을 위한 주요 인터페이스라고 주장합니다.
2. AGENTIC-IMODELS 프레임워크: 새로운 자동화된 해석 가능성 지표를 최적화함으로써 새로운 모델 클래스를 발견하는 완전 자율적인 자동 연구 루프입니다.
3. 새로운 모델 클래스: 이 시스템은 기존 베이스라인보다 파레토 개선을 이루는 scikit-learn 호환 회귀 모델 라이브러리를 발견했으며, 예측 성능과 에이전트 해석 가능성의 최전선을 밀어냈습니다.
4. 하류 영향: 진화된 모델들은 Python 패키지로 통합되어 종단간 ADS 워크플로우에서 테스트되었으며, 상당한 성능 향상을 보여주었습니다.

결과

• 파레토 개선: 진화된 AGENTIC-IMODELS 는 베이스라인이 이전에 점유하지 않았던 성능 - 해석 가능성 공간의 영역을 차지합니다. 예를 들어, HingeEBM과 같은 모델은 최상의 블랙박스 TabPFN 과 거의 comparable 한 정규화된 예측 순위 0.19 를 달성하면서도 TabPFN 의 0.17 보다 훨씬 높은 0.71 의 에이전트 해석 가능성 점수를 유지했습니다.
• 일반화: 모델들은 홀드아웃 데이터셋과 홀드아웃 해석 가능성 테스트에 대해 일반화되었습니다. 일부 모델은 개발 세트에서 보상 해킹을 보였지만, 대부분은 개발 세트와 홀드아웃 해석 가능성 점수 사이에 강한 상관관계 ($r=0.65$) 를 보였습니다.
• 종단간 ADS 성능: 네 가지 다른 ADS 에이전트 (Copilot CLI, Claude Code, Codex) 에 진화된 AGENTIC-IMODELS 라이브러리를 장착함으로써 정확성, 완전성, 명확성 지표에서 BLADE 벤치마크 성능이 **8% 에서 73%**까지 향상되었습니다. 이러한 개선은 기본 모델이 약한 에이전트에서 가장 두드러졌습니다.
• 정성적 패턴: 진화된 모델들은 종종 "제한된 표시 복잡성"(예: 트리 깊이 또는 특성 예산에 대한 하드 캡) 과 "표시 최적화"(예: 잔차를 수정하기 위해 숨겨진 EBM 을 사용하면서 단순화된 선형 방정식을 표시하는 것과 같이 예측 엔진을 문자열 표현에서 분리) 를 사용했습니다.

중요성과 주장

저자들은 AGENTIC-IMODELS 가 데이터로부터의 통찰력이 AI 에이전트에 의해 올바르게 이해되고 실행되도록 보장하는 데 있어 중요한 단계라고 주장합니다. ADS 시스템이 더 능력 있게 됨에 따라, 그들이 사용하는 도구들은 인간 관찰자가 아닌 에이전트 자신을 위해 설계되어야 합니다.

이 논문은 인간 해석 가능성을 돕는 구조적 속성 (희소성, 가법성, 모듈성) 을 LLM 에 적합한 속성으로 체계적으로 적응시킨 최초의 작업으로 이 작업을 위치시킵니다. 저자들은 현재 지표가 LLM 평가자 (편향이 있을 수 있음) 에 의존하지만, 지표와 하류 ADS 성능 간의 강한 상관관계가 유용한 신호를 포착함을 지적합니다. 그들은 LLM 이 구조화된 모델을 파싱하는 능력이 향상됨에 따라 AGENTIC-IMODELS 와 같은 프레임워크가 복잡한 데이터에 대한 더 정교하고 잠재적으로 초인적인 해석을 가능하게 하여, 에이전트가 데이터 과학 작업의 대부분을 수행하는 미래로 이 분야를 이동시킬 것이라고 결론지었습니다.