SAGE: Scalable AI Governance & Evaluation

기술 요약: SAGE (Scalable AI Governance & Evaluation)

문제 정의
LinkedIn의 직업 및 인맥 검색과 같이 다면적인 의도를 가진 자연어 쿼리를 처리하는 산업 규모의 검색 시스템은 심각한 "거버넌스 격차(governance gap)"에 직면해 있습니다. 의미론적 모델(semantic models)이 표현력을 확장시켰으나, 동시에 관련성 표준의 명세화와 집행을 복잡하게 만들었습니다. 전통적인 거버넌스는 다음과 같은 두 가지 차선책인 프록시에 의존합니다:

1. 수동 편집 검토(Manual Editorial Review): 고충실도를 가지나, 자연어 쿼리의 조합적 다양성을 대규모로 커버하기에는 불가능합니다.
2. 참여 지표(Engagement Metrics): 피드백이 지연되며, 체계적인 편향(예: 인기 편향 증폭)을 겪는 경우가 많아, 고영향력의 관련성 실패나 "침묵하는" 퇴보(silent regressions)를 포착하지 못하는 경우가 빈번합니다.

핵심 과제는 잠재적인 인간 유용성 함수($H$)를 최소한의 정렬 편차($\Delta$)로 근사하면서, 무한한 의미 공간 전반에 걸쳐 커버리지($C$)를 극대화하는 대리 판사(Surrogate Judge, $J$)를 구축하는 것입니다.

방법론: SAGE 프레임워크
SAGE는 세 가지 구성 요소인 정책(Policy, P), 선례(Precedent, E), 그리고 **LLM 대리 판사(Judge, J)**를 통해 인간의 제품 판단을 구체화합니다. 이 프레임워크는 세 가지 설계 원칙을 기반으로 구축되었습니다:

1. 양방향 캘리브레이션(Bidirectional Calibration): 정적인 평가 시스템과 달리, SAGE는 정책, 선례, 판사가 함께 진화하는 동적 루프를 채택합니다.

   • 인간 $\to$ 정책/선례: 전문가가 정책적 직관의 격차와 모호성을 식별합니다.
   • 판사 $\to$ 선례: 판사는 인간이 큐레이션한 "골든(golden)" 데이터셋의 오류를 찾아내는(예: 인간이 놓친 장문의 문서 내 증거 식별) 적대적 감사자 역할을 수행합니다.
   • 판사 $\to$ 정책: 판사는 정책이 지원되지 않는 제약을 도입하거나 일관성 없는 로직을 적용할 때 발생하는 정책적 미비(under-specification)를 노출합니다.
   • 결과: 이 루프는 의미론적 모호성을 체계적으로 해결하여, 주관적 판단을 실행 가능한 다차원 루브릭(rubric)으로 변환합니다.

2. 해석 가능한 다중 속성 관련성(Interpretable Multi-Attribute Relevance): "블랙박스" 형태의 불투명성을 제거하기 위해, 판사는 관련성을 단일 점수가 아닌 직함(Title), 경력(Seniority), 회사(Company)와 같은 독립적인 속성들로 분해합니다. 이를 통해 캘리브레이션 과정에서 타겟팅된 실패 원인 규명이 가능해집니다. 시스템은 쌍체 비교(pairwise ranking) 대신 5단계 척도(0–4)를 사용하여 명시적인 품질 임계값(예: 0–1 등급 억제)을 강제합니다.

3. 증류를 통한 고처리량(High-Throughput via Distillation): 프런티어 모델의 추론 능력과 산업용 추론 비용 사이의 간극을 메우기 위해, SAGE는 교사-학생 증류(teacher–student distillation)를 활용합니다.

   • 교사 판사(Teacher Judge): 전문가 선례에 따라 캘리브레이션된 프런티어 LLM(GPT-o3).
   • 학생 판사(Student Judge): 교사로부터 증류된 8B 파라미터 모델. 이 모델은 계층화된 프로덕션 트래픽과 지향적 쿼리에 대해 학습되며, 고관련성 예측으로 쏠리는 현상을 방지하기 위해 저조한 점수 클래스(0–3)를 재균형화(rebalanced)하여 학습합니다.
   • 온라인 모델(Online Model): 학생 판사는 실시간 서빙을 위해 초소형(0.6B) 아키텍처로 추가 증류됩니다. 여기에는 구조적 프루닝(structural pruning), 추론 내재화(Chain-of-Thought를 1-토큰 예측으로 압축), 그리고 오프라인 요약을 통한 컨텍스트 최소화가 포함됩니다.

주요 기여
본 논문은 산업 규모의 인간 중심 평가를 위한 세 가지 주요 기여를 제시합니다:

1. 의도 정렬을 위한 양방향 캘리브레이션: 이질적인 인간의 판단을 버전 관리되는 평가 기준으로 변환하여, 평가 시스템이 인간의 판단과 함께 진화하고 정책적 모호성을 드러낼 수 있게 하는 메커니즘입니다.
2. 해석 가능한 다중 속성 관련성 평가: 관련성을 독립적인 속성으로 분해하여 불투명성을 제거함으로써, 정밀한 실패 원인 규명을 가능하게 하고 인간 수준에 근접한 일치도를 달축했습니다.
3. 증류를 통한 고처리량 평가: 프런티어 LLM의 추론 능력을 효율적인 학생 대리 모델로 압축하여, 대규모 오프라인 평가($>10^7$ 건/일)와 저지연 온라인 평가($>10^4$ QPS)를 훨씬 적은 비용으로 가능하게 하는 파이프라인입니다.

결과
LinkedIn 검색 생태계에 배포된 SAGE는 다음과 같은 성과를 달랐습니다:

• 정렬 품질: 양방향 캘리브레이션을 통해, 교사 판사는 전문가 인간 판단에 대해 0.77의 선형 가중 코헨 카파(Cohen's kappa)를 기록하며, 상당한 일치도의 기준인 0.7을 상회하고 전문가 제품 소유자의 실질적 한계치(0.83)에 근접했습니다.
• 증류 충실도: 학생 판사는 높은 충실도를 유지하며, 인간 전문가 대비 카파 점수 0.72(직업 검색) 및 0.73(인맥 검색)을 달성했습니다.
• 비용 효율성: 학생 판사는 교사 판사보다 92배 낮은 비용으로 작동하며, 최소 기준의 인간 라벨링보다 154배 낮은 비용으로 운영됩니다.
• 프로덕션 영향: 시뮬레이션 기반 개발과 정책 기반 감독을 가능하게 함으로써, SAGE는 참여 지표로는 보이지 않는 퇴보를 감지하는 데 도움을 주었습니다. 정책이 정렬된 온라인 모델을 통합한 두 번의 연속적인 온라인 A/B 실험 결과, LinkedIn 일일 활성 사용자 수(DAU)에서 **0.25%의 리프트(lift)**를 기록했으며, 이는 직업 검색 제품의 성장에 있어 중요한 단계적 도약을 의미합니다.

의의 및 주장
본 논문은 SAGE가 산업용 AI 시스템에 필요한 규모의 인간 중심 거버넌스를 성공적으로 공식화했다고 주장합니다. 논문의 핵심 주장은 다음과 같습니다:

• 고충실도 큐레이션 > 고용량 어노테이션: 소수의 전문가 큐레이션된 선례가 대규모 라벨링보다 더 큰 레버리지를 제공하며, 인간의 노력을 라벨 생성에서 모호성 해결로 전환합니다.
• 판사가 그라운드 트루스를 감사할 수 있음: 캘리브레이션된 LLM은 인간이 큐레이션한 데이터셋의 오류를 식별하여, 감독 자체의 품질을 개선할 수 있습니다.
• 버전 관리되는 산물로서의 정책: 정책을 버전 관리되는 소프트웨어 명세로 취급함으로써 안정적인 장기 거버넌스를 가능하게 하며, 정의 변경으로 인한 메트릭 변화와 실제 모델 실패를 구분할 수 있게 합니다.
• 의미론적 평가는 행동적 프록시를 보완함: 참여 신호가 여전히 표준이지만, 종종 "침묵하는" 관련성 저하를 놓칩니다. SAGE는 운영화된 제품 판단이 생태계 건강에 대한 더 안정적이고 진단적인 지표를 제공하며, 장기적인 사용자 성장(DAU)과 직접적으로 상관관계가 있음을 입증합니다.