💬 NLP

(Towards) Scalable Reliable Automated Evaluation with Large Language Models

이 논문은 여러 LLM 간의 쌍체 비교와 Elo 레이팅 시스템을 활용하여, 인간의 개입 필요성을 크게 줄이면서도 조정 가능한 신뢰도 임계값을 통해 LLM 출력에 대한 신뢰할 수 있는 전문가 수준의 평가를 생성하는 확장 가능하고 도메인 불가지론적인 프레임워크를 소개한다.

원저자: Bertil Braun, Martin Forell

게시일 2026-07-31

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Bertil Braun, Martin Forell

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 매일 수천 권의 새로운 책을 써 내려가는 똑똑한 로봇 군단, 즉 거대 언어 모델(LLM)들이 운영하는 거대하고 혼란스러운 도서관의 편집자라고 상상해 보십시오. 이 로봇들은 이야기를 쓰고, 질문에 답하며, 복잡한 아이디어를 요약할 수 있는 놀라운 속도를 가지고 있습니다. 하지만 문제는, 어떤 로봇이 가장 좋은 이야기를 썼는지 어떻게 알 수 있느냐는 것입니다. 옛날 방식대로라면, 모든 페이지를 읽고 서로 비교하며 누가 최고인지 논쟁할 인간 사서 팀이 필요했을 것입니다. 하지만 그 방식은 시간이 너무 오래 걸리고 비용이 엄청나게 들며, 사서마다 무엇이 '좋은 것'인지에 대한 기준이 다를 수도 있습니다. 이것이 바로 인공지능 분야의 과학자들이 해결하려고 노력 중인 문제입니다. 즉, 인간이 모든 단어를 읽지 않고도 로봇의 글쓰기를 평가할 수 있는 빠르고 공정한 방법을 만드는 것입니다. 이를 위해 그들은 몇 가지 영리한 기술을 사용합니다. 첫째, 로봇들에게 서로를 심사하게 하여 마치 비평가 패널처럼 운영합니다. 둘째, 체스에서 빌려온 '엘로 레이팅(Elo rating)'이라는 점수 체계를 사용하여, 누가 누구를 이겼느냐에 따라 플레이어의 순위를 매깁니다. 마지막으로, 이 시스템이 제대로 작동하는지 확인하기 위해 로봇 심사위원들이 실제 인간 전문가들과 얼마나 일치하는지를 살펴봅니다.

이 논문은 이러한 AI 로봇들이 생성한 텍스트의 품질을 평가하는 새롭고 확장 가능한 방법을 소개합니다. 단일 로봇에게 점수를 매기라고 요청하는 대신(이는 편향되거나 일관성이 없을 수 있습니다), 저자들은 거대한 토너먼트를 설정했습니다. 그들은 다양한 텍스트 출력물(예: 과학 연구의 요약본)을 가져와 여러 가지 서로 다른 AI 모델들이 서로 '헤드 투 헤드(head-to-head)' 방식으로 맞붙게 합니다. 각 경기에서 두 개의 텍스트가 AI 심사위원에게 제시되며, 심사위원은 특정 규칙에 따라 어느 것이 더 나은지 결정해야 합니다. 심사위원이 단순히 마지막에 등장한 텍스트를 선택하거나 말이 더 많은 텍스트를 선택하지 않도록, 시스템은 텍스트의 순서를 뒤집고 여러 가지 서로 다른 AI 모델을 사용하여 승자를 투표하게 합니다.

모든 경기가 끝나면, 결과는 엘로 레이팅 시스템에 입력됩니다. 이것은 체스의 리더보드와 같습니다. 만약 어떤 텍나이 강력한 상대에게 승리하면 많은 점수를 얻고, 패배하면 점수를 잃습니다. 시간이 흐름에 따라, 이는 '최고'의 텍스트부터 '최악'의 텍스트까지 명확하게 순위가 매겨진 목록을 만들어냅니다. 저자들은 AI 모델들이 과학적 초록을 바탕으로 '역량 프로필'(연구자가 무엇에 능숙한지에 대한 요약)을 생성하도록 하여 이 실험을 테스트했습니다. 그 후, AI가 생성한 순위를 20명의 인간 전문가가 만든 순위와 비교했습니다. 결과는 여러 AI 모델이 함께 투표할 때, 그들의 순위가 인간 전문가들과 놀라울 정도로 잘 일치한다는 것을 보여주었습니다. 사실, 단순 과반수 투표(AI가 승자를 선언하기 위해 50%의 동의만 있으면 되는 방식)는 완전한 만장일치를 요구할 때보다 더 효과적이었습니다. 만장일치 방식은 종종 너무 많은 '무승부'를 초래하여 명확한 승자를 내지 못했기 때문입니다. 이 연구는 이 방법이 인간이 힘든 일을 수행해야 하는 필요성을 크게 줄여줄 수 있으며, 방대한 양의 AI 생성 콘텐츠를 분류할 수 있는 신뢰할 수 있는 자동화된 방법을 제공한다는 것을 보여줍니다. 그러나 저자들은 이 과정이 여전히 많은 비교를 필요로 하기에 계산 비용이 많이 들며, 서로의 특이점과 편향을 상쇄하기 위해 여러 가지 서로 다른 AI 모델을 사용할 때 가장 효과적이라고 언급했습니다.

기술 요약: 대규모 언어 모델을 활용한 확장 가능하고 신뢰할 수 있는 자동 평가를 향하여

문제 정의

대규모 언어 모델(LLM)의 텍론 출력물의 품질과 관련성을 평가하는 것은 여전히 중요한 과제로 남아 있다. 기존의 접근 방식은 두 가지 주요 한계점에 직면해 있다:

인간의 판단: 정확하지만, 자원 집약적이고 일관성이 부족하며 확장이 어렵다.
참조 기반 메트릭: 표준 메트릭(예: BLEU, ROUGE)은 명시적인 참조 표준에 의존하므로, 객관적인 벤치마크가 존재하지 않는 개방형 또는 창의적 작업에서의 유용성이 제한된다. 또한, 이러한 메트릭은 LLM 생성 텍스트에 내재된 미묘한 가변성을 포착하지 못하는 경우가 많다.

단일 LLM 점수 매기기 또는 참조 없는 확률 기반 메트릭과 같은 기존의 자동화된 방법들은 인간의 판단과 상관관계가 낮은 경우가 많으며, 편향(예: 위치 편향, 장황함 편향, 스타일 편향) 문제를 겪는다. 따라서 광범위한 인간의 개입 없이도 전문가 수준의 평가를 모사할 수 있는 견고하고, 확장 가능하며, 도메인 불가지론적인 평가 프레임워크에 대한 절실한 필요성이 존재한다.

방법론

본 논문은 여러 LLM과 Elo 레이팅 시스템을 활용하여 자유 형식의 텍스트 출력물에 대해 안정적이고 해석 가능한 순위를 생성하는 3단계 평가 프레 Framework를 제안한다.

1. 파이프라인 개요

방법론은 세 가지 뚜렷한 단계로 구성된다:

I. 아이템 생성: 주어진 작업(예: 요약 또는 역량 프로필 추출)에 대해 여러 후보 출력물(아이템)을 생성한다. 다양성은 하이퍼파라미터의 변화, 서로 다른 LLM, 또는 대안적인 문체 등을 통해 확보된다.
II. 체계적 쌍체 비교 (Systematic Pairwise Comparison): 절대적인 점수를 부여하는 대신(주관성에 취약함), 프레임워크는 직접적인 아이템 간 비교를 수행한다.
- 다중 LLM 집계: 개별 모델의 편향을 줄이기 위해 여러 LLM이 각 쌍을 평가한다.
- 양방향 평가: 위치 편향을 완화하기 위해, 각 쌍을 두 가지 순서로 모두 평가한다 (예: "A가 B보다 나은가?" 및 "B가 A보다 나은가?").
- 프롬프트 엔지니어링: 시스템은 역할 프롬프팅(Role Prompting), 생각의 사슬(Chain-of-Thought, CoT) 추론, 검색 증강 생성(RAG)을 포함한 최첨단(SOTA) 기법을 채택한다. RAG는 맥락적으로 관련 있는 예시를 프롬프트에 주입하여, LLM이 일관된 기준을 따르도록 유도하는 퓨샷(few-shot) 시나리오를 생성하는 데 사용된다.
III. Elo 레이팅 시스템: 쌍체 비교의 결과는 Elo 레이팅 시스템을 통해 집계되어 최종적인 전역 순위를 생성한다. 이 동적 시스템은 승/패/무 결과에 따라 아이템 레이팅을 업데이트하여, 순위가 상대적 품질을 반영하도록 보장한다.

2. 다중 평가 처리 및 합의 임계값

여러 LLM의 판단을 조정하기 위해, 프레임워크는 두 가지 집계 전략을 탐색한다:

임계값 기반 합의 (Threshold-Based Consensus): 쌍체 판단은 지정된 비율의 LLM이 동의할 때만(예: 100%, 75%, 50%) 승/패로 결과가 결정된다. 임계치를 충족하지 못하면 해당 비교는 무승부로 처리된다.
임계값 없음 (개별 업데이트) (No-Threshold/Individual Updates): 각 LLM의 판단은 독립적인 Elo 업데이트를 트리거한다. 이 방식은 판단을 단일 이진 결정이나 무승부로 붕괴시키기보다는, 신호를 비례적으로 집계한다 (예: 80%가 A를 선호한다면, 업데이트는 A를 향한 순수한 60%의 추진력을 반영한다).

3. 편향 완화

프레임워크는 다음과 같은 방식으로 특정 LLM 편향을 해결한다:

중립적 프롬프팅: 판단에 영향을 미치지 않도록 정교하게 설계된 프롬프트를 사용한다.
양방향 체크: 위치 편향에 대응하기 위해 아이템 순서를 뒤바꾼다.
RAG 통합: 검색된 예시를 사용하여 평가를 확립된 기준에 근거하게 함으로써, 스타일 및 장황함 편향을 줄인다.

실험적 구현

프레임워크는 특정 유스케이스인 과학적 초록으로부터 역량 프로파일 생성을 사용하여 구현 및 테스트되었다.

데이터: 초록은 공공 저장소(KITopen, OpenAlex)에서 가져왔다.
생성: llama-3.1-70B 모델이 초록으로부터 연구 영역과 5~8개의 핵심 역량을 식별하는 역량 프로파일을 생성했다.
평가: 여러 SOTA LLM(gemma2-9b-it, llama-3.1-8b, gpt-4o-mini, gemini-2.0-flash, mixtral-8x7b 포함)이 생성된 프로파일을 원본 초록과 쌍체 비교를 수행했다.
그라운드 트루스 (Ground Truth): 20명의 전문가가 직접 자신의 연구 초록을 제공하고 생성된 프로파일의 관련성과 정확성을 기준으로 수동 순위를 매겼다.

결과

연구는 자동화된 순위(Elo 활용)를 Spearman의 순위 상관 계수( $\rho$ )와 Kendall의 타우( $\tau$ )를 사용하여 전문가의 인간 순위와 비교하였다.

다중 LLM 성능:
- 높은 합의 임계값(1.0 또는 0.9)은 중간 정도의 상관관계를 보였으나, 정보가 담긴 부분적 합의를 버리게 되는 높은 무승부율을 겪었다.
- 임계값을 단순 과반수(0.5)로 낮추거나 임계값 없음(No-Threshold) 방식을 사용했을 때 전문가의 판단과 가장 강력한 상관관계를 보였다.
- 최상의 결과: 0.5 임계치를 적용한 다중 LLM 설정이 Spearman $\rho$ 0.830과 Kendall $\tau$ 0.780을 달성했다. No-Threshold 방식도 유사한 성능( $\rho$ = 0.820)을 보였다.
- 결과는 다양한 LLM이 집단적으로 서로의 노이즈를 완화하여, No-Threshold 방식이 효과적임을 시사한다.
단일 LLM 성능:
- 단일 모델(llama-3.1-8b)을 사용할 때, 상충하는 신호가 다른 모델에 의해 상쇄될 수 없으므로 No-Threshold 방식이 0.5 임계치 방식보다 효과가 떨어졌다.
- 그러나 단일 모델 시나리오에서도 낮은 임계값(0.5)이 높은 합의 요구사항보다 우수한 성능을 보였다.
견고성: 임계값을 0.50에서 0.75 사이에서 변화시켜도 상관관계가 안정적으로 유지되었으며( $\pm 0.03$ 이내), 이는 최종 순위가 이 파라미터 선택에 견고함을 나타낸다.

주요 기여

새로운 프레임워크: 여러 LLM의 쌍체 비교와 Elo 레이팅 시스템을 사용하여 전문가 수준의 평가를 모사하는 확장 가능한 평가 프레임워크를 도입했다.
편향 완화 전략: 양방향 평가, RAG 강화 프롬프팅, 다중 모델 집계를 통해 LLM 편향(위치, 장황함, 스타일)을 체계적으로 줄이는 접근법을 제시했다.
유연한 집계: 완전한 만장일치부터 다수결 투표까지 조절 가능한 합의 임계값과, 신호의 비례성을 보존하는 "No-Threshold" 변형 모델을 제안하고 평가했다.
경험적 검증: 자동 도출된 순위가 전문가의 판단과 잘 상관됨을 입증하여(Spearman $\rho \approx 0.83$ ), 광범적인 인간의 개입 필요성을 크게 줄였다.
해석 가능성: Elo 점수의 사용은 성능 격차를 정량화할 수 있게 하여(예: 100점 차이는 약 64%의 승리 확률을 의미), 단순한 순위 나열보다 더 많은 통찰을 제공한다.

의의 및 주장

본 논문은 LLM 출력물에 대한 확장 가능하고, 일관되며, 도메인 불가지론적인 평가 레이어를 제공한다고 주장한다. 여러 모델의 집단 지성과 Elo 시스템의 통계적 견고함을 활용함으로써, 이 프레임워크는 인간의 확장성 문제와 참조 기반 메트릭의 한계를 해결한다.

저자들은 이 접근 방식이 객관적인 벤치마크가 없는 다양한 응용 분야, 특히 자유 형식의 텍스트 생성에서 더욱 효율적이고 신뢰할 수 있는 품질 평가를 지원한다고 강조한다. 이 방법은 인간의 업무량을 크게 줄여주지만, 본 논문은 이것이 전문가 판단의 완벽한 대체물이 아닌 '근사치'라는 점에서 겸허한 입장을 유지한다. 이 프레임워크는 특히 고위험 결정 상황에서 인간의 감독을 완전히 대체하기보다는 이를 지원하는 도구로서 제시된다.

한계점

논문은 다음과 같은 몇 가지 한계를 명시적으로 언급한다:

계산 오버헤드: 쌍체 비교를 위한 $O(n^2)$ 요구 사항은 다수의 LLM 추론과 결합되어, 특히 상용 모델을 사용할 때 상당한 계산 비용을 발생시킨다.
이행성(Transitivity) 문제: LLM 비교는 이행성이 결여될 수 있으며, 이는 복잡도를 $O(n \log n)$ 으로 줄이기 위한 비교 기반 정렬 알고리즘의 사용을 어렵게 만든다.
미묘한 차이: 아이템들이 거의 동등할 때, 개별 LLM의 편향이 서로 다른 결과를 초도할 수 있으나, Elo 시스템이 이를 "실질적 무승부"로 드러내는 데 도움을 준다.
전문가 풀 규모: 결과의 타당성은 그라운드 트루스로 사용된 현재의 전문가 풀의 크기와 다양성에 의해 제약을 받는다.