💻 computer science

LLM-as-a-Judge for Human-AI Co-Creation: A Reliability-Aware Evaluation Framework for Coding

본 논문은 코딩 분야에서의 인간-AI 공동 창작을 평가하기 위해 엄격한 다중 지표 판사 평가와 궤적 수준 분석을 결합하여 공동 창작의 성공은 일반적으로 초기에 집중되는 반면 수정 행동은 이질적으로 유지된다는 점을 규명한 신뢰성 인식 및 평가 기준 기반 LLM-as-a-Judge 프레임워크를 제시한다.

원저자: Md Faizul Ibne Amin, Yutaka Watanobe, Daniel M. Muepu, Haruto Suzuki, Kenta Nanaumi, Md Mostafizer Rahman

게시일 2026-05-01

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Md Faizul Ibne Amin, Yutaka Watanobe, Daniel M. Muepu, Haruto Suzuki, Kenta Nanaumi, Md Mostafizer Rahman

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

고도의 경쟁이 펼쳐지는 코딩 대회에서 참가자들이 문제 해결을 돕기 위해 AI 어시스턴트를 사용할 수 있다고 상상해 보세요. 이 논문은 바로 그 방에서 일어나는 두 가지 일에 대한 성적표와 같습니다: 인간과 AI 가 얼마나 잘 협력했는지, 그리고 작업 채점을 한 "심판"(AI 심판) 들이 얼마나 잘 수행했는지입니다.

다음은 연구자들이 수행한 작업을 간단한 비유로 풀어낸 내용입니다:

1. 설정: "AI 허용" 코딩 대회

보통 코딩 대회에서는 AI 사용이 부정행위로 간주됩니다. 하지만 여기서는 연구자들이 15 명의 참가자가 각자 선택한 AI 도구를 사용하여 13 개의 어려운 문제를 해결하는 특별 트랙을 운영했습니다.

목표: 코드 작동 여부뿐만 아니라 인간과 AI 가 어떻게 함께 문제를 해결했는지 확인하고 싶었습니다. 그들이 막히기라도 했을까요? 작은 오류를 수정했을까요, 아니면 전체를 버리고 처음부터 다시 시작했을까요?
문제: 전통적인 채점은 최종 답변 (통과/불합격) 만을 봅니다. 마치 교사가 최종 에세이만 보고 messy 한 초안, 지워진 문장, 여백에 적힌 메모는 무시하는 것과 같습니다. 연구자들은 결과물뿐만 아니라 과정 자체를 채점하고 싶었습니다.

2. 해결책: "루브릭 기반" AI 심판

이러한 복잡하고 다단계적인 과정을 채점하기 위해 연구자들은 수천 개의 로그를 인간이 읽도록 할 수 없었습니다. 따라서 AI 심판(OpenAI, DeepSeek, Gemini, Claude 등) 을 심판으로 활용하는 시스템을 구축했습니다.

이를 스포츠 심판 패널로 생각해 보세요:

규칙: AI 심판들이 자유 형식의 의견을 작성하게 하는 대신 (이는 혼란스럽고 일관성이 없을 수 있음), 연구자들은 엄격한 점수표(스키마) 를 작성하도록 강제했습니다. "논리가 타당한가?"와 "모서리 케이스를 처리했는가?"와 같은 항목에 대해 구체적인 점수를 매겨야 했습니다.
안전망: AI 는 때때로 실수를 하거나 이상한 답변을 내놓기 때문에, 시스템에는 "수리 메커니즘"이 있었습니다. AI 심판이 점수표의 칸을 채우는 것을 잊으면 시스템이 이를 감지하고 점수표가 완벽해질 때까지 AI 에게 다시 시도하도록 요청했습니다.
맥락: 심판들은 특정 코드를 채점하기 전에 참가자의 전체 프롬프트 기록 (AI 에게 무엇을 요청했는지) 을 볼 수 있었습니다. 이는 특정 순간의 프레임만 보는 것이 아니라, 반칙을 선언하기 전에 경기 전체 리플레이를 보는 것과 같습니다.

3. 발견: 인간과 AI 가 어떻게 협력했는지

연구자들은 참가자들의 "궤적"(단계별 여정) 을 분석했습니다.

"아침형 인간" 효과: 그들은 성공이 매우 일찍 발생한다는 사실을 발견했습니다. 마치 첫 몇 걸음 안에 85% 의 주자가 결승선을 통과하는 경주와 같습니다. 참가자와 AI 가 올바른 경로를 파악하면 보통 빠르게 해결했습니다. 처음 몇 번의 시도 후에도 여전히 고군분투했다면, 나중에 성공할 가능성은 거의 없었습니다.
차 고장 수리의 두 가지 방법: 코드가 잘못되었을 때, 참가자들은 두 가지 매우 다른 방식으로 수정했습니다:
1. 메커니크: 작은 부분을 조정하는 것 (점진적 정제).
2. 건축가: 전체 설계를 버리고 다시 짓는 것 (광범위한 재구조화).
- 놀라운 사실: 두 방법 모두 동등하게 효과적이었습니다. 코드를 수정하는 "최고의 방법"은 없었습니다. 때로는 작은 조정이 작동했고, 때로는 완전한 재구성이 필요했습니다.

4. 발견: AI 심판들은 얼마나 좋았나?

연구자들은 어떤 AI 모델이 최고의 심판인지 확인하기 위해 네 가지 다른 AI 모델을 테스트했습니다.

서로 다른 강점: 인간 심판들처럼 AI 심판들도 서로 다른 성향을 보였습니다.
- DeepSeek은 나쁜 시도보다 좋은 시도를 더 잘 순위 매기는 데 가장 뛰어났습니다 (최고의 플레이를 포착하는 것과 같음).
- OpenAI는 확률 점수를 정확하게 내는 데 능했습니다.
- Gemini와 Claude는 각각의 특색이 있었습니다.
"합의" 문제: 심판들은 항상 서로 동의하지 않았습니다. 서로 다른 두 AI 심판에게 같은 코드를 채점하도록 요청하면 서로 다른 점수를 줄 수 있습니다. 연구자들은 그들이 때로는 동의했지만, 종종 이견을 보였다는 사실을 발견했습니다.
교훈: 단일 AI 심판에만 의존할 수 없습니다. "패널"이 필요하며, 진정한 품질을 파악하려면 다양한 지표 (순위 매기기 능력, 자신감 보정 능력, 합의 빈도 등) 를 살펴봐야 합니다.

5. 핵심 교훈

이 논문은 인간과 AI 의 협력을 평가하는 새로운 플레이북을 제시합니다.

과정에 대해: AI 지원 코딩에서 성공은 보통 일찍 발생하며 버그를 수정하는 단일한 "올바른 방법"은 없다는 것을 보여줍니다.
채점에 대해: AI 가 엄격한 규칙을 따르고, 작업을 점검하며, 여러 심판을 사용하여 점수를 교차 검증한다면 신뢰할 수 있는 심판이 될 수 있음을 증명합니다.

간단히 말해: 이 논문은 인간과 AI 사이의 messy 한 협력 무대를 채점하는 더 나은 방법을 구축하여, 성공이 종종 빠르게 발생하며 올바른 점수를 얻기 위해서는 AI 심판 팀이 필요함을 보여주었습니다.

다음은 "LLM-as-a-Judge for Human-AI Co-Creation: A Reliability-Aware Evaluation Framework for Coding" 논문에 대한 상세한 기술 요약입니다.

1. 문제 제기

이 논문은 코딩 및 소프트웨어 공학 (SE) 분야에서 인간-AI 공동 창작 (Human-AI Co-Creation) 평가의 중요한 공백을 다룹니다. 대규모 언어 모델 (LLM) 이 공동 창작 파트너이자 평가자 ("LLM-as-a-Judge") 로 점점 더 많이 사용되고 있지만, 기존 평가 프로토콜은 이러한 특정 맥락에 종종 불충분합니다:

레거시 지표의 한계: 전통적인 코딩 평가는 최종 결과 (예: 통과/실패 테스트 케이스) 에 의존하며, 이는 공동 창작에 내재된 중간 산출물, 부분적 해결책, 디버깅 가설, 그리고 반복적 추론 과정의 가치를 포착하지 못합니다.
신뢰성과 편향: LLM 평가자는 편향 (예: 더 긴 응답을 선호하는 경향, 위치 편향) 과 불일치에 취약합니다. 평가자 출력이 신뢰할 수 있고, 서로 다른 모델 간에 비교 가능하며, 다중 턴 상호작용에서 해석 가능하도록 보장하는 표준화되고 감사 가능한 프레임워크가 부족합니다.
데이터 유출 위험: 공동 창작 환경에서 동일한 사용자가 동일한 문제에 대해 여러 번 시도하면 "궤적 (trajectories)"이 생성됩니다. 표준 무작위 분할은 데이터 유출로 이어질 수 있는데, 이는 평가자가 이전 턴을 평가하는 동안 나중에 생성된 정보를 보게 되는 경우입니다.

2. 방법론

저자들은 대회 스타일의 인간-AI 공동 창작을 위해 특별히 설계된 통합된, 루브릭 기반 LLM-as-a-Judge 프레임워크를 제안합니다. 방법론은 세 가지 주요 단계로 구성됩니다:

A. 데이터 처리 및 데이터셋 구축

출처: 데이터는 PC 고시엔 (PCK) 결승전의 AI 허용 공동 창작 트랙에서 수집되었으며, 참가자들은 공식 대회와 동일한 문제를 해결했지만 AI 도구 사용이 허용되었습니다.
궤적 그룹화: 유출을 방지하기 위해 데이터는 (참가자, 문제) 쌍으로 정의된 궤적으로 조직화됩니다.
NONBLIND 컨텍스트: 현실적인 평가를 시뮬레이션하기 위해 평가자에게 해당 참가자의 모든 프롬프트 로그를 연결한 **참가자 수준 집계 컨텍스트 ( $Q_u$ )**가 제공됩니다. 이는 평가자가 특정 시도 평가 시 사용자의 상호작용 전체 기록을 갖도록 보장합니다.
스키마 제약: 평가자는 자유 형식 텍스트 대신 구조화된 JSON 을 출력하도록 강제되며, 다음을 포함합니다:
- $p_a$ : 수용 예측 확률.
- $s_{algo}$ : 알고리즘 적절성을 위한 순서 점수 (1-5).
- $s_{robust}$ : 견고성/제약 조건 충족을 위한 순서 점수 (1-5).
- $r$ : 짧은 근거.

B. LLM-as-a-Judge 추론 파이프라인

다중 모델 평가: 네 가지 다른 LLM 평가자가 평가되었습니다: OpenAI (gpt-5.2), DeepSeek (reasoner), Gemini (2.5-pro), Claude (sonnet-4).
검증 및 복구: 파이프라인에는 강력한 검증 단계가 포함됩니다. API 호출이 실패하거나 잘못된 형식의 JSON 을 반환하는 경우, 시스템은 백오프 (backoff) 와 함께 재시도합니다. 엄격한 스키마 제약 (예: [0,1] 내의 확률, 유효한 순서 점수) 을 만족하는 출력만 허용됩니다.
분할 전략: (참가자, 문제) 수준에서 그룹화 분할 (Train/Val/Test) 이 적용됩니다.
- 검증: Matthews 상관 계수 (MCC) 를 최대화하여 최적의 결정 임계값 ( $t^*$ ) 을 선택하는 데 사용됩니다.
- 테스트: 데이터 유출이 없도록 최종 보고에 exclusively 사용됩니다.

C. 평가 지표

이 프레임워크는 평가자와 공동 창작 역동성을 모두 평가하기 위해 다중 지표 프로토콜을 사용합니다:

평가자 품질 지표:
- 구별력: ROC-AUC 및 PR-AUC (순위 능력).
- 확률적 신뢰성: LogLoss, Brier 점수, 기대 보정 오차 (ECE).
- 결정 품질: 검증 세트에서 선택된 임계값을 사용한 MCC.
- 평가자 간 일치: Cohen's $\kappa$ (쌍별) 및 Fleiss' $\kappa$ (다중 평가자).
공동 창작 역동성 지표:
- Success@Turn: 턴 $k$ 까지 해결된 궤적의 누적 비율.
- Time-to-Success: Kaplan-Meier 생존 분석을 통해 분석 (해결되지 않은 궤적에 대한 오른쪽 절단 처리).
- 수정 행동: 표면적 변경을 위한 정규화된 편집 거리 (NED) 와 코드 인식 유사성/수렴을 위한 CodeBLEU로 측정.

3. 주요 기여

신뢰성 인식 프레임워크: 궤적 유출을 방지하기 위해 스키마 제약 출력, 자동 복구 메커니즘, 그룹화 분할을 포함하는 엄격한 LLM 평가 파이프라인을 도입합니다.
다중 지표 평가 세트: 구별력, 보정, 결정 품질, 평가자 간 일치를 함께 분석함으로써 단일 지표 보고를 넘어섭니다.
궤적 수준 분석: 최종 결과뿐만 아니라 인간-AI 상호작용 패턴 (고통 곡선, 생존 분석) 을 분석하는 새로운 방법을 제공합니다.
실증적 연결: "LLM-as-a-Judge" 신뢰성 및 "Human-AI Co-Creation" 역동성 분야를 단일 재현 가능한 실증 환경 내에서 연결합니다.

4. 주요 결과

A. 평가자 성능

구별력: DeepSeek와 Claude가 가장 높은 ROC-AUC(0.5937) 를 달성했으며, DeepSeek 는 PR-AUC(0.6904) 에서 앞섰습니다. Gemini 는 가장 낮은 성능 (ROC-AUC 0.4250) 을 보였습니다.
보정: DeepSeek가 가장 좋은 보정 (최저 ECE: 0.2819) 을 보였으며, Gemini 와 Claude 는 더 높은 오차를 나타냈습니다.
결정 품질: DeepSeek가 보수적인 임계값 (0.81) 으로 테스트 세트에서 가장 높은 임계값 MCC(0.5000) 를 달성했습니다.
평가자 간 일치: 일치는 **전반적으로 modest(보통)**했습니다.
- 평균 쌍별 Cohen's $\kappa$ : 0.1592.
- Fleiss' $\kappa$ : 0.0696.
- 함의: 평가자는 interchangeable(교환 가능) 하지 않습니다. 그들은 고유한 편향과 강점을 보여주며, 단일 모델에 의존하기보다 다중 지표 보고의 필요성을 강화합니다.

B. 인간-AI 공동 창작 역동성

초기 집중 성공: 성공은 초기 턴에 크게 집중되어 있습니다.
- Success@Turn은 첫 번째 관찰된 턴에서 0.8533에 도달했습니다.
- 턴 6 에는 0.8641로만 증가했습니다.
- Kaplan-Meier 분석은 처음 몇 턴을 넘어선 궤적이 체감 수익을 보임을 확인합니다.
이질적 수정 패턴: 단일 "올바른" 수정 스타일은 없습니다.
- 점진적 정제(작은 변경)와 광범위한 재구조화(큰 변경) 모두 성공적인 결과로 이어졌습니다.
- 코드 인식 유사성 (CodeBLEU) 은 성공적인 궤적이 중간 변경의 크기와 관계없이 수용된 솔루션을 향해 구조적으로 수렴하는 경향이 있음을 보여주었습니다.
프롬프트 - 코드 비유사성: 프롬프트와 코드 간의 높은 NED 값은 평가자 컨텍스트 (자연어) 와 솔루션 (코드) 이 어휘적으로 구별됨을 확인시켜 주며, 평가 작업의 비단순성을 검증합니다.

5. 중요성 및 함의

최종 정확성 너머: 이 연구는 AI 지원 코딩 평가는 결과물뿐만 아니라 과정(궤적) 을 살펴봐야 함을 보여줍니다. 초기 성공 패턴은 효과적인 공동 창작이 장기간의 시행착오보다는 빠른 반복 및 검증을 기반으로 함을 시사합니다.
측정 도구로서의 평가자, 신비로운 예언자가 아님: 결과는 LLM 평가자가 특정 "맹점"과 강점을 가진 측정 도구임을 강조합니다. 단일 지표 (예: 정확도) 는 그 전체 유용성을 포착하지 못하며, 감사 가능한 연구를 위해서는 다차원적 관점이 필수적입니다.
인간 전문성의 중심성 유지: 연구 결과는 AI 가 인간의 판단을 대체하는 것이 아니라 재조정한다는 것을 시사합니다. 중간 산출물을 평가하고, 정체성을 인식하며, 수정을 지휘하는 능력은 공동 창작에서 여전히 중요한 인간 기술입니다.
재현성: 제안된 프레임워크는 투명성으로 AI 지원 코딩을 평가하기 위한 미래 연구의 템플릿을 제공하며, 평가 프로토콜이 데이터 유출 및 모델별 편향에 대해 견고하도록 보장합니다.

결론적으로, 이 논문은 인간과 AI 가 복잡한 코딩 문제를 해결하기 위해 어떻게 협력하는지를 엄격하게 평가하기 위한 기초 방법론을 제공하며, 동시에 이러한 역동적인 환경에서 LLM 을 평가자로 사용하는 신뢰성 인식 표준을 확립합니다.