기술 요약: "말하지 마세요!" (Don't Say It!): 언어 모델이 타부(Taboo) 게임을 할 때 발생하는 제약, 준수 및 커뮤니케이션

1. 문제 정의

타부(Taboo) 게임은 플레이어가 특정 금지 단어 세트를 사용하지 않고 대상 단어를 설명하여, 추측자가 대상 개념을 식별할 수 있도록 의미론적 연상을 활용해야 하는 게임이다. 이 과업은 대규모 언어 모델(LLM)에게 독특한 도전 과제를 제시하는데, 이는 두 가지 상충하는 목표를 동시에 만족시켜야 하기 때문이다:

1. 엄격한 어휘적 제약: 모델은 금지된 단어(금지 목록)와 그 형태적 변형을 포함한 어휘적, 개념적으로 돌출된 단어들을 억제해야 한다.
2. 의사소통의 유효성: 모델은 인간이나 기계 추측자가 대상 개념을 불러일으킬 수 있을 만큼 충분히 정보가 풍부한 설명을 생성해야 한다.

현재의 벤치마크들은 종종 지시 이행(instruction following)을 고립된 상태에서 테스트한다. 본 논문은 LLM이 "제약 하의 어휘적 접지(lexical grounding under constraint)"를 요구하는 환경에서 규칙 준수와 의사소통 유용성 사이의 절충안을 어떻게 탐색하는지 조사한다. 저자들은 제약 조건 하에서 생성된 설명이 충분히 상세하여 유용할 수 있는지, 그리고 모델이 채택하는 전략이 게임에서의 인간 인지 과정과 일치하는지를 구체적으로 질문한다.

2. 방법론

2.1. 데이터 및 모델

• 데이터셋: 본 연구는 실제 보드 게임에서 수기로 전사한 194개의 이탈리아어 타부 카드를 활용한다. 각 카드에는 대상 단어 하나와 다섯 개의 금지 단어가 포함되어 있다.
• 모델: 두 가지 오픈 웨이트 모델을 평가하였다:
  • google/gemma-3-4b-it: 일반적인 성능과 해석 가능성 실험을 위한 사전 학습된 희소 오토인코더(Sparse AutoEncoders, SAE)와의 호환성을 고려하여 선택된 경량 지시 튜닝 모델이다.
  • openai/gpt-oss-20b: 사고의 사슬(Chain-of-Thought, CoT) 강화 학습을 통해 사후 학습된 혼합 전문가(Mixture-of-Experts) 추론 모델이다. 제약 준수를 위한 숙고(deliberation)의 역할을 평가하기 위해 명시적 추론을 사용하는 경우와 그렇지 않은 경우를 모두 평가하였다.

2.2. 실험 조건 (개입 수준)

저자들은 제약을 강제하기 위해 세 가지 구별된 개입 수준을 조사하였다:

1. 프롬프팅 (지시 수준): 사용자 프롬프트를 통해 모델에게 대상 단어와 금지 목록(형태적 파생어 포함)을 피하도록 지시한다. 프롬프트는 주변 텍스트 없이 30단어 이내의 설명을 명시적으로 요청한다.
2. 생성 시 제약 (디코딩 수준):
   • 사전적 어근 검열 (A Priori Stems Censorship): 생성 전, 금지된 단어의 어근을 기반으로 정적인 금지 토큰 집합을 계산한다. 디코딩의 매 단계마다 이 토큰들의 로짓(logits)을 $-\infty$로 마스킹한다.
   • 추론 시 제약 생성 (Inference-Time Constrained Generation): 모델이 자유롭게 생성하다가 금지된 어근과 일치하는 완전한 단어가 감지되면 동적으로 작동하는 방식이다. 생성은 해당 단어의 시작 부분으로 되돌아가(backtrack), 문제가 되는 단어를 지속적인 위치 기반 마스크에 추가한 뒤, 해당 토큰을 억제한 상태로 생성을 재개한다.
3. 모델 조작 (표상 수준):
   • SAE 스티어링 (SAE Steering): 희소 오토인코더(SAE)를 사용하여 모델의 잔차 스트림(Layer 29)에서 각 금지 단어와 가장 강력하게 연관된 특징(feature)들을 식별한다. 생성 중에 이러한 특징 방향으로부터 잔차 스트림을 멀어지게 하는 활성화 노름 스케일링(activation-norm-scaled) 개입을 적용하여, 프롬프트에 금지어를 명시하거나 가중치를 수정하지 않고도 기저의 개념을 억제한다.

2.3. 평가 지표

• 준수도 (Compliance):
  • 정확도 (Accuracy): 위반 사항(단어 자체 또는 형태적 변형)이 없는 출력의 백분율.
  • 위반 유형 (Violation Types): 정확한 단어 위반, 형태적 위반, 그리고 "대상 누출(target leaks, 실수로 대상 단어를 사용함)"의 비율.
  • No : GPT 모델의 추론 예산 소진율.
• 의사소통 유효성 (Communicative Effectiveness):
  • LLM-as-a-Judge: 두 모델(Gemma와 GPT)이 심판 역할을 수행하며, 설명을 읽고 대상 단어를 추측한다. 유효성은 Pass@k (대상의 첫 번째 토큰이 상위 k개 예측 안에 포함되는지 여부)와 **원시 토큰 가능도(Raw token likelihood)**로 측정된다.
  • 인간 평가: 8명의 주석가가 두 단계에 참여한다:
    • 추측하기 (Guessing): 주석가들이 모델이 생성한 설명으로부터 대상을 추측한다.
    • 설명하기 (Describing): 주석가들이 "자발적"(구어체 스타일) 및 "의도적"(문어체 스타일) 조건 하에서 설명을 생성하여 모델 성능의 기준점(baseline)으로 삼는다.

3. 주요 결과

3.1. 제약 준수

• 프롬프팅: 미제약 베이스라인에 비해 준수도를 크게 향상시켰다. Gemma-3-4b-it는 **91.2%**의 정확도에 도달했으며, 추론을 사용하는 GPT-oss-20b는 **97.4%**에 도달했다. 추론은 단어 자체를 억제하는 데는 도움이 되었으나 형태적 변형을 막는 데는 효과가 덜했다.
• 제약 생성: 완벽에 가까운 준수도를 달성했다. Gemma-3-4b-it는 사전적 방식에서 98.5%, 온라인 방식에서 **96.4%**를 기록했다. 추론을 사용하는 GPT-oss-20b는 사전적 방식에서 **92.3%**를 기록했으나, 온라인 방식에서는 **87.1%**로 떨어졌으며 대상 단어 누출률이 더 높았다.
• SAE 스티어링: 준수도 측면에서 부진한 성능(55.7%)을 보였으며, 이는 프롬프팅 및 제약 생성보다 현저히 낮다. 이는 표상 수준의 스티어링만으로는 표면적인 어휘 제약을 신뢰성 있게 강제할 수 없음을 시사한다.

3.2. 의사소통 유효성 (정보성)

• 절충 관계 (Trade-offs): 제약을 부과하는 방법이 설명의 질을 결정했다.
  • 프롬프팅은 지나치게 조심스럽고 정보가 빈약한 설명을 생성하는 경 경향이 있었다.
  • 제약 생성은 모델이 더 의미론적으로 정밀한 패러프레이즈(paraphrase)를 하도록 강제하여, 심판 모델들에 대해 프롬프팅보다 높은 Pass@10 점수를 기록했다.
  • SAE 스티어링은 놀라운 괴리를 보여주었다: 낮은 준수도에도 불구하고, 경쟁력 있는 정보량을 제공했다(Pass@10 최대 21.1%). 이는 표면 토큰을 차단하는 것이 표상 수준의 개입이 피할 수 있는 '기술적 비용'을 부과함을 시사한다.
• 심판의 민감도: 두 심판 모델은 민감도 면에서 큰 차이를 보였다. GPT-oss-20b는 대부분의 조건에서 대상 단어에 거의 제로에 가까운 확률을 할당한 반-면, Gemma-3-4b-it는 더 관대했다. 그러나 두 모델 모두 방법론 간의 상대적 순위에는 동의했다.

3.3. 모델 vs. 인간 성능

• 추측의 비대칭성: 모델은 추측자로서 인간보다 실질적으로 성능이 떨어졌다.
  • 인간 주석가들은 모델의 설명으로부터 **30.77%**의 정확도로 대상을 맞혔다.
  • 모델 심판들(Gemma-3-4b-it 포함)은 인간이 인간이 쓴 설명에 대해 단 **1번의 추측(Pass@1)**으로 달성하는 정확도에 접근하기 위해 **5~10번의 추측(Pass@5 ~ Pass@10)**이 필요했다.
  • 심판으로서의 GPT-oss-20b는 거의 모든 경우에서 정답 대상에 대해 제로에 가까운 확률을 할당했다.
• 설명의 비대칭성:
  • 모델의 경우, 추론(CoT)이 준수도를 크게 향상시켰다 (GPT의 경우 72.2% vs 97.4%).
  • 인간의 경우, 자발적 구어 설명이 의도적 문어 설명(85%)보다 더 높은 추측 정확도(95%)를 보였다. 이는 정적인 텍스트 생성과 달리 실시간 상호작용을 통한 정교화가 가능한 구어 소통의 특성 때문인 것으로 보인다.

4. 기여 및 의의

핵심 기여

1. 다층적 제약 프레임워크: 본 논문은 생성 과정의 세 가지 수준(프롬프팅, 디코딩 시 마스킹, 내부 표상 조작/SAE)에서 제약 강제 전략을 체계적으로 비교한다.
2. 양방향 인간-모델 평가: 이전 연구들이 자동화된 지표에만 의존했던 것과 달리, 본 연구는 역할을 교대하여(인간이 모델의 설명을 맞히고, 모델이 인간의 설명을 맞힘) 실제 게임 플레이에 기반한 평가를 수행한다.
3. 절충 관계의 규명: 규칙 준수와 의사소통 유효성이 독립적으로 제어될 수 없음을 입증한다. 제약을 부과하는 메커니즘(지시 vs 디코딩 vs 표상)은 출력의 본질을 근본적으로 변화시키며, 안전성(금지어 회피)과 유용성(대상 유도) 사이의 뚜렷한 절충점을 만든다.

의의 및 주장

저자들은 제약 하의 어휘적 접지가 현재 언어 모델들에게 여전히 해결되지 않은 과제라고 주장한다.

• "추측의 격차 (The Guessing Gap)": 모델이 인간만큼 효율적으로 간접적인 설명으로부터 대상을 맞히지 못한다는 점은, LLM이 인간이 타부 게임을 직관적으로 수행할 때 사용하는 돌출된 어휘 연상 네트워크를 갖추지 못했음을 시사한다. 저자들은 이것이 인간의 빠른 연상적 "시스템 1" 처리와 모델의 의도적 "시스템 2" 추론 사이의 차이를 나타낸다고 제안한다.
• 한계점: 저자들은 현재 벤치마크가 이탈리아어 전용이라는 점, 공유 평가 세트가 10단어로 작다는 점, 그리고 SAE 스티어링이 하나의 아키텍처에서만 테스트되었다는 점을 겸허히 언급한다. 또한 본 연구가 단일 턴(single-turn) 설정을 평가하며, 원래의 게임은 본질적으로 상호작적인 성격을 띤다는 점도 지적한다.
• 향-후 방향: 본 논문은 타부와 같은 게임이 언어 모델의 능력을 탐구하는, 특히 다회차(multi-turn), 다중 에이전트 구성에서의 실용적 적응과 협력적 접지(collaborative grounding)를 조사할 수 있는 자연스럽고 미개척된 테스트베드라고 주장한다.