💬 NLP

Imperative Interference: Social Register Shapes Instruction Topology in Large Language Models

이 논문은 다국어 대규모 언어 모델에서 명령형 어조가 언어별 사회적 화법 관습에 따라 지시 토폴로지를 경쟁적 또는 협력적으로 변화시키는 반면, 서술형으로 재구성할 경우 이러한 언어 간 편차가 크게 감소한다는 점을 실험을 통해 규명하여, 모델이 지시를 기술적 명세가 아닌 언어에 의존하는 사회적 행위로 처리함을 시사합니다.

원저자: Tony Mason

게시일 2026-03-27

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Tony Mason

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🌍 제목: "명령조의 함정: 언어가 AI 의 '사회적 태도'를 바꾼다"

1. 문제: 같은 지시, 다른 반응 (영국 vs 스페인)

연구진은 AI 에게 "TodoWrite 도구를 절대 쓰지 마라"라는 같은 지시를 영어와 스페인어로 입력했습니다.

영어: AI 는 지시를 잘 따랐습니다. 지시들이 서로 협력하며 잘 작동했죠.
스페인어: AI 는 지시를 무시하거나 혼란스러워했습니다. 오히려 지시 중 일부를 지우면 더 잘 작동할 정도였습니다. 마치 지시들이 서로 싸우는 것처럼요.

💡 비유:
영어로 된 지시는 "군대에서의 명령" 같습니다. "이것을 해라, 저것을 하지 마라"라고 장군이 일렬로 지시하면 병사 (AI) 는 그 권위를 받아들여 잘 따릅니다.
하지만 스페인어로 된 같은 지시는 "너무 많은 사람이 동시에 떠드는 방" 같습니다. "이걸 해라! 아니 저걸 해라!"라고 여러 사람이 동시에 큰 소리로 명령하면, AI 는 "누가 진짜 주인이지? 누구 말을 들어야 하지?"라고 혼란을 겪으며 지시들이 서로 간섭하게 됩니다.

2. 원인: '문법'이 아니라 '사회적 분위기 (Register)'

연구진은 이것이 단순한 번역 실수가 아니라고 밝혔습니다. AI 는 여러 언어로 훈련받으며 "누가 누구에게 명령하는가" 라는 사회적 규칙까지 학습했기 때문입니다.

명령조 (Imperative): "해라", "하지 마라"라는 말투는 화자의 권위를 강조합니다. 영어권에서는 이것이 '명확한 지시'로 받아들여지지만, 스페인어권에서는 이것이 '과도한 간섭'이나 '권위 남용'처럼 느껴져 AI 가 거부감을 가질 수 있습니다.
서술조 (Declarative): "이 기능은 꺼져 있습니다", "이것은 허용됩니다"처럼 사실을 나열하는 말투는 권위를 내세우지 않습니다.

💡 비유:

명령조: "지금 당장 창문을 닫아!" (누군가 지시하는 느낌)
서술조: "창문은 닫혀 있습니다." (단순한 사실 설명)
AI 는 영어에서는 '지시'를 잘 따르지만, 스페인어에서는 '지시'를 받으면 스트레스를 받아서 엉뚱한 행동을 합니다. 하지만 '사실 설명'을 하면 어떤 언어든 똑같이 잘 따릅니다.

3. 실험: 지시를 '명령'에서 '사실'로 바꾸기

연구진은 실험을 통해 이 가설을 증명했습니다.

방법: 스페인어 지시 중 "절대 ~ 하지 마라"라는 명령조 3 개를 "이 기능은 꺼져 있다"는 사실 설명 (서술조) 으로 바꿨습니다.
결과:
1. 바꾼 3 개 지시뿐만 아니라, 바꾸지 않은 다른 지시들도 AI 가 잘 따르기 시작했습니다.
2. 스페인어 환경에서 AI 의 행동 패턴이 '싸우는 구조'에서 '협력하는 구조'로 완전히 뒤바뀌었습니다.

💡 비유:
혼란스러운 회의실 (스페인어 지시) 에서 가장 큰 소리로 지시하는 3 명의 대표를 조용히 앉혀두고 "회의실은 조용합니다"라고 적어두자, 나머지 사람들이 자연스럽게 진정되어 협업을 시작했습니다.

4. 중요한 시사점: AI 의 '양심' (Alignment) 도 언어에 따라 다를 수 있다

이 연구는 AI 를 훈련시킬 때 쓰는 '원칙' (예: "도움이 되라", "해롭지 말라") 이도 문제가 될 수 있음을 경고합니다.

대부분의 AI 윤리 원칙은 명령조로 쓰입니다.
만약 AI 가 영어로 훈련받았다면 이 명령을 잘 따르겠지만, 다른 언어로 훈련받았다면 이 '명령'을 사회적 압박으로 받아들이고 다르게 행동할 수 있습니다.
즉, AI 의 '착함'이 언어와 문화에 따라 달라질 수 있다는 뜻입니다.

5. 결론: AI 에게 지시할 때의 팁

이 논문의 저자는 AI 프롬프트를 작성할 때 다음과 같은 팁을 줍니다.

명령하지 말고 사실을 말하세요: "절대 X 를 하지 마라" 대신 "X 는 비활성화되어 있습니다"라고 쓰세요.
간단하고 명확하게: 복잡한 조건부 지시 ("A 일 때 B 를 하지 마라") 는 번역 시 의미가 왜곡되기 쉽습니다.

🎯 한 줄 요약:
AI 에게 지시할 때는 **"명령하는 톤"**을 쓰면 언어마다 AI 가 받아들이는 방식이 달라져 혼란이 생깁니다. 대신 **"사실을 설명하는 톤"**을 쓰면 어떤 언어든 AI 가 똑똑하고 협력적으로 행동합니다.

이 연구는 AI 가 단순히 코드를 실행하는 기계가 아니라, 언어와 문화의 뉘앙스를 읽는 사회적 존재임을 보여줍니다.

논문 개요

이 논문은 대규모 언어 모델 (LLM) 의 시스템 프롬프트에서 **지시문 (Instruction) 의 어조 (Register)**가 언어 간 모델의 행동 패턴에 어떻게 결정적인 영향을 미치는지 규명합니다. 특히, 영어 시스템 프롬프트에서 지시문들이 **협력적 (Cooperative)**으로 작동하는 반면, 동일한 내용을 스페인어로 번역했을 때는 **경쟁적 (Competitive)**으로 상호 간섭하여 성능이 저하되는 '토폴로지 역전 (Topology Inversion)' 현상을 발견하고, 그 원인이 **사회적 어조 (Social Register)**에 있음을 실험적으로 증명했습니다.

1. 문제 제기 (Problem)

기존 연구의 한계: 다국어 프롬프팅 연구는 주로 번역 시 발생하는 전반적인 성능 저하 (Main Effect) 에 집중했습니다.
핵심 문제: 번역된 프롬프트에서 개별 지시문 간의 **상호작용 구조 (Interaction Topology)**가 언어에 따라 어떻게 변하는지, 그리고 왜 동일한 의미의 지시문이 언어에 따라 서로 다른 효과를 내는지는 규명되지 않았습니다.
관측된 현상: 영어 프롬프트에서는 모든 지시문을 제거하면 성능이 떨어지는 '협력적 네트워크'를 형성하지만, 스페인어 프롬프트에서는 특정 지시문을 제거할 때 오히려 성능이 향상되는 '경쟁적 네트워크'를 형성하여 지시문들이 서로 간섭하는 현상이 발생했습니다.

2. 방법론 (Methodology)

코퍼스 (Corpus): Claude Code(v2.1.50) 의 시스템 프롬프트를 56 개의 블록으로 분해하고, 이 중 22 개를 제거 가능한 (ablatable) 블록으로 선정했습니다.
실험 설계:
- 모델: 4 가지 모델 (Haiku, Gemini, DeepSeek, Mistral) 을 사용.
- 언어: 영어, 중국어, 프랑스어, 스페인어 (번역은 Gemini Flash 2.0 사용).
- 프로브 (Probe): 22 개의 수동 작성된 테스트 케이스로 각 블록의 준수 여부를 평가.
- 절차:
  1. 단일 블록 제거 (Phase 0): 각 블록 제거 시 성능 변화 측정 (주 효과).
  2. 쌍별 제거 (Phase 1): 2 차 커버링 배열 (Covering Array) 을 사용하여 블록 간 상호작용 측정.
  3. 통제 변인 제거: 정보 밀도 (정보량) 가 원인인지 확인하기 위해 중국어 프롬프트에 채우기 (Padding) 를 적용.
  4. 개입 실험 (Intervention): 명령형 (Imperative) 지시문을 서술형 (Declarative) 으로 재작성하여 어조 변화가 토폴로지에 미치는 영향 확인.
통계: 웰치 t-검정, 베냐미니 - 호크버그 FDR 보정, 10 만 회 순열 검정 (Permutation test) 사용.

3. 주요 기여 (Key Contributions)

언어 간 토폴로지 역전 발견: 지시문 간 상호작용 구조가 언어에 따라 협력적 (영어) 에서 경쟁적 (스페인어) 으로 반전됨을 최초로 규명.
사회적 어조 (Social Register) 의 인과성 입증: 지시문의 어조 (명령형 vs 서술형) 가 모델의 지시 준수 행동을 매개하는 핵심 메커니즘임을 실험적으로 증명.
스필오버 효과 (Spillover Effect): 일부 지시문의 어조만 변경해도 (명령형→서술형) 재작성되지 않은 다른 지시문들의 상호작용 구조까지 협력적으로 변화시킴을 발견.
실용적 설계 원칙 제시: 시스템 프롬프트 설계 시 "명령"이 아닌 "사실 서술" 방식을 사용해야 언어 간 일관성을 확보할 수 있음을 제안.

4. 주요 결과 (Results)

토폴로지 역전:
- 영어: 모든 블록 제거 시 성능 저하 (협력적, 음의 주 효과).
- 스페인어: 많은 블록 제거 시 성능 향상 (경쟁적, 양의 주 효과). 이는 번역된 명령형 지시문들이 서로 충돌하여 모델의 의무 해결 (Obligation Resolution) 부하를 증가시키기 때문.
정보 밀도 배제: 중국어 프롬프트의 길이를 영어와 동일하게 늘려도 (Padding) 토폴로지 차이가 사라지지 않음. 따라서 길이 차이가 원인이 아님.
서술형 재작성의 효과 (E-PROC):
- 명령형 ("NEVER use X") 을 서술형 ("X: disabled") 으로 변경했을 때, 언어 간 분산 (Variance) 이 81% 감소 ( $p=0.029$ ).
- 특히 Haiku 모델의 중국어 성능이 0.0 에서 1.0 으로 극적으로 개선됨.
토폴로지 전환 (E-TOPO):
- 스페인어 프롬프트에서 3 개의 명령형 블록을 서술형으로 변경하자, 전체 토폴로지가 경쟁적에서 협력적으로 전환됨.
- 스필오버: 재작성되지 않은 블록들도 경쟁적 상호작용에서 협력적 상호작용으로 변화 (예: no-compat-hacks 블록의 효과 변화). 이는 어조가 시스템 전체의 처리 부하에 영향을 미친다는 것을 시사.
인코딩 유형별 취약성: 절차적 (Procedural) 지시문은 서술적 (Declarative) 지시문보다 번역 시 취약도가 2.9 배 높음.

5. 의의 및 시사점 (Significance)

지시문은 기술적 명세가 아닌 사회적 행위: LLM 은 지시문을 단순한 제약 조건이 아니라, 화자와 청자 간의 권력 관계를 형성하는 '사회적 행위 (Social Act)'로 처리합니다. 명령형 어조는 언어별 사회적 규범 (권위 부여 방식) 에 따라 다른 의무감을 유발합니다.
정렬 (Alignment) 의 언어 의존성 예측:
- 현재 Constitutional AI(헌법적 AI) 원칙들이 대부분 명령형 ("Be helpful", "Be honest") 으로 작성되어 있습니다.
- 예측: 명령형 어조가 추론 시 언어 의존적이라면, 학습 단계에서도 동일한 원리가 적용될 수 있습니다. 즉, 명령형 원칙으로 학습된 모델은 언어별로 다른 정렬 (Alignment) 특성을 보일 수 있으며, 이는 다국어 정렬의 불일치를 초래할 수 있습니다.
시스템 프롬프트 설계 가이드:
- 명령형 ("NEVER do X") 대신 사실 서술형 ("X: disabled") 사용.
- 조건부 체인보다는 독립적인 제약 조건 구성.
- 추상적 개념보다 구체적인 코드 예시 사용.
비용 효율성: 전체 실험 비용은 약 69 달러로, 적은 비용으로 LLM 의 복잡한 언어 - 구조적 상호작용을 규명할 수 있음을 증명했습니다.

결론

이 연구는 LLM 의 다국어 성능 저하가 단순한 번역 오류가 아니라, 사회적 어조 (Register) 에 따른 지시문 간 상호작용 구조의 변화에서 기인함을 보여줍니다. 시스템 프롬프트를 '명령'이 아닌 '사실'로 서술함으로써 언어 간 일관성을 확보할 수 있으며, 이는 향후 다국어 AI 정렬 및 프롬프트 엔지니어링에 중요한 방향성을 제시합니다.