💬 NLP

Artificial Epanorthosis: Why large language models overuse a classical rhetorical figure, and how to mitigate it

본 논문은 거대 언어 모델이 훈련 편향과 선호도 튜닝으로 인해 수사적 형상인 에파노르토시스(epanorthosis)를 체계적으로 과용한다고 주장하며, 해당 형상을 완전히 제거하기보다는 모델의 출력을 인간의 수사적 규범에 정렬시키기 위해 경량 어댑터와 지시어 튜닝을 사용하는 장르 특화된 보정 접근법을 제안한다.

원저자: Federico Boggia

게시일 2026-07-29

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Federico Boggia

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇 글쓰기의 비밀 소스

당신이 수백만 권의 책, 웹사이트, 소셜 미디어 게시물이 거대하게 갈려 나가 섞여 있는 거대한 스무디 속에 들어와 있다고 상상해 보세요. 이것이 현대의 AI 챗봇이 대화하는 법을 배우는 방식입니다. 그들은 이 디지털 스무디를 맛보고 문장 속에서 다음 단어를 예측하는 법을 반복해서 배웁니다. 하지만 반전이 있습니다. 스무디로부터 학습한 후에, 인간이 개입하여 "맛 테스트"를 진행합니다. 인간은 로봇의 답변을 읽고 "이것은 자신감 있고 멋지게 들린다"라거나 "이것은 지루하게 들린다"라고 말합니다. 그러면 로봇은 인간이 좋아했던 것을 더 많이 하도록 배웁니다. 이 과정을 "강화 학습(reinforcement learning)"이라고 부르는데, 이는 강아지에게 간식을 주며 훈련시키는 것과 비슷합니다. 다만 그 강아지는 초지능 컴퓨터이고, 간식은 디지털적인 승인일 뿐입니다.

이 논문이 던지는 핵심 질문은 이것입니다: 우리가 로봇에게 "자신감 있고" "멋지게" 들리도록 훈련하면 어떤 일이 벌어질까요? 알고 보니, 로봇은 인상적으로 보이기 위해 매우 구체적이고 고전적인 기술을 사용하기 시작했습니다. 그것은 인간 화자들이 수천 년 동안 사용해 온 기술이지만, 로봇은 이를 너무 많이 사용하여 마치 가짜처럼 들리게 만듭니다. 이 논문은 왜 로봇이 이런 행동을 하는지, 얼마나 자주 발생하는지, 그리고 로봇을 지루하거나 멍청하게 만들지 않으면서도 이 기술을 과도하게 사용하는 것을 멈추도록 가르칠 수 있는지 조사합니다.

로봇의 "잠깐, 사실은..." 습관

누군가가 "저는 단순한 교사가 아닙니다. 저는 마음을 빚는 자입니다"라고 말할 때의 그 기분을 아시나요? 혹은 판매원이 "우리는 단순히 신발을 파는 것이 아닙니다. 우리는 자유를 팝니다"라고 말할 때 말이죠. 그들은 평범한 문장으로 시작했다가, 즉시 "되돌리기" 버튼을 누르고 훨씬 더 크고, 시끄럽고, 극적인 것으로 대체합니다.

화려한 언어 연구의 세계에서 이 기술에는 이름이 있습니다: 바로 에파노로시스(epanorthosis) (에-판-오-로-시스라고 발음하세요)입니다. 이는 기본적으로 "바로잡기" 또는 "스스로를 수정하기"를 의미하는 그리스어입니다. 고대의 연설가들은 자신의 논점을 더 강렬하게 만들기 위해 이를 사용했습니다. 하지만 최근 연구자들은 AI 챗봇이 마치 신경질적인 틱(tic)처럼 이 기술을 항상 사용하고 있다는 점을 발견했습니다. 이것은 로봇의 시그니처 동작이 되었습니다.

이 논문은 이것이 우연이 아니라고 주장합니다. 로봇이 깊이 "생각"하다가 마음을 바꾼 것이 아닙니다. 대신, 로в봇은 크게 두 가지 곳에서 이 습관을 배웠습니다:

인터넷 스무디: 로봇은 "X가 아니라 Y다!"라는 스타일이 많은 클릭과 '좋아요'를 받는 마케팅 문구, 동기 부여 게시물, 판매 피치 등을 엄청나게 읽었습니다.
인간의 맛 테스트: 인간이 로봇의 답변을 평가할 때, 인간은 자신감 있고 강조하는 듯한 답변을 선호했습니다. 로봇은 "헤이, 내가 '나는 봇이 아니라 디지털 설계자입니다'라고 말하면 사람들이 높은 점수를 주네!"라고 깨달았습니다. 그래서 로봇은 이를 점점 더 많이 하기 시작했습니다.

논문은 로봇이 글을 쓰는 방식(한 번에 한 단어씩, 왼쪽에서 오른쪽으로)이 이를 악화시킨다고 제안합니다. 로봇은 문장을 쓴 후에 다시 돌아가서 수정할 수 없기 때문에, 이 "수정" 기술을 실시간으로 톤을 조절하는 방법으로 사용하여, 보통의 인간보다 더 극적으로 들리게 만듭니다.

"에파노로시스 지수": 로봇의 드라마 측정하기

이를 증명하기 위해 저자들은 단순히 추측하지 않고, 측정 도구를 만들었습니다. 그들은 **에파노로시스 지수(Epanorthosis Index)**라는 것을 만들었습니다. 이것은 "드라마 측정기"라고 생각하면 됩니다. 그들은 10,000단어 안에서 로봇이 이 "X가 아니라 Y" 기술을 얼마나 많이 사용하는지 세고, 이를 실제 인간이 동일한 유형의 글에서 얼마나 자주 사용하는지와 비교했습니다.

결과는 다음과 같았으며, 다소 복합적이었습니다:

연설 및 판매: 로봇들이 지나치게 과했습니다. "웅변(oratory)"과 "홍보적(promotional)" 글쓰기에서 로봇은 인간보다 약 두 배 더 많이 이 기술을 사용했습니다. 이탈리아어의 경우 상황이 더 심각하여 거의 세 배에 달했습니다. 그들은 영감을 주려고 너무 애쓰다가 오히려 가짜처럼 들렸습니다.
일상적인 질의응답: 로봇은 정반대의 모습을 보였습니다. 인간이 그냥 채팅을 하거나 간단한 질문에 답할 때는, 종종 이 기술을 사용하여 답변을 완화하거나 확신을 피하곤 합니다. 그러나 로봇은 너무 무미건조했고 이 기술을 충분히 사용하지 않았습니다. 로봇은 인간보다 이 기술을 사용할 확률이 5분의 1 수준에 불과했습니다.
진지한 글쓰기: 뉴스 기사나 백과사전 항목 같은 글에서는 로봇과 인간이 상당히 비슷했습니다. 로봇은 언제 드라마틱함을 버려야 하는지 알고 있었습니다.

주요 결론은 로봇이 **조절 능력이 부족하다(miscalibrated)**는 것입니다. 그들은 드라마의 노브(knob)를 언제 높이고 언제 낮춰야 할지 모릅니다. 그들은 그저 인상적으로 보여야 한다고 생각될 때마다 "에파노로시스" 버튼을 세게 누를 뿐입니다.

로봇을 고칠 수 있을까? ("드라마 다이얼")

이 논문은 문제점을 지적하는 데 그치지 않고, 해결책을 찾으려 노력합니다. 저자들은 다음과 같이 물었습니다: "우리는 로봇에게 이 기술을 과도하게 사용하지 않으면서도, 말을 하기 두려워하는 로봇처럼 들리지 않게 가르칠 수 있을까?"

그들은 몇 가지 아이디어를 테스트했고, 효과가 있는 것은 다음과 같습니다:

"한 줄" 해결책 (프롬프팅): 그들은 단순히 로봇에게 "직설적으로 작성하고 'X가 아니라 Y이다'라는 표현을 피하라"고 명령해 보았습니다.
- 결과: 효과가 있었습니다! 이탈리아어 테스트에서, 이 간단한 지시는 연설과 에세이에서의 드라마틱한 수정을 **70%에서 72%**까지 줄였습니다. 기술을 완전히 없애지는 못했지만, 로봇의 사용량을 훨씬 더 인간과 유사한 수준으로 낮추었습니다.
"스타일 어댑터" (마법의 다이얼): 이것이 큰 실험이었습니다. 저자들은 로봇을 위한 작고 특별한 추가 기능(LoRA 어댑터라고 불림)을 훈련시켰습니다. 이 어댑터는 드라마의 "볼륨 조절 노브"라고 생각하면 됩니다.
- 그들은 "드라마틱한" 텍스트와 "평범한" 텍스트의 예시로 이를 훈련시켰습니다.
- 그런 다음, 이 새로운 스타일을 얼마나 사용할지 결정하는 "다이얼"(변경 가능한 숫자)을 테스트했습니다.
- 결과: 다이얼은 완벽하게 작동했습니다. 다이얼을 높이면 로봇은 평범하게 들렸고, 다이얼을 낮추면 로봇은 드라마틱하게 들렸습니다. 결정적으로, 그들은 로봇의 사용량이 인간의 비율과 정확히 일치하는 설정값을 찾아냈습니다. 이것은 기술을 삭제하는 것이 아니라, **교정(calibrating)**하는 것이었습니다.
효과가 없었던 것: 그들은 "선호도 학습(preference learning, 인간이 무엇을 좋아하는지 가르치는 것)"을 단독으로 사용해 보았지만, 일반화에 실패했습니다. 로봇은 테스트에서 올바른 답을 고르는 법은 배웠지만, 실제로 새로운 문장을 쓰는 방식 자체를 바꾸지는 못했습니다.

커다란 경고

논문은 약간 무서운 생각으로 끝을 맺습니다. 진짜 위험은 로봇이 이 기술을 너무 많이 사용하는 것이 아닙니다. 진짜 위험은 우리가 그들처럼 쓰기 시작하는 것입니다.

만약 우리가 "X가 아니라 Y다!"라는 식의 수정이 가득한 글을 읽는 데 익숙해진다면, 우리는 그것이 좋은 글쓰기라고 생각하기 시작할지도 모릅니다. 우리는 인상적으로 보이기 위해 우리 자신의 에세이, 이메일, 연설에 이 가짜의, 과도하게 드라마틱한 기교를 담아 쓰기 시작할 수도 있습니다. 이 논문은 목표가 로봇을 인간과 똑같이 만드는 것이 아니라, 상황에 적절하게 들리도록 만드는 것이어야 한다고 제안합니다. 때로는 연설에 드라마가 필요하고, 때로는 의료 보고서에 담백한 사실이 필요합니다.

저자들은 우리가 이러한 새로운 도구들을 통해 로봇의 "틱"을 고칠 수는 있지만, 더 어려운 작업은 수정이 정직한 것인지 아니면 단지 퍼포먼스인지 스스로 구별할 수 있도록 우리 자신을 가르치는 것이라고 결론짓습니다. 결국, 기계가 인간처럼 들리도록 배우는 데 성공한다면, 그다음 단계는 우리가 우리 자신다운 모습으로 남는 법을 잊지 않도록 만드는 것입니다.

기술 요약: 인공적 에파노라시스(Artificial Epanorthosis)

문제 제기
대규모 언어 모델(LLM)은 고전적 수사법 중 하나인 '에파노라시스(epanorthosis)'를 체계적으로 남용하는 경향을 보인다. 에파노라시스는 어떤 진술을 더 강하거나, 엄숙하거나, 정밀한 것으로 대체하기 위해 자기 수정을 가하는 사고의 수사적 형식을 의미한다(예: "이것은 단순한 과정이 아니다. 이것은 변혁의 여정이다"). 이 수사법은 2천 년 동안 존재해 왔으나, LLM은 인간의 문체적 규범에서 벗어난 빈도와 경직성으로 이를 재현한다. 본 논문은 이것이 무작위적인 통계적 아티팩트가 아니라, 다음 두 가지 주요 요인에 의해 유도된 "훈련된 성향(trained disposition)"이라고 주장한다:

학습 데이터 분포: 사전 학습 데이터 내에서 홍보용 산문, 동기 부여 콘텐츠, 랜딩 페이지의 높은 비중은 강조를 위한 수정(emphatic correction)이 참여도(engagement)와 상관관계가 있음을 보여준다.
선호도 튜닝 (RLHF): 인간 피드백 기반 강화 학습은 자신감 있고, 예리하며, 강조적인 구절에 보상을 주며, 이는 의도치 않게 "Not X. Y" 구조를 증폭시킨다.

본 논문은 생성의 자기회귀적(좌에서 우로 향하는) 특성이 사전 출판을 위한 수정을 방지함으로써 이러한 경향을 증폭시키지만, 이것이 근본 원인은 아니라고 상정한다. 핵심 문제는 **레지스터(register, 어조/격식)의 오조정(mis-calibration)**이다. 모델은 설득적/웅변적 맥락에서는 과잉 반응하고, 비형식적 맥락에서는 과소 반응하여, 특정 장르별 인간의 기준점(baseline)과 일치하는 데 실패한다.

방법론
본 논문은 관찰에서 개입으로 나아가는 측정 프레임워크와 일련의 완화 기법을 제안한다.

측정 프로토콜:
- 에파노라시스 지수 (EI): 강조적 수정 구조(예: "X가 아니라 Y이다", "X인가? 아니다. Y이다")의 밀도를 10,000단어당 계산하고, 특정 장르에 대한 인간의 기준값에 대해 정규화한 지표이다. EI가 1이면 인간과 유사하게 조정되었음을 의미한다.
- 탐지기: 교정 표지자(corrective markers)에 대한 고재현(high-recall) 렉시컬 패스(lexical pass)를 거친 후, 거짓 양성(false positives)을 걸러내기 위한 구성 수준 분류기(construction-level classifier)를 사용하는 2단계 시스템이다(예: "I mean"이 단순한 추임새인지 아니면 수정을 위한 것인지 구분).
- 코퍼스: 인간의 기준값은 장르별(백과사전적, 저널리즘, 학술, 서사, Q&A, 논증, 웅변)로 2022년 이전의 텍스트를 포함한다. 모델 출력은 명령 튜닝된 모델군(특히 Claude Haiku, Sonnet, Opus)을 사용하여 중립적이고 장르 특화된 프롬프트를 통해 생성된다.
완화 전략:
데이터 큐레이션부터 추론 시 제어에 이르는 개입 방안을 조사하며, 경량 LoRA(Low-Rank Adaptation) 어댑터를 우선순위에 둔다.
- 데이터 측면: 반사실적 증강(counterfactual augmentation, 강조된 텍스트와 탈강조된 패러프레이즈를 쌍으로 구성) 및 명령 데이터에서 홍보용 사례 제거.
- 모델 측면 (LoRA): "평이한(plain)" 응답에 대한 지도 미세 조정(SFT) 또는 선호 쌍에 대한 직접 선호 최적화(DPO)를 사용하여 작고 탈착 가능한 어댑터를 훈련한다. 이 어댑터는 추론 시 스케일링 계수( $\alpha$ )를 통해 제어되어, 기본 모델의 비율을 0으로 줄이는 것부터 조절할 수 있다.
- 추론 측면: 디코딩 타임 제어(PPLM, GeDi, FUDGE), 활성화 스티어링(activation steering), 그리고 프롬프팅(시스템 지침).
- 평가: 성공 여부는 제거가 아니라 **조정(calibration)**으로 측정된다. 즉, 내용의 충실도와 적절성을 유지하면서 해당 장르의 인간 기준치로 에파노라시스를 줄이는 것이다.

주요 결과

오조정의 실증적 증거:
- 웅변(Oratory): 모델은 인간의 비율(10,000단어당 14.9개)보다 약 2.2배 높은(33.5개) 강조적 에파노라시스를 생성하며 과잉 반응한다. 이 효과는 더 큰 규모의 모델 계층(Sonnet, Opus)에 집중되어 나타난다.
- 비형식적 Q&A: 모델은 인간의 비율(8.2개)보다 낮은 약 0.2배(1.3개)를 생성하며, 인간의 헤징(hedging)과 자기 수정을 재현하는 데 실패한다.
- 기타 장르: 논증, 저널리즘, 백과사전적 산문에서는 유의미한 편차가 나타나지 않았다.
완화 효과:
- 프롬프팅: 이탈리아어 한 줄 지시문("긍정적으로 작성하라, 부정 후 업그레이드 방식을 피하라")은 웅변 및 논증 에세이에서 에파노라시스 밀도를 70–72% 감소시켜, 대규모 모델을 인간의 비율에 가깝게 만들었다.
- LoRA 어댑터 (SFT): 오픈 소스 7B 모델(Qwen2.5-7B)에 적용된 지도 미세 조정 어댑터는 웅변, 홍보, 논증 장르 전반에서 밀도를 약 98%(약 75에서 1.7로) 감소시켰다.
- "다이얼(Dial)" 효과: LoRA 어댑터를 계수( $\alpha$ )로 스케일링하면 연속적인 제어가 가능하다. $\alpha = 0.75$ 에서 어댑터는 논증적 밀도를 인간 기준인 ~12에 맞추기 위해 12.3으로 줄였으며, 강도가 높아질수록( $\alpha = 1.0$ ) 0으로 과잉 수정되었다. 이는 에파노라시스를 완전히 제거하지 않고도 인간의 비율로 조정하는 것이 가능함을 입증한다.
- 훈련이 필요 없는 방법: "Best-of-n" 선택 및 사후 긍정적 재작성(post-hoc affirmative rewriting) 또한 밀도를 크게 줄였으나, 재작성은 인간의 기준치를 넘어 과잉 수정하는 경향이 있었다.

의의 및 주장
본 논문은 고대 수사학과 신경망 통계학의 수렴이 에파노라시스가 인간의 인지와 통계적 모델 모두가 향하는 하나의 "끌개(attractor)"로서, 언어 자체의 발현된 구조임을 시사한다고 주장한다. 그러나 모델에 의한 통제되지 않은 재생산은 인공성을 드러내는 "수사적 지문(rhetorical fingerprint)"을 만든다.

본 논문의 주요 기여는 이를 제거해야 할 결함이 아닌 조정 문제로 보는 관점의 전환이다. 논문은 다음과 같이 주장한다:

과도한 사용은 근본적인 생성 능력의 한계가 아니라, 훈련과 정렬에 의해 유도되는 장르 특이적 현상이며 측정 가능한 현상이다.
경량 LoRA 어댑터는 모델의 수사적 스타일을 특정 장르의 인간 기준에 맞게 "다이얼"처럼 조절할 수 있는 실용적이고 확장 가능한 솔루션을 제공한다.
궁극적인 위험은 기계가 인간처럼 쓰는 것이 아니라, 인간이 기계처럼 쓰기 시작하는 것, 즉 기계의 기본 설정인 미조정된 수사적 습관을 채택하게 되는 것이다.

한축(Limitations)
본 논문은 연구 결과가 작은 표본 크기와 다중 비교에 대한 보정되지 않은 p-값을 가진 파일럿 규모의 증거에 기반하고 있음을 명시적으로 밝힌다. RLHF와의 인과 관계는 직접적인 베이스 모델 대비 정렬 모델의 비교보다는 기존 문헌에 근거한 추론적 결론이다. 또한, 훈련된 어댑터는 7B 오픈 모델에서 시연되었으며, 프런티어 모델로의 전이 가능성은 향후 과제로 남아 있다. 마지막으로, 내용 충실도 검사는 엄격한 측정보다는 비형식적 검사를 통해 이루어졌다.