LangFIR: Discovering Sparse Language-Specific Features from Monolingual Data for Language Steering

당신이 거의 모든 도서관의 책을 읽은, 모든 언어를 동시에 구사하는 초지능 로봇과 대화하고 있다고 상상해 보세요. 가끔 당신이 프랑스어로 이야기해 달라고 요청하면, 로봇은 실수로 스페인어를 말하거나 심지어 두 언어를 섞어서 말하기도 합니다. 이것은 마치 거대한 배를 조종하려는 것과 비슷합니다. 로봇은 너무 강력해서 한 번에 여러 방향으로 가고 싶어 합니다. 과학자들은 로봇의 뇌를 부드럽게 밀어 넣어 로봇이 경로를 유지하고 당신이 원하는 언어만 말하도록 하는 방법을 알아내려고 노력 중입니다. 그들은 로봇의 "뇌"가 단순히 하나의 커다란 생각 덩어리가 아니라, 아주 작고 특정한 스위치(뉴런이라고 불리는)와 숨겨진 통로들로 이루어져 있다는 것을 발견했습니다. "프랑스다움"이나 "스페인다움"을 제어하는 정확한 스위치를 찾아낸다면, 그 스위치를 켜서 로봇이 올바른 언어를 말하도록 강제할 수 있습니다. 하지만 문제가 하나 있습니다. 보통 이 스위치들을 찾으려면 여러 언어의 방대한 책 도서관을 나란히 놓고 비교해야 하는데, 이는 매우 어렵습니다.

이 논문은 LangFIR(Random-token Filtering을 통한 언어 특징 식별)이라는 영리한 새로운 기술을 소개합니다. 연구진은 "프랑스 스위치"를 찾기 위해 프랑스어 책과 영어 책을 비교하는 거대한 도서관이 실제로 필요하지 않다는 것을 깨달았습니다. 대신, 매우 이상한 재료를 사용할 수 있었습니다. 바로 '횡설수설(gibberish)'입니다. 그들은 타겟 언어(예: 프랑스어)의 문장 몇 개를 가져와서 무작위적이고 의미 없는 기호들의 시퀀스(예: "ß!4shan ?áTq7")와 섞었습니다. 이들을 로봇에게 입력했을 때, 연구진은 흥ote로운 점을 발견했습니다. 로봇의 뇌가 프랑스어 문장과 횡설수설 모두에 대해 활성화된다는 것이었습니다. 이것들은 실제 언어가 아니라 구두점이나 무작위적인 모양에 반응하는 "지루한" 스위치들이었습니다. 이 횡설수설을 필터로 사용하여 이러한 지루한 스위치들을 빼버림으로써, 그들은 오직 프랑스어에만 반응하는 아주 작고 매우 특정한 스위치 세트를 남겼습니다. 그들은 이 스위치들이 믿기지 않을 정도로 희소하며(매우 적은 수의 스위치), 로봇의 뇌의 후반부 레이어에 주로 위치한다는 것을 발견했습니다. 이 특정 스위치들을 사용하여 로봇을 조종했을 때, 그것은 거대한 병렬 라이브러리를 사용하는 방법보다 더 효과적이었으며, 이는 아주 적은 양의 단일 언어 데이터와 약간의 횡설수설만으로도 다국어 로봇을 제어할 수 있음을 증명했습니다.

횡설수설 필터의 이야기

대규모 언어 모델(LLM)을 거대한 다국어 오케스트라라고 생각해 보세요. 당신이 이탈리아 노래를 연주해 달라고 요청하면, 로봇은 이탈리아 바이올린을 집어 들고 연주를 시작해야 합니다. 하지만 때때로 로봇은 혼란에 빠져 독일 튜바나 프랑스 플루트를 연주하기 시작합니다. 오랫동안 과학자들은 오케스트라가 오직 이탈리아 음악만을 연주하도록 가르치려면, 모든 이탈리아 음표를 독일이나 프랑스의 대응 음표 옆에 나란히 놓은 거대한 악보가 필요하다고 생각했습니다. 이것을 "병렬 데이터(parallel data)"라고 부르며, 전 세계의 모든 언어에 대해 이를 수집하는 것은 비용이 많이 들고 어렵습니다.

이 논문의 저자인 Wong, Sajjad, 그리고 Siddique는 다른 질문을 던졌습니다. 만약 우리가 병렬 악보가 필요 없다면 어떨까? 만약 우리가 오케스트라가 이탈리아 음악을 연주하는 소리와 그 후... 정적(static noise)을 연주하는 소리를 차례로 들음으로써 이탈리아 바이올린을 찾을 수 있다면 어떨까?

문제점: 너무 많은 노이즈 스위치

로봇의 뇌 내부에는 텍ک스트를 처리할 때 활성화되는 수백만 개의 작은 "특징" 또는 스위치가 있습니다. 로봇이 포르투갈어 문장을 읽을 때 수백 개의 스로 스위치가 켜집니다. 하지만 문제는 여기 있습니다. 그중 많은 스위치는 실제로 "포르투갈어"를 생각하고 있는 것이 아닙니다. 그들은 마침표, 쉼표, 공백 또는 문장의 일반적인 형태와 같이 모든 언어에서 발생하는 것들에 반응하고 있을 뿐입니다. 만약 당신이 오케스트라에서 "이탈리아" 연주자를 찾으려 하는데, 누군가 박수를 칠 때마다 연주하는 사람까지 함께 골라낸다면 어떻게 될까요? 당신은 아주 크고 엉망인 연주자 명단을 갖게 될 것이고, 누가 실제로 이탈리아 음악을 연주하는지 알 수 없게 될 것입니다.

이전 방법들은 포르투갈어를 영어와 나란히 비교하여 무엇이 다른지 확인함으로써 이 문제를 해결하려 했습니다. 하지만 저자들은 "노이즈" 연주자(모두를 위해 박수를 치는 사람들)를 훨씬 더 쉽게 찾을 수 있다는 점을 발견했습니다. 만약 의미는 없지만 텍스트처럼 보이는 무작위적이고 의미 없는 토큰(횡설수설)의 시퀀스를 재생한다면, "박수 치는 사람들"은 여전히 활성화될 것입니다. 하지만 "이탈리아 연주자들"은 활성화되지 않을 것입니다. 왜냐하면 횡설수설은 이탈리아어가 아니기 때문입니다.

해결책: LangFIR

연구팀은 정확히 이 작업을 수행하기 위해 LangFIR이라는 방법을 만들었습니다. 단계별 과정은 다음과 같습니다:

1. 설정: 그들은 타겟 언어의 실제 문장 소량(예: 폴란드어 문장 100개)을 가져왔습니다.
2. 횡설수설: 각 폴란드어 문장에 대해, 로봇의 어휘에서 추출한 무작위 토큰 시퀀스(예: "X7#9@!")를 생성했습니다. 이것들은 의미는 없지만 텍스트처럼 보입니다.
3. 스캔: 폴란드어 문장과 횡설수설을 모두 로봇에게 입력하고 뇌의 어떤 스위치가 켜지는지 관찰했습니다.
4. 필터: 폴란드어와 횡설수설 모두에서 켜진 스위치들을 찾았습니다. 이들은 "언어 불가지론적(language-agnostic)" 스위치(박수 치는 사람들)였습니다. 그들은 이들을 버렸습니다.
5. 결과: 남은 것은 무엇일까요? 오직 폴란드어에만 반응하는 아주 작고 매우 희소한 스위치 세트였습니다.

결과는 놀라울 정도로 깔끔했습니다. 대부분의 언어에 대해, 그들은 언어의 정체성을 진정으로 책임지는 수천 개의 스위치 중 단 5개 미만의 특정 스위치를 찾아냈습니다. 이는 마치 "폴란드" 섹션 전체가 단 네 명의 특정 연주자에 의해 제어되는 것과 같습니다.

왜 중요한가: "충분함"의 힘

이 발견의 가장 흥激한 부분은 이 방법이 얼마나 적은 데이터를 필요로 하는가 하는 점입니다. 연구진은 세 가지 서로 다른 로봇 뇌(Gemma 3 1B, Gemma 3 4B, Llama 3.1 8B)와 12개의 서로 다른 언어를 대상으로 테스트했습니다. 그들은 이 스위치들을 찾기 위해 타겟 언어의 약 100개 문장만 있으면 된다는 것을 발견했습니다. 더 나아가, 이 방법은 단 10개의 문장만으로도 잘 작동했습니다.

이 작은 스위치 세트를 사용하여 로봇을 조정했을 때, 결과는 인상적이었습니다. 로봇이 어떤 언어인지 알려주지 않은 상태에서 영어를 타겟 언어로 번역해야 하는 테스트에서, LangFIR은 모든 모델에 걸쳐 가장 높은 평균 점수(정확도와 번역 품질의 조합)를 달성했습니다.

• 단일 언어 데이터만을 사용한 가장 강력한 이전 방법보다 최대 4.7배 더 뛰어난 성과를 보였습니다.
• 심지어 엄청난 양의 병렬 라이브러리(영어를 타겟 언어와 나란히 비교하는 방식)를 사용한 방법들보다도 상당한 차이로 앞섰습니다.

"절제(Ablation)" 테스트: 증명하기

이 스위치들이 실제로 역할을 하고 있는지, 아니면 단순히 운이 좋았던 것인지 확인하기 위해 연구진은 "방향성 절제(directional ablation)"를 수행했습니다. 이것은 전문 용어로, 로봇이 폴란드어를 말하려고 할 때 "폴란드" 스위치들을 꺼버리는(0으로 만드는) 것을 의미합니다.

• 결과: 이 특정 스치들을 껐을 때, 로봇의 폴란드어 구사 능력은 급락했지만, 다른 언어(독일어나 프랑스어 등)를 말하는 능력은 정확히 그대로 유지되었습니다.
• 위치: 또한 그들은 이 스위치들이 주로 로봇 뇌의 후반부 레이어에 위치한다는 것을 발견했습니다. 이는 로봇이 먼저 일반적인 개념을 처리한 다음 마지막에 구체적인 언어를 결정한다는 기존의 아이디어를 확인시켜 줍니다.

한 가지 이상한 예외: 영어

패턴에 딱 들어맞지 않는 한 가지 언어가 있었습니다. 바로 영어입니다. "영어" 스위치를 찾으려고 했을 때, 매우 적은 수의 스위치를 발견했으며, 이를 꺼도 로봇의 행동에 큰 변화가 없었습니다. 저자들은 이것이 영어 모델의 "기본(default)" 언어이기 때문이라고 제안합니다. 로봇의 뇌는 영어와 너무 복게 얽혀 있어서 일반적인 개념들이 영어 단어와 섞여 있으며, 이로 인해 순수한 "영어" 스위치를 분리하기 어렵습니다. 이는 이미 99%가 물인 컵에서 "물" 스위치를 찾는 것과 같습니다. 명확한 스위치를 뽑아낼 수 없습니다.

이것이 미래에 의미하는 바

이 논문은 거대한 로봇 내의 언어 정체성이 거대하고 엉망인 구름 형태가 아님을 시사합니다. 대신, 언어 정체성은 매우 작고 희소하며 해석 가능한 방향에 국한되어 있습니다. 이는 우리가 로봇을 제어하기 위해 수백만 개의 병렬 문장을 수집할 필요가 없음을 의미합니다. 우리는 단지 타겟 언어의 아주 적은 양과 약간의 무작위 소음만을 사용하여 그것을 조종할 수 있는 정확한 경로를 찾을 수 있습니다.

저자들은 자신들의 연구 결과가 특정 모델(100억 파라미터 미만)과 주로 중·고자원 언어에 기반하고 있다는 점을 주의 깊게 언급합니다. 그들은 이 방법이 세상의 모든 언어나 가장 큰 규모의 모델에도 적용된다고 주장하지 않지만, 이 방법은 우리가 생각했던 것보다 훨씬 적은 데이터로도 이러한 복잡한 시스템을 제어할 수 있다는 강력한 암시를 줍니다.

결국, LangFIR은 때때로 신호를 찾기 위해 더 많은 소음이 필요한 것이 아니라, 그것을 걸러낼 수 있는 올바른 종류의 소음이 필요하다는 것을 보여줍니다. 횡설수설을 사용하여 경로를 확보함으로써, 그들은 로봇의 언어를 향한 숨겨진 열쇠를 찾아냈으며, 거대한 다국어 뇌 속에서도 "프랑스어"나 "폴란드어"로 가는 스위치는 그저 눌리기를 기다리고 있는 작고 외로운 버튼일 뿐이라는 것을 증명했습니다.