LLLMs: A Data-Driven Survey of Evolving Research on Limitations of Large Language Models

이 논문은 2022 년부터 2025 년 초까지의 25 만 건의 학술 논문을 분석하여 대규모 언어 모델 (LLM) 의 한계 연구 동향을 데이터 기반으로 체계적으로 조사하고, 추론과 일반화, 환각, 편향, 보안 등 주요 연구 주제의 변화와 성장 추세를 제시합니다.

핵심

거대 언어 모델 (LLM) 의 '결함'에 대한 거대한 탐사: 쉬운 한국어 설명

이 논문은 최근 폭발적으로 늘어나고 있는 **거대 언어 모델 (LLM, 예: 챗GPT)**에 대한 연구들을 분석한 '데이터 기반 탐사 보고서'입니다. 연구자들은 단순히 "AI 가 얼마나 똑똑한가?"를 보는 것이 아니라, **"AI 가 어디서, 왜 실수하는가?"**에 초점을 맞춰 2022 년부터 2025 년 초까지의 연구 동향을 파악했습니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드리겠습니다.

---

1. 왜 이 연구를 했을까요? (배경)

상상해 보세요. 새로운 초고성능 로봇이 세상에 등장했습니다. 사람들은 이 로봇이 요리도 하고, 글을 쓰고, 코딩도 하는 걸 보며 환호합니다. 하지만 로봇이 가끔은 엉뚱한 소리를 하거나 (할루시네이션), 편견을 가지고 있거나 (편향), 해킹당할 수도 있다는 우려가 커집니다.

이 논문은 **"이 로봇이 실수하는 이유를 연구하는 학자들이 얼마나 많아졌고, 어떤 실수들을 가장 많이 걱정하는지"**를 파악하기 위해 작성되었습니다. 기존의 연구들은 로봇의 '능력'만 칭찬했지만, 이제는 '결함'을 고치는 연구가 얼마나 중요한지 확인하려는 것입니다.

2. 어떻게 연구를 했나요? (방법론)

연구자들은 25 만 개가 넘는 논문 (ACL, arXiv 등) 을 모았습니다. 이는 마치 거대한 도서관에서 책 25 만 권을 뒤지는 것과 같습니다.

• 키워드 필터링: "로봇", "실수", "한계" 같은 단어가 들어간 책만 골라냈습니다.
• AI 가 AI 를 분석: 사람이 일일이 1 만 4 천여 편의 논문을 읽을 수는 없었기에, 더 똑똑한 AI를 시켜서 "이 논문이 AI 의 결함에 대해 얼마나 깊이 다루고 있는가?"를 점수 (0~5 점) 로 매기게 했습니다.
• 주제 분류: 점수가 높은 논문들을 묶어서 어떤 주제들이 가장 핫한지 찾아냈습니다. (예: "추론", "할루시네이션", "보안" 등)

3. 주요 발견 사항 (결과)

① '결함 연구'가 '능력 연구'보다 더 빨리 성장했습니다!

2022 년부터 2025 년까지, AI 연구 전체가 58 배 늘어난 사이, **AI 의 결함을 연구하는 논문은 1228 배나 폭증**했습니다.

• 비유: 처음에는 "이 로봇이 얼마나 잘 먹는지"만 관심 있었지만, 이제는 "이 로봇이 왜 독극물을 먹으면 죽는지"를 연구하는 사람이 훨씬 더 많아진 것입니다. 2025 년에는 AI 관련 논문 3 개 중 1 개가 '결함'에 대한 이야기입니다.

② 가장 많이 연구되는 결함은 무엇일까요?

연구자들이 가장 걱정하는 순서는 다음과 같습니다.

1. 추론 (Reasoning): "논리적으로 생각하기"를 못 하는 문제. (예: 수학 문제를 풀거나 복잡한 상황을 이해하지 못함)
2. 일반화 (Generalization): 배운 것을 새로운 상황에 적용하지 못하는 문제.
3. 할루시네이션 (Hallucination): 가장 유명한 문제. 사실과 다른 내용을 마치 진실인 것처럼 꾸며 말하는 것. (예: 존재하지 않는 책을 인용함)
4. 편향 (Bias) & 보안 (Security): 성차별적인 말을 하거나, 해커에게 악용당할 위험.

③ 연구소 (ACL) 와 실험실 (arXiv) 의 차이

• ACL (전통적인 언어학/컴퓨터 과학 학회): 연구 주제가 비교적 안정적입니다. 여전히 '추론'과 '일반화'가 핵심입니다.
• arXiv (빠르게 올라오는 프리프린트): 주제가 훨씬 다양하고 급변합니다. 최근에는 '보안 위험', '모델의 가치 정렬 (Alignment)', '지식 편집', '멀티모달 (이미지+텍스트)' 같은 주제가 급격히 늘었습니다.
• 비유: ACL 은 전통적인 대학 도서관처럼 정돈된 주제를 다루고, arXiv 는 최신 뉴스 속보처럼 '안전'과 '통제'에 대한 새로운 우려들이 빠르게 쏟아져 나오는 곳입니다.

④ 시계열 변화: 2023 년 중반이 분수령

2023 년 초, 챗GPT 가 세상에 나오기 전까지는 연구 주제가 들쑥날쑥했습니다. 하지만 2023 년 중반 이후부터는 연구 흐름이 안정화되었습니다.

• 초기에는 '편향'이나 '사회적 영향'에 대한 논의가 많았으나, 시간이 지나면서 '보안', '할루시네이션', '긴 문맥 처리' 같은 기술적이고 실질적인 문제들이 더 중요해졌습니다.
• 비유: 처음에는 "로봇이 사람처럼 말하니까 무섭지 않을까?"라는 막연한 두려움이 있었지만, 이제는 "로봇이 병원 진료할 때 실수하지 않게 하려면 어떻게 해야 할까?"처럼 구체적인 해결책을 찾는 단계로 넘어갔습니다.

4. 결론: 이 연구가 우리에게 주는 메시지

이 논문은 **"AI 가 완벽해지려면, 그 결함을 정확히 이해하고 연구하는 것이 필수적이다"**라고 말합니다.

• 과거: AI 가 할 수 있는 일에 집중했다.
• 현재: AI 가 못 하는 일과 위험한 일을 연구하는 것이 더 중요해졌다.

연구자들은 이제 AI 를 맹신하기보다, 그 **한계점 (Limitation)**을 정확히 파악하여 의료, 법률, 금융 같은 중요한 분야에서 안전하게 사용할 수 있는 길을 모색하고 있습니다. 마치 비행기를 만들 때 "어디서 추락할 수 있는지"를 연구하는 것이 "얼마나 빠르게 날 수 있는지" 연구하는 것만큼 중요해진 것과 같습니다.

한 줄 요약:

"AI 가 점점 똑똑해지고 있지만, 연구자들은 이제 그 실수하는 습관을 낱낱이 파헤쳐 안전한 미래를 준비하고 있습니다."

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

대형 언어 모델 (LLM) 의 연구와 배포가 급격히 증가함에 따라, LLM 의 한계 (Limitations) 에 대한 관심도 높아지고 있습니다. 하지만 기존 연구들은 다음과 같은 한계를 가지고 있었습니다:

• 편향된 초점: 기존 조사들은 특정 한계 (예: 추론, 환각 현상) 나 특정 도메인에 국한되어 있어, LLM 한계 연구의 전체적인 지형을 파악하기 어려웠습니다.
• 수동적 접근: 매년 수천 편의 논문이 출판되는 방대한 규모를 전통적인 수동 문헌 검토 방식으로 최신화하여 분석하는 것은 현실적으로 불가능합니다.
• 데이터 부족: 2022 년 (ChatGPT 출시) 부터 현재까지의 LLM 한계 연구가 어떻게 진화해 왔는지에 대한 포괄적이고 정량적인 개요가 부재했습니다.

이 논문은 이러한 공백을 메우기 위해 2022 년부터 2025 년 초까지의 방대한 논문 코퍼스를 대상으로 데이터 기반의 자동화된 하향식 (bottom-up) 접근법을 통해 LLM 한계 연구의 동향을 분석하고자 합니다.

2. 방법론 (Methodology)

저자들은 25 만 편의 논문 (ACL 2022-2024, arXiv 2022-2025) 에서 LLM 한계 관련 논문을 식별하고 분류하기 위해 부분적으로 자동화된 체계적인 문헌 검토 파이프라인을 구축했습니다.

• 데이터 수집 및 필터링:

  • 초기 수집: ACL Anthology 와 arXiv 에서 총 245,835 편의 논문을 크롤링했습니다.
  • 키워드 필터링: TNT-KID 를 활용한 키워드 추출 및 로그-가능도 비율 (LLR) 분석을 통해 90 개의 관련 키워드를 도출하고, 이를 적용하여 64,110 편의 논문을 선별했습니다.
  • LLM 기반 분류: 선별된 논문의 초록을 LLM (GPT-4o, Llama-3.1-70b, Mistral-7B 등) 을 사용하여 0~5 점 척도로 한계 논의 깊이를 평가했습니다.
    • 검증: 445 편의 논문을 인간 전문가가 수동으로 라벨링한 골드 스탠다드 (Gold Standard) 를 구축하여 LLM 분류기의 정확도를 검증했습니다. (Llama-3.1-70b 가 인간 간 일치도 0.75 에 근접하는 0.74 의 가중 코헨 카파를 기록하여 가장 우수함).
    • 결과: 한계를 심층적으로 논의하는 논문 (점수 3~5) 14,648 편을 최종 분석 코퍼스로 선정했습니다.

• 클러스터링 및 주제 분석:

  • 이중 클러스터링 접근법: 방법론적 편향을 줄이고 결과의 견고성을 확보하기 위해 두 가지 서로 다른 클러스터링 기법을 적용하고 비교했습니다.
    1. HDBSCAN + BERTopic: 밀도 기반 단일 레이블 클러스터링.
    2. LlooM (Concept Induction): LLM 기반의 다중 레이블 클러스터링 (논문이 여러 주제에 속할 수 있음).
  • 검증: 두 방법 간의 주제 일치도 (Jaccard overlap, Kendall's Tau 등) 와 인간 전문가 평가를 통해 주요 주제의 안정성을 확인했습니다.

3. 주요 기여 (Key Contributions)

1. 대규모 데이터셋: LLM 한계 정보를 태깅한 14,648 편의 논문 초록 데이터셋을 공개했습니다.
2. 검증된 방법론: 인간 전문가 라벨링을 통해 검증된 LLM 기반 논문 주석 달기 및 분류 파이프라인을 제시했습니다.
3. 포괄적인 정량적 통찰: 2022 년부터 2025 년 초까지의 LLM 한계 연구 진화 과정을 처음으로 종합적으로 분석하고, 주요 트렌드와 주제별 변화를 정량적으로 제시했습니다.

4. 주요 결과 (Key Results)

A. 연구 성장 추이

• 급격한 성장: 2022 년부터 2025 년 사이 LLM 관련 논문의 비중은 ACL 에서 5 배 이상, arXiv 에서 8 배 이상 증가했습니다.
• 한계 연구의 가속화: LLM 한계 (LLLMs) 연구는 전체 LLM 연구보다 더 빠르게 성장하여, 2025 년 1 분기에는 LLM 논문의 30% 이상을 차지했습니다. 이는 연구 커뮤니티가 모델 개발뿐만 아니라 그 위험과 한계에 대한 비판적 성찰로 전환하고 있음을 시사합니다.

B. 주요 연구 주제 (Limitation Topics)

• 가장 많이 연구된 주제: **추론 (Reasoning)**이 가장 지배적인 주제였습니다. 이어 일반화 (Generalization), 환각 (Hallucination), 편향 (Bias), 보안 (Security) 순으로 중요하게 다뤄졌습니다.
• ACL vs arXiv 의 차이:
  • ACL: 주제 분포가 상대적으로 안정적이었습니다.
  • arXiv: 보안 위험 (Security Risks), 정렬 (Alignment), 지식 편집 (Knowledge Editing), 환각, 멀티모달리티 등 안전성과 제어 가능성 관련 주제의 비중이 급격히 증가하는 경향을 보였습니다.

C. 트렌드 변화 (2023 년 중반 전환점)

• 2023 년 Q2 이후의 안정화: ChatGPT 출시 직후의 초기 변동성이 사라지고, 주제별 트렌드가 안정화되거나 새로운 우려 (보안, 정렬 등) 가 급부상하는 패턴이 관찰되었습니다.
• 주요 상승 주제:
  • ACL: 긴 컨텍스트 처리 (Long Context), 보안 위험.
  • arXiv: 멀티모달리티, 보안 위험, 정렬 한계 (Alignment Limitations), 지식 편집.
• 주요 하강/안정 주제: 편향과 공정성 (Bias and Fairness) 은 arXiv 에서 감소세를 보였으며, 추론과 환각은 꾸준히 높은 비중을 유지했습니다.

D. 방법론적 비교

• HDBSCAN 과 LlooM 두 가지 방법은 추론, 환각, 보안 위험과 같은 주요 고빈도 주제와 전체적인 트렌드 패턴에서 높은 일치도를 보였습니다. 이는 연구 결과의 신뢰성을 뒷받침합니다. 다만, LlooM 은 다중 레이블 할당이 가능하여 더 세분화된 주제 (예: 프라이버시 위험, 신뢰성 등) 를 포착하는 데 유리했습니다.

5. 의의 및 결론 (Significance)

• 연구 성숙도의 지표: LLM 연구가 초기의 기술적 낙관주의에서 벗어나 모델의 한계, 안전성, 윤리적 문제를 체계적으로 분석하는 성숙한 단계로 진입하고 있음을 데이터로 증명했습니다.
• 미래 연구 방향 제시: 추론 능력의 한계, 멀티모달 환경에서의 새로운 취약점, 그리고 안전 정렬 (Safety Alignment) 의 중요성이 향후 연구의 핵심 과제로 부각됨을 시사합니다.
• 도구 및 리소스: 제공된 데이터셋과 방법론은 향후 LLM 한계 연구의 기준이 되거나, 새로운 자동화 문헌 분석 도구 개발의 기초가 될 수 있습니다.

이 논문은 단순한 주제 나열을 넘어, 데이터 기반의 자동화 기법을 활용하여 방대한 학술 지형을 정량적으로 매핑했다는 점에서 LLM 연구 동향 분석의 새로운 패러다임을 제시합니다.