💻 computer science

Lightweight Semantic Embeddings Enable Redundancy-Sensitive Knowledge Graph Construction for LLM-Based Document Processing

이 논문은 경량화된 시맨틱 임베딩을 활용하여 중복되는 문서 섹션을 제거하고 그래프 엔티티를 클러스터링함으로써, 높은 검색 품질을 유지하면서도 지식 그래프 구축을 위한 LLM 토큰 소비와 지연 시간을 크게 줄이는 ML 증강 파이프라인인 AMODD를 소개한다.

원저자: Sedar Olmez, Maxim Smilovitskiy, Koichi Yokota

게시일 2026-09-11

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Sedar Olmez, Maxim Smilovitskiy, Koichi Yokota

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

인공지능의 세계에는 방대한 양의 정보를 이해하려는 욕구와 컴퓨팅 능력의 실질적인 한계 사이의 점점 커지는 긴장이 존재합니다. 인간의 언어를 읽고 쓸 수 있는 정교한 소프트웨어인 대규모 언어 모델은 종-종 무질서하고 구조화되지 않은 문서를 조직화된 지식 그래프로 변換하는 데 사용됩니다. 지식 그래프를 사실들의 구조화된 지도라고 생각해보십시오. 여기서는 특정 정보 조각들이 서로 어떻게 연관되어 있는지를 보여주기 위해 서로 연결되어 있습니다. 이는 규제나 기술 표준이 수백 페이지에 달할 수 있는 에너지나 법률과 같은 산업 분야에서 매우 유용합니다. 그러나 이러한 문서에 반복되는 내용이 포함되어 있을 때 중대한 문제가 발생합니다. 기술 매뉴얼이나 법전은 여러 섹션에 걸쳐 동일한 규칙이나 정의를 약간씩 다른 단어로 재진술하는 경우가 많습니다. 컴퓨터가 이러한 문서를 처리하려고 시도할 때, 컴퓨터는 종종 모든 섹션을 고유한 퍼즐로 취급하여, 비싼 AI가 동일한 핵심 아이디어를 반복해서 분석하도록 요청하게 됩니다. 이러한 방식은 느릴 뿐만 아니라, AI 시스템을 사용하는 비용이 처리하는 텍스트의 양과 직접적으로 연결되어 있기 때문에 경제적으로도 큰 부담이 됩니다.

후지쯔 리서치 오브 유럽(Fujitsu Research of Europe)의 연구원들은 이러한 비효율성을 해결하기 위해 더 똑똑한 지식 지도 구축 방법을 개발하며 이 문제를 해결하고자 했습니다. 그들은 AMODD(Automated Mapping of Data Definitions, 데이터 정의 자동 매핑)라고 불리는 시스템을 개발하고 여기에 새로운 지능 계층을 추가했습니다. 이 향상된 시스템은 문서를 무작정 모든 페이지를 처리하는 대신, 먼저 가벼운 도구를 사용하여 텍스트를 읽고 그 의미를 이해합니다. 이 도구는 텍씨의 의미를 파악하는 빠른 스캐너처럼 작동하여, 두 개의 서로 다른 섹션이 비록 다른 단어를 사용하더라도 실제로는 같은 내용을 말하고 있다는 것을 인식할 수 있습니다. 주요 AI가 해당 부분을 보기 전에 이러한 유사 중복 항목들을 식별함으로써, 시스템은 중복된 작업을 통째로 건너뛸 수 있습니다. 그런 다음 시스템은 고유한 섹션만을 처리하여 사실을 추출하고, 표현 방식이 다르더라도 유사한 사실들을 하나로 그룹화합니다. 마지막으로, 사람이 문서에 대해 질문하면 시스템은 단순히 정확한 키워드를 일치시키는 것이 아니라 단어의 의미를 바탕으로 답을 찾습니다.

이 접근 방식이 실제로 효과가 있는지 테스트하기 위해, 연구팀은 수소 에너지 규제와 관련된 일련의 합성 문서를 만들었습니다. 그들은 세 가지 버전의 문서를 설계했습니다: 반복이 거의 없는 짧은 문서, 일부 반복된 섹션이 있는 중간 길이의 문서, 그리고 중복이 심한 긴 문서입니다. 그런 다음 동일한 문서들을 두 가지 서로 다른 파이프라인을 통해 실행했습니다. 첫 번째는 모든 섹션을 독립적으로 처리하는 표준 방식이었고, 두 번째는 의미 스캐닝 계층이 장착된 새로운 향상된 방식이었습니다. 결과는 문서에 포함된 반복 정도에 따라 명확한 패턴을 보여주었습니다. 반복이 없는 짧은 문서의 경우, 새로운 시스템은 중복을 찾기 위한 추가 단계를 수행해야 했기 때문에 약간 더 느렸습니다. 그러나 문서가 더 반복적일수록 새로운 시스템은 빛을 발하기 시작했습니다. 중간 정도의 반복이 있는 중간 길이의 문서에서, 새로운 방식은 AI 호출 횟수를 거의 58% 줄였고, AI가 처리하는 총 텍스트 양을 56.7% 절감했습니다. 중복이 심한 긴 문서에서는 그 절감 효과가 더욱 극적이어서, AI 호출을 85.4% 줄였고 텍스트 볼륨 처리를 84.9% 줄였습니다.

단순히 돈과 시간을 아끼는 것을 넘어, 연구원들은 이러한 효율성이 중요한 정보의 손실로 이어지지 않도록 주의를 기울였습니다. 그들은 최종 지식 그래프에 담긴 사실, 즉 '트리플(triples)'의 수를 측정했습니다. 그들은 새로운 시스템이 반복적인 문서에서 더 작은 그래프를 생성했지만, 이는 고유한 사실을 버렸기 때문이 아니라는 것을 발견했습니다. 오히려 더 작은 크기는 기존 시스템이 유지했던 동일한 사실의 중복 복사본들을 제거한 직접적인 결과였습니다. 새로운 시스템은 노이즈를 제거하면서도 핵심 지식은 성공적으로 보존했습니다. 나아가, 시스템이 질문에 얼마나 잘 답하는지 테스트했을 때, 새로운 방식이 더 우수하다는 것이 증명되었습니다. "이 문서는 무엇에 관한 것인가?"와 같은 포괄적인 질문을 받았을 때, 의미를 이해하는 새로운 시스템은 질문이 텍스트와 정확히 일치하는 단어를 사용하지 않더라도 관련 사실을 훨씬 더 효과적으로 검색할 수 있었습니다.

이 연구는 이러한 가벼운 추가 요소가 시스템이 문서를 다루는 방식을 변화시킨다고 결론짓습니다. 비용과 시간이 문서의 전체 길이에 따라 선형적으로 증가하는 대신, 새로운 접근 방식은 그 안에 담긴 고유한 정보의 양에 따라 결정됩니다. 만약 문서가 반복되는 구절들로 가득 차 있다면, 시스템은 이를 인식하고 그들에 대해 자원을 낭비하는 것을 멈춥니다. 연구원들은 이 방법이 모든 상황에 대한 마법 같은 해결책은 아니라고 언급했습니다. 즉, 건너뛸 것이 없는 짧고 고유한 문서에는 아무런 이점이 없습니다. 하지만 많은 산업 분야에서 흔히 볼 수 있는 길고 반복적인 기술 및 규제 텍스트의 경우, 이 접근 방식은 최종 지식 지도의 품질을 희생하지 않으면서도 인공지능을 더 효율적이고 저렴하게 만드는 실질적인 방법을 제공합니다.

기술 요약: 중복 민감형 지식 그래프 구축을 위한 경량 시맨틱 임베딩

문제 정의
대규모 언어 모델(LLM)을 사용하여 길고, 이질적이며, 부분적으로 중복된 기술 문서로부터 지식 그래프(KG)를 구축하는 것은 상당한 운영 비용 문제를 야기한다. 자동 데이터 정의 매핑(AMODD)과 같은 기존 파이프라인은 일반적으로 문서 섹션을 독립적으로 처리한다. 이러한 설계는 계산 비용(토큰 소비, LLM 호출 횟수 및 지연 시간)이 고유한 시맨틱 콘텐츠의 양이 아니라 문서 길이에 따라 선형적으로 증가하게 만든다. 규제 준수나 기술 표준화와 같이 조항이나 요구 사항이 빈번하게 반복되거나 의역되는 도메인에서, 이러한 방식은 동일한 사실을 중복 추출하게 하여 결과물인 그래프의 품질을 개선하지 못한 채 불필요한 재정적, 계산적 비용을 발생시킨다.

방법론
본 논문은 KG 구축을 "문서 길이 민감형"이 아닌 "중복 민감형"으로 만들기 위해 경량 시맨틱 임베딩 레이어를 통합하여 AMODD 파이프라인을 ML 증강 방식으로 확장할 것을 제안한다. 이 레이어는 로컬에 배포된 컴팩트한 문장 트랜스포머 모델(all-MiniLM-L6-v2)을 활용하여 텍스트를 공유 밀집 벡터 공간으로 매핑한다. 방법론은 세 가지 뚜렷한 메커니즘을 통해 작동한다:

LLM 전 단계 섹션 중복 제거(Pre-LLM Section Deduplication): LLM 호출 전에 시스템은 모든 문서 섹션에 대한 임베딩 배치를 계산하고 $n \times n$ 코사인 유사도 행렬을 산출한다. 그리디(greedy) 방식의 문서 순서 패스를 통해 임계값( $\tau_{sec}$ )을 기준으로 근사 중복 섹션을 식별한다. 중복된 섹션은 완전히 건너뛰며, 해당 섹션의 토픽과 트리플(triple)은 매칭된 정준(canonical) 섹션으로부터 상속받고 페이지 출처(provenance)만 원래 위치를 반영하여 업데이트한다. 이는 중복된 콘텐츠에 대한 토픽 식별 및 트리플 추출 LLM 호출을 억제한다.
LLM 후 단계 트리플 클러스터링(Post-LLM Triple Clustering): 추출 후, 파이프라인은 추출된 트리플의 텍text 구성 요소(주어, 관계, 목적어)를 임베딩한다. 텍스트의 벡터 유사도가 임계값( $\tau_{triple}$ )을 초과하면 시맨틱하게 동일한 엔티티와 관계를 병합한다. 각 클러스터에 대해 정준 대표값(가장 짧은 표면 형태)이 선택되며, 이를 통해 어휘적 문자열 매칭이 놓치기 쉬운 동의어 확산을 줄인다.
시맨틱 RAG 검색(Semantic RAG Retrieval): 다운스트림 검색 증강 생성(RAG)을 위해, 시스템은 키워드 중첩 점수를 사전 구축된 트리플 임베딩 인덱스에 대한 코사인 유사도 순위 지정으로 대체한다. 이를 통해 쿼리 어휘가 추출된 텍스트와 달라지더라도 시맨틱하게 관련 있는 트리플을 검색할 수 있으며, 트리플의 중요도 라벨에 기반한 가산 점수가 적용된다.

주요 기여
본 연구의 주요 기여는 임베딩을 단순한 검색 메커니즘이 아니라 LLM 호출에 대한 운영 제어 레이어로 활용하는 파이프라인 수준의 설계이다. 본 연구는 다음을 입증한다:

임베딩이 중복된 LLM 호출을 방지함으로써 비용 제어 메커니즘 역할을 할 수 있다.
동일한 임베딩 레이어가 그래프 구조를 정교화(클러스터링을 통해)하는 동시에 검색 충실도(시맨틱 매칭을 통해)를 개선할 수 있다.
이 접근 방식은 KG 구축의 스케일링 동작을 총 섹션 수 의존성에서 시맨틱하게 구별되는 섹션 수 의존성으로 전환한다.

실험 결과
저자들은 세 가지 중복 수준(낮음(D1), 중간(D2), 높음(D3))을 가진 합성 수소 산업 규제 문서를 사용하여 통제된 A/B 실험을 수행하였다.

효율성 (RQ1):
- 비중복(D1): 임베딩 레이어가 토큰, 호출, 지연 시간 측면에서 6~10%의 오버헤드를 도입하였으며, 이는 중복이 존재하지 않을 때는 이점이 없음을 확인시켜 준다.
- 중간 중복(D2): ML 증강 파이프라인은 토큰 소비를 56.7%, LLM 호출을 57.7% 감소시켰으며, 실제 실행 시간(wall-clock latency)을 29.9% 단축했다.
- 높은 중복(D3): 감소 폭이 더욱 두드러졌다: 토큰은 84.9% 적게 사용되었고, 호출은 85.4% 감소했으며, 지연 시간은 58.1% 낮아졌다.
- 스케일링: 베이스라인 LLM 호출 횟수는 약 69회(D2)에서 약 205회(D3)로 증가한 반면, ML 증강 파이프라인은 거의 일정하게 유지(~29회)되어 총 문서 길이로부터의 독립성을 보여주었다.
품질 및 보존 (RQ2):
- 그래프 크기: ML 조건에서의 최종 트리플 수는 모든 문서에서 중복 조정된 하한선(Baseline Triple Count $\times$ (1 - Skip Rate)) 이상을 유지했다. D3의 경우, ML 파이프라인은 46.8개의 트리플을 유지하여 이론적 하한선인 21.8개의 두 배 이상을 기록하였으며, 이는 공격적인 중복 제거에도 불구하고 고유한 시맨틱 콘텐츠가 보존되었음을 나타낸다.
- 검색 커버리지: 시맨틱 검색은 광범위한 쿼리(예: "이 문서는 무엇에 관한 것인가?")에 대해 키워드 중첩 검색보다 유의미하게 우수한 성능을 보였다. 커버리지 개선 폭은 +0.481(D1)에서 +0.553(D3) 사이였으며, 이는 시맨틱 매칭이 정확한 어휘적 중첩이 없는 관련 트리플을 검색함으로써 줄어든 그래프 크기를 효과적으로 보완함을 입증한다.

의의 및 주장
본 논문은 경량 시맨틱 임베딩이 LLM 기반 지식 그래프 구축을 중복 민감형으로 만들 수 있다고 주장한다. 그 의의는 비용 모델의 전환에 있다. 모든 섹션에 대해 비용을 지불하는 대신, 시스템은 고유한 시맨틱 콘텐츠에 대해서만 비용을 지불한다. 저자들은 이것이 새로운 임베딩 모델이나 LLM 추출의 대체제가 아니라, 고유한 지식의 손실 없이 구축 비용을 줄이면서 검색 커버리지를 유지하거나 개선하는 실용적인 파이프라인 수준의 설계임을 강조한다. 본 연구는 이 접근 방식이 길거나 반복적인 문서 컬렉션에 가장 유익하며, 불균형한 지식 손실 없이 상당한 비용 절감(예: D3 유형의 문서 1,000개당 약 $4,780)을 제공한다고 결론짓는다.

유사한 논문