InfiniRetri: Attention-Guided Retrieval for Enhancing LLMs' Long-Context Processing
InfiniRetri는 외부 임베딩 모델이나 비용이 많이 드는 재학습 없이도, 사전 학습된 LLM의 내재된 어텐션 메커니즘을 활용하여 임의의 길이의 입력으로부터 관련 컨텍스트를 반복적으로 추출함으로써 효율적이고 매우 정확한 롱 컨텍스트 검색 및 추론을 가능하게 하는 훈련 불필요(training-free) 방식입니다.