UNREAL: 하나의 언어모델로 검색과 긴 문맥 처리를 통합하기

배경과 문제

현대 LLM은 관련 정보가 드문드문 흩어져 있는 문맥을 처리해야 하는 경우가 많다. 이때 증거 선택은 규모에 따라 완전히 다른 방식으로 이루어진다. 긴 문맥 규모에서는 선택이 암묵적이고 내부적이다. 모델이 전체 문맥을 받아 관련 없는 내용을 억누르며 답을 생성해야 하는데, 이는 별도의 검색기를 두지 않아도 된다는 장점이 있지만 방해 문단에 취약하고 전용 아키텍처와 효율화 기법, 긴 문맥 학습을 필요로 한다. 말뭉치 규모에서는 선택이 명시적이고 외부적이다. 별도의 검색기가 생성 전에 문단을 골라주는 RAG 파이프라인을 쓰는데, 이는 두 모델을 학습·서빙·정렬해야 하는 부담을 만든다.

두 접근법은 대안으로 연구되어 왔지만 실제로는 같은 작업, 즉 질의에 조건화된 후보 증거 선택이다. 다른 점은 규모뿐이다. 프롬프트 안의 수백 개 문단에서 말뭉치 안의 수백만 개 문단까지 범위가 달라질 뿐이다. 이 관찰은 두 접근법의 장점을 결합할 가능성을 시사한다. 선택을 내부화하면 증거가 그것을 사용할 모델의 표현 공간에서 순위화되고, 선택을 명시화하면 생성 중 방해 문단이 제거된다. 따라서 이 논문의 핵심 질문은 '하나의 사전학습된 LLM이 두 규모 모두에서 명시적으로 증거를 선택할 수 있는가'이다. 긍정적인 답은 검색과 긴 문맥 추론을 경쟁 시스템이 아니라 하나의 메커니즘의 두 규모로 만들 것이다.

기존 접근의 한계

기존 RAG는 증거 선택을 외부 검색기에 위임한다. 이 때문에 운영 파이프라인은 여러 모델을 유지해야 하고, 검색기와 생성기의 표현 공간이 달라 선택된 증거가 생성에 최적이 아닐 수 있다. 반대로 전체 문맥을 그대로 모델에 넣는 방식은 문맥이 길어질수록 방해 문단에 약해진다. NoLiMa 벤치마크에서 전체 문맥 추론의 정확도는 128K 토큰에서 1.0%까지 떨어졌고, LV-Eval에서도 문맥이 길어질수록 성능이 급격히 저하되었다.

이 논문과 가장 가까운 선행 연구는 INTRA이다. INTRA는 인코더-디코더 모델이 자신의 인코딩된 표현에서 직접 검색할 수 있음을 보였지만, 별도의 인코더와 교차 어텐션에 의존한다. 이는 오늘날 주류인 디코더 전용 LLM에 직접 적용할 수 없게 만든다. UNREAL은 이 제한을 제거하여 디코더 전용 모델의 내부 상태로부터 후보 문단을 인코딩하고 검색 질의를 도출한다. 또한 기존의 효율적 어텐션 기법들(랜드마크 어텐션, InfLLM, Quest, MoBA 등)은 토큰 블록을 선택하거나 요약하여 효율성을 높이지만, UNREAL은 검색 학습된 메커니즘으로 생성 전에 문단을 선택하여 LLM이 선택된 텍스트만 받도록 한다는 점에서 다르다.

연구방법을 단계별로

UNREAL은 세 가지 주요 구성 요소로 이루어진다. 첫째, 문단 임베딩이다. 디코더 전용 LLM은 별도의 인코더가 없으므로, UNREAL은 얼려둔 LLM 자체를 사용하여 각 말뭉치 문단을 독립적으로 인코딩한다. 각 문단에 대해 단일 중간 계층을 선택하고 그 계층의 토큰별 표현을 추출한다. 중간 계층이 최종 계층보다 더 풍부한 의미 표현을 담는 경우가 많다는 선행 연구에 따라, 개발 세트 성능에 기반해 계층을 고른다.

둘째, 잔차 스트림 질의이다. UNREAL은 학습 가능한 검색 토큰 여러 개를 질의 토큰 임베딩 뒤에 붙이고, BM25로 미리 뽑은 초기 문맥을 질의 앞에 덧붙인다. 검색 토큰을 마지막에 두면 인과 마스크 아래에서 그 상태가 질의와 초기 문맥 모두에 조건화된다. 그런 다음 각 계층의 검색 토큰 위치에서 잔차 스트림 상태를 읽어 계층별 질의 표현을 얻는다. 이 표현들을 학습된 계층 혼합 가중치로 결합하고, 각 문단과 MaxSim 연산으로 점수를 매긴다. MaxSim은 질의 벡터와 문단 벡터 사이의 최대 내적 합으로, 토큰 수준의 늦은 상호작용을 포착한다.

셋째, 점수 매기기와 생성이다. 점수가 가장 높은 n개 문단을 선택하고, 선택된 문단들을 질의와 함께 LLM 프롬프트에 넣어 답을 생성한다. INTRA와 달리 UNREAL은 선택된 문단을 생성 중에 다시 인코딩한다. 따라서 추론은 검색 질의를 만들기 위한 LLM 순방향 패스 한 번과, 선택된 문단에 대한 일반 생성 패스 한 번으로 구성된다. 학습은 대조 손실(InfoNCE)로 이루어지며, 정답 문단과 하드 네거티브 문단을 대비시킨다. 학습 중에는 검색 토큰 임베딩과 계층 혼합 가중치만 업데이트되고 LLM 파라미터는 얼어 있다. 저장 비용을 줄이기 위해 문단 표현을 연속된 그룹으로 평균 풀링하여 압축한다.

결과와 숫자의 의미

검색 실험은 약 30억 토큰, 2,100만 문단의 Wiki-2018 색인을 사용한다. complete-evidence recall@10은 상위 10개 결과에 정답 근거가 모두 들어 있는 질문의 비율이다. 일부 근거만 찾아서는 점수를 얻지 못하므로 답변 정확도와 다르다. 네 기반 모델을 여덟 데이터셋에서 비교했고 대부분의 조건에서 이점이 나타났다. Muse-Glimmer-30B 기반 최고 결과는 HotpotQA 73.2%, 2WikiMultiHopQA 60.1%, MuSiQue 14.4%였고 각 과제의 가장 강한 비교 기준은 49.1%, 31.7%, 8.8%였다. 세 기준값이 모두 하나의 동일 검색기에서 나온 것은 아니다.

생성 평가에서는 Nemotron-3.5-Lightning을 생성기로 고정하고 검색기가 제공하는 상위 5개 문단만 바꾸었다. UNREAL은 세 데이터셋 모두에서 가장 높은 EM과 F1을 기록했다. 예를 들어 HotpotQA에서 UNREAL의 EM은 52.6으로, 가장 좋은 기존 검색기(Qwen3-Emb-4B + reranker)의 43.3보다 9.3포인트 높았다. 오라클 상한은 64.3이므로 여전히 격차가 있지만, 같은 LLM을 검색과 생성에 모두 사용하면서 달성한 결과라는 점이 중요하다.

긴 문맥 평가에서는 평균 140토큰 문단으로 나누고, 검색 학습에 쓴 선택기를 별도 긴 문맥 학습 없이 적용했다. NoLiMa에서는 Nemotron-3-Nano로 평가한 128K 토큰 정확도가 1.0%에서 24.83%로 상승했다. LV-Eval에서는 Nemotron-3.5-Lightning으로 평가한 두 영어 질의응답 부분집합 평균 F1이 최대 길이에서 49.97에서 54.66으로 높아졌다. Figure 4의 길이 단위는 256K 단어다. 서로 다른 기반 모델·과제·지표의 수치를 한 점수처럼 합치면 안 된다.

계산량과 실제 지연은 구분해서 측정했다. 계산량 모형의 손익분기 길이는 기반 모델과 선택 문단 수가 5개인지 10개인지에 따라 약 4,117~17,437토큰이었다. 별도의 속도 실험은 H100 한 대에서 vLLM으로 실행했고, 약 32K 토큰 이후 첫 토큰 생성 시간이 짧아졌다. 이 실험은 무작위 초기 가중치와 무작위 입력으로 구조의 처리 속도를 측정한 것이며 앞선 정답률 평가와 같지 않다. 긴 길이의 점선 기준선은 직접 실행한 값이 아니라 FLOPs에 따른 외삽이다.

구체적인 예시

NoLiMa는 질문과 정답 근거 사이에 직접적인 키워드 겹침을 줄여 단순 단어 검색을 어렵게 만든 평가다. 이해를 위한 가상 예로, 질문이 “이 사람은 어떤 도시로 이사했나?”인데 문단이 도시 이름 대신 그 도시를 가리키는 표현을 쓰는 상황을 생각할 수 있다. 이는 논문의 실제 문항 인용이 아니다. 모델 표현을 이용한 검색이 도움이 될 수 있지만, 최대 길이 조건의 정확도 24.83%는 여전히 많은 문제를 놓친다는 의미이기도 하다.

100M 토큰 실험은 질의와 정답 근거에 위키피디아의 무작위 방해 문단을 채워 넣은 희소 근거 평가이다. 이는 전체 1억 토큰을 한 번에 어텐션하거나 모든 내용을 이해한 결과가 아니다. 대신 UNREAL은 문단을 개별적으로 인코딩하고 질의와 가장 유사한 상위 n개만 선택하여 생성에 사용한다. 그림 1에서 전체 문맥 추론은 문맥이 길어질수록 정확도가 급락하지만, UNREAL은 100M 토큰까지도 비교적 안정적인 성능을 유지한다. 이는 검색 기반 접근이 극단적인 길이에서도 실행 가능함을 보여준다.

한계와 오해하기 쉬운 점

이 논문의 학습 데이터는 위키피디아 QA에서 왔기 때문에 이질적인 도메인과 언어로의 전이는 향후 과제로 남아 있다. 긴 문맥 실험은 희소 근거 과제에 초점을 맞추고 있으며, 입력의 많은 부분을 통합해야 하는 증거 밀집 과제에는 적용되지 않을 수 있다. 또한 UNREAL은 문단당 여러 벡터를 저장하므로 단일 벡터 밀집 색인보다 구축 및 저장 비용이 더 크고, 값싼 BM25 초기 문맥에 의존한다.

그림 3의 49.1→73.2, 31.7→60.1, 8.8→14.4는 21M 문단 위키 코퍼스에서 complete-evidence recall@10이다. 이는 상위 10개에 모든 근거가 있는 질문의 비율이며 답변 정확도가 아니다. 최고 결과는 Muse-Glimmer-30B 기반이고, 표 1의 생성 결과는 Nemotron 기반이다. 또한 LV-Eval 최대 길이는 초록에 256K 토큰으로 쓰였으나 그림 4 축·캡션과 4.1절은 256K 단어로 명시한다. 원문의 단위 불일치를 인지해야 한다.

모델 하나를 쓰더라도 문단 색인, BM25 초기 후보, 검색 토큰과 계층 가중치 학습, 검색·생성 패스가 필요하다. 또한 부록 D의 속도 측정은 MaxSim 채점 시간을 별도 계측하지 않았다. 연구는 반복적으로 추론하고 다시 검색하는 에이전트형 RAG 전체와 직접 비교하지 않고 단일 검색 단계를 평가한다. 따라서 모든 RAG 운영 비용이나 최신 에이전트 검색 시스템을 앞선다고 읽어서는 안 된다.

실제로 어떻게 활용할까

UNREAL은 운영 환경에서 별도의 검색 모델을 유지할 필요 없이 하나의 LLM으로 검색과 생성을 모두 처리할 수 있는 가능성을 보여준다. 이는 모델 관리 부담을 줄이고, 검색기와 생성기의 표현 공간 불일치로 인한 성능 저하를 피할 수 있다. 특히 다중 홉 질의응답이나 사실 검증처럼 여러 문서에서 증거를 모아야 하는 과제에서 강점을 보인다.

긴 문맥 과제에서는 전체 문맥을 그대로 넣는 대신 UNREAL로 관련 문단만 추려서 생성기에 전달함으로써 방해 문단의 영향을 줄이고 계산 비용도 절감할 수 있다. 다만 현재는 위키피디아 QA로 학습되었으므로 다른 도메인에 바로 적용하기는 어렵다. 또한 증거가 입력 전체에 퍼져 있는 과제에는 적합하지 않을 수 있다. 향후 연구는 검색 감독을 생성 학습과 결합하거나, 증거 밀집 과제와 희소 과제를 구분하는 벤치마크 설계로 이어질 수 있다.