커뮤니티 해설난이도 보통파이토치 한국 사용자 모임 · 10월 9일(금) 공개

Liquid AI d1: 글을 생성하지 않고 기기 안에서 바로 판단하는 작은 모델

문장을 길게 생성하는 대신 선택지 확률을 한 번에 내는 두 모델을 공개했으며, 텍스트·이미지·음성 지원과 실제 속도 조건에는 차이가 있습니다.

쉽게 말하면비유하자면 서술형 답안을 길게 쓰는 대신 객관식 보기마다 '이게 답일 가능성'을 한 번에 적어 내는 작은 판정 도우미다. 문장을 만들지 않고, 앱이 미리 정한 질문과 선택지에 확률이나 점수만 돌려준다.

왜 봐야 하나: 문의 분류나 예·아니오 판단처럼 답 후보가 정해진 일에는 글을 쓰는 큰 모델 대신 이런 작은 모델을 기기 안에서 돌려 볼 수 있다. 다만 점수와 속도는 제작자 자체 측정이라, 내 입력 길이와 과제로 직접 재 봐야 한다.

10월 9일 게시된 한국어 해설을 바탕으로, Liquid AI가 2026년 10월 7일 공개한 두 개의 오픈 가중치 결정 모델 d1-3B와 d1-omni-600M을 다룬다. 결정 모델은 문장을 생성하지 않고, 미리 정해진 질문과 선택지에 대한 확률이나 점수를 한 번의 순전파로 출력한다. d1-3B는 텍스트와 이미지를 처리하며 Decision Index 0.2.1에서 48.57점으로 10B 미만 모델 중 가장 높은 점수를 기록했다. d1-omni-600M은 텍스트와 이미지 또는 음성을 처리하는 실험적 모델로, 같은 지수에서 15.95점을 받았다. d1-3B는 짧은 질문에서 수십 밀리초의 기기별 측정값을 공개했지만, d1-omni-600M의 속도 수치는 아직 없다. 두 모델은 로컬에서 실행할 수 있다.

알아낸 것

d1-3B는 제작자가 직접 잰 결정 모델 채점표 Decision Index 0.2.1에서 48.57점을 받았다. 제시된 비교 표의 10B 미만 모델 가운데 가장 높지만, 공식 리더보드 제출 결과는 아니다.
d1-omni-600M은 공개 시험(벤치마크) 7종 평균 78.4점으로 Decider 2B(77.1점)를 앞섰다. 다만 세부 시험 BoolQ에서는 9.6점, XNLI에서는 10.3점 낮아 항목별 차이가 크다.
d1-3B가 짧은 질문 하나에 답하는 데 걸린 시간은 RTX 4090에서 8ms다. 컴파일을 적용하고 준비 호출을 마친 조건의 값이며, 긴 입력이나 이미지에서는 달라진다. omni는 속도 수치가 없다.

한계와 주의할 점

새 한국어 해설은 2026년 10월 9일, 기초 Liquid AI 공개 글은 10월 7일이다. 제품·모델 제작자의 공개 모델 및 자체 평가 소개이며 독립 재현 실험이나 동료 심사 논문은 아니다.
d1-3B는 텍스트·이미지를 처리하고, d1-omni-600M은 텍스트와 이미지 또는 음성을 처리한다. omni는 같은 요청에 이미지·음성 동시 입력을 지원하지 않으며 영어 발화 중심으로 학습한 음성은 최대 30초다. 채팅 문장 생성 모델이 아니라 미리 정한 질문·선택지의 확률 또는 점수를 출력한다.
Decision Index 0.2.1의 d1-3B 48.57, omni 15.95는 공개 평가기에 의한 제작자 자체 측정으로 공식 리더보드 제출 결과가 아니다. 다른 모델 행은 공개 리더보드에서 가져왔다. 10B 미만 1위라는 주장은 이 비교 표의 조건에 한정된다.
d1-3B의 텍스트 평균 77.1은 HelpSteer2를 포함한 8개 과제, 82.9는 HelpSteer2를 제외한 7개 과제다. omni 78.4는 뒤의 7개 평균이다. HelpSteer2는 omni 학습 자료와 겹칠 수 있어 제외했으므로 서로 다른 평균을 직접 비교하면 안 된다.
RTX 4090의 8ms는 d1-3B 한 질문·warm call·bf16·20회 중앙값·compile 적용 조건이며 미컴파일은 16ms다. 긴 입력·이미지·다중 질문에서는 다르고 최초 로딩·컴파일 비용을 포함한 값이 아니다. omni는 초기 연구 공개로 속도 수치를 발표하지 않았다.

용어 풀이

결정 모델: 문장을 생성하지 않고, 미리 정해진 질문과 선택지에 대한 확률이나 점수를 한 번의 순전파로 출력하는 모델. 이번 공개 모델 중 d1-3B와 d1-omni-600M이 해당한다.
Decision Index: Hugging Face의 apolinário가 운영하는 비공식 커뮤니티 리더보드로, 38개 벤치마크를 다섯 영역으로 나눠 결정 모델의 성능을 채점한다. 이 글에서는 0.2.1 버전 점수가 사용되었다.
순전파: 신경망에서 입력이 출력까지 한 번만 통과하는 과정. 결정 모델은 출력 토큰을 만들지 않으므로, 답을 얻기 위해 한 번의 순전파만 필요하다.
LoRA: Low-Rank Adaptation의 약자로, 사전 학습된 모델의 가중치를 고정하고 작은 저랭크 행렬만 학습해 효율적으로 미세조정하는 기법. d1-omni-600M에서 이미지 입력 시에만 활성화되는 가중치를 학습하는 데 사용되었다.

더 깊이 읽기 읽는 데 약 8분

배경과 문제

기존의 대형 언어 모델은 문장을 토큰 단위로 생성하기 때문에 답을 얻기까지 여러 번의 순전파가 필요하고, 출력을 파싱해야 하는 번거로움이 있다. 특히 고객 문의의 담당 팀 분류, 카메라에 보이는 손 모양 판별, 메시지의 유해성 탐지처럼 답의 후보가 미리 정해진 판단 작업에서는 생성형 모델이 과도하게 무겁고 느리다. Liquid AI는 이런 판단 작업에 맞춘 결정 모델을 공개했다. 결정 모델은 문장을 생성하지 않고, 앱이 정한 선택지마다 확률을 돌려주는 모델이다.

이번에 공개된 d1-3B와 d1-omni-600M은 Liquid AI의 기존 d1 API와는 다른 별도의 작은 모델이다. API d1은 Decision Index 자체 측정 점수가 약 60점인 반면, 공개된 d1-3B는 48.57점으로 더 낮다. 따라서 이번 공개는 API d1을 내려받을 수 있게 된 것이 아니라, 엣지 기기에서 직접 실행할 수 있도록 작은 크기로 따로 만든 모델을 공개한 것이다. 두 모델 모두 가중치가 Hugging Face에 공개되어 있으며, 라이선스는 LFM Open License v1.0을 따른다.

기존 접근의 한계

기존의 생성형 언어 모델은 답을 생성하기 위해 토큰을 하나씩 만들어 내야 하므로, 입력이 길어지거나 답이 복잡해지면 지연 시간이 크게 늘어난다. 또한 생성된 텍스트에서 원하는 답을 추출하기 위해 별도의 파싱 과정이 필요하고, 모델이 정해진 선택지 밖의 답을 생성할 위험도 있다. Liquid AI는 결정 모델이 출력 토큰을 만들지 않고, 질문에 대한 확률 분포를 직접 읽어내기 때문에 이런 문제를 피할 수 있다고 설명한다.

작은 결정 모델의 효율이 높더라도 판단 품질과 입력 지원 범위를 따로 살펴봐야 한다. 예를 들어 Decider 2B는 Decision Index 0.2.1에서 28.97점에 그쳤고, d1-omni-600M은 15.95점으로 더 낮다. 이 비교 지수만으로 이미지나 음성 판단의 품질까지 알 수 있는 것은 아니다. Liquid AI는 d1-3B에 이미지 입력을, d1-omni-600M에 이미지와 음성 입력을 추가해 이런 한계를 일부 해소하려고 했다.

연구방법을 단계별로

d1-3B는 Liquid AI의 비전-언어 모델 LFM2.5-VL-3B에서 출발한 디코더 기반 모델이다. 먼저 텍스트 모델 LFM2.5-2.6B와 LFM2.5-VL-3B의 텍스트 백본 가중치를 평균해 더 나은 바탕 모델을 만들었다. 그다음 무작위 시드와 데이터 구성을 바꿔 여러 체크포인트를 미세조정한 뒤 다시 병합했다. Liquid AI는 고급 기법보다 긴 입력으로 학습하기, 선택지 순서 섞기, 데이터 속 지름길 고치기가 더 큰 차이를 냈다고 밝혔다. 선택지 순서를 섞는 이유는 모델이 내용 대신 첫 번째 선택지 같은 위치를 외우지 못하게 하려는 것이다.

d1-omni-600M은 양방향 인코더인 LFM2.5-Encoder-350M을 바탕으로 한다. 먼저 이 인코더를 결정 작업에 미세조정한 뒤, 음성과 이미지를 단계적으로 추가했다. 음성은 FastConformer 인코더와 어댑터를 학습한 후, 텍스트 백본을 고정한 채 오디오 인코더를 미세조정했다. 이미지는 LFM2.5-VL-450M의 인코더를 고정해 가져오고, 어댑터와 이미지 입력이 있을 때만 켜지는 LoRA 가중치를 학습했다. 마지막으로 전체를 미세조정하고 LoRA를 병합한 뒤, 이전 체크포인트와 가중치를 평균해 정규화했다.

결과와 숫자의 의미

제작자가 공개 평가기로 측정한 Decision Index 0.2.1에서 d1-3B는 48.57점으로, 제시된 10B 미만 모델 비교 표에서 가장 높았다. 이는 12B 모델인 Winnow-12B(50.02점)보다는 낮지만, 36B 모델인 Decider 35B-A3B(47.11점)보다 높다. 다만 d1-3B의 점수는 주로 도구 호출(Tools)과 예술, 예측(Arts) 영역에서 나왔고, 지식과 추론(Knowledge)은 23.8점으로 4B 이상 모델 대부분보다 낮다. 이 하위 점수 차이는 도구 선택과 지식 판단을 따로 시험해 봐야 한다는 신호다. 실제 업무 적합성을 확정한 실험은 아니다.

공개 벤치마크 7종에서는 d1-3B가 평균 82.9점으로 Decider 4B(81.1점)를 앞섰다. d1-omni-600M은 평균 78.4점으로 Decider 2B(77.1점)를 4분의 1 크기로 앞섰다. 그러나 세부 항목을 보면 d1-omni-600M은 BoolQ에서 Decider 2B보다 9.6점, XNLI에서 10.3점 낮다. PAWS-X의 20점 차이 하나가 평균을 2.9점 올리므로, 평균 차이 1.3점보다 크다. 한국어 해설이 표에서 PAWS-X를 빼고 나머지 6개를 다시 평균한 값은 d1-omni-600M 78.3, Decider 2B 80.1이다. 이는 별도 실험이 아니라 평균이 어떤 항목에 좌우되는지 보여 주는 재계산이다.

구체적인 예시

d1-3B의 사용 예시로, 고객 문의 텍스트에 대해 환불 여부, 담당 팀, 긴급도를 한 번에 묻는 코드가 제공된다. 질문은 type, instructions, criteria로 정의되며, noul은 예/아니오, choice는 이름 붙은 선택지, score는 2~10단계의 순서형 척도를 반환한다. 예를 들어 'I was charged twice this month, please refund one of them.'이라는 상태에 대해 refund 질문은 noul로, team 질문은 choice로, urgency 질문은 score로 답을 얻는다. 이미지가 상태 전체인 경우에는 고양이 수를 묻는 choice 질문을 사용할 수 있다.

d1-omni-600M은 텍스트와 이미지 또는 텍스트와 음성을 입력으로 받는다. 음성은 16kHz 모노 클립 하나만 받고 30초에서 자르며, 영어 화자와 어시스턴트 사이의 요청으로만 학습했다. 음성 질문은 학습 때 형식대로 선택지를 설명으로 적고, 예/아니오는 평이한 yes/no로 적어야 한다. 이미지와 음성을 동시에 입력하면 ValueError가 발생한다. 텍스트 답만 질문 유형별 온도로 보정하고, 이미지와 음성 답은 학습된 softmax 값을 그대로 사용한다.

한계와 오해하기 쉬운 점

Decision Index 0.2.1의 d1-3B 48.57점과 d1-omni-600M 15.95점은 Liquid AI가 공식 평가기로 직접 측정한 값이며, 공식 리더보드 제출 결과가 아니다. 다른 모델의 점수는 공개 리더보드에서 가져왔다. 따라서 '10B 미만 1위'라는 주장은 이 비교 표의 조건에 한정된다. 또한 d1-3B의 텍스트 평균 77.1은 HelpSteer2를 포함한 8개 과제, 82.9는 HelpSteer2를 제외한 7개 과제의 평균이다. HelpSteer2는 d1-omni-600M의 학습 자료와 겹칠 수 있어 제외했으므로, 서로 다른 평균을 직접 비교하면 안 된다.

RTX 4090의 8ms는 d1-3B 한 질문, 워밍업 호출, bf16, 20회 중앙값, model.compile 적용 조건에서 나온 값이다. 컴파일을 적용하지 않으면 16ms가 걸린다. 긴 입력, 이미지, 다중 질문에서는 지연 시간이 달라지며, 최초 로딩과 컴파일 비용은 포함되지 않았다. d1-omni-600M은 초기 연구 공개라는 이유로 속도 수치를 발표하지 않았다. 또한 d1-omni-600M의 전체 문맥은 16,384 위치지만, 이미지를 넣으면 상태와 질문 텍스트가 학습 조건에 따라 896토큰으로 잘린다.

실제로 어떻게 활용할까

제작자가 측정한 d1-3B의 짧은 한 질문 지연은 Jetson AGX Thor 16ms, Jetson Orin Nano 50ms다. 실제 서비스에서는 입력 길이와 전체 처리 시간을 함께 재야 한다. 상태 64개를 한 번에 묶으면 초당 38~262개의 상태를 처리할 수 있다. 짧은 한 질문의 지연 시간과 여러 상태를 묶은 처리량은 서로 다른 조건의 지표다. 짧은 질문 결과를 긴 문서나 연속 카메라 처리의 전체 지연으로 그대로 옮길 수는 없다.

Liquid AI는 d1-3B를 반복 호출하는 데모 10개를 System One Arcade Space로 공개했다. 손바닥을 펴면 새가 날아오르는 게임, 스쿼트 횟수 세기, 손가락 욕설 모자이크, 그림 맞히기 등이 있다. Live Triage 데모는 지원 문의를 입력하는 동안 담당 팀, 긴급도, 환불 여부를 계속 갱신한다. 각 데모는 카메라 프레임, 그림, 문장 중 하나에 대해 타입이 정해진 질문 몇 개를 던지고, 순전파 한 번의 답을 읽는다. 10개 중 8개가 카메라 입력을 사용한다.

원문에서 확인한 근거 5곳

d1-3B의 Decision Index 0.2.1 48.57점은 제작자가 공개 평가기로 얻은 값이며 공식 리더보드 제출 결과가 아니다.not a leaderboard submission
d1-omni-600M은 Decision Index 0.2.1에서 15.95점을 받았다.It scores 15.95 on the same index.
d1-3B는 Jetson AGX Thor에서 질문 하나에 16ms, Jetson Orin Nano에서 50ms가 걸린다.Edge inference.
d1-omni-600M은 이미지와 음성을 동시에 입력하면 ValueError가 발생한다.images or audio, not both
RTX 4090의 8ms는 한 질문, bf16, 워밍업, 20회 중앙값 및 컴파일 적용 조건이다. 미컴파일은 16ms다.GPU Inference

출처소개 글 — 파이토치 한국

10월 10일(토) 정리 · AI가 쓰고 원문과 대조