스탠퍼드대·메타 등, 잠재공간 추론 기법 공개

스탠퍼드대와 메타, 투게더 AI, 일리노이대 어배너·섐페인 공동 연구팀이 2026년 10월 19일 새로운 AI 추론 기법인 '하이브리드 리즈닝 에이전트'(Hybrid Reasoning Agents)를 발표했다. 이 기법은 모든 추론 단계를 텍스트 토큰으로 생성하는 대신, 중간 추론을 숫자 벡터로 구성된 잠재공간에서 수행하도록 한다.

이 방식은 내부 문제 해결을 위한 잠재 모드와 도구 호출 및 최종 답변을 위한 텍스트 모드를 결합하며, 두 모드는 '하이브리드링크'(HybridLink)라는 기술로 연결된다. 적용을 위해서는 사전학습된 모델에 지도 미세조정 방식인 HybridSFT와 강화학습 방식인 HybridRL을 추가해야 한다.

연구팀은 Qwen3 기반의 4B, 8B, 14B 파라미터 모델을 수학, 과학, 검색을 아우르는 11개 벤치마크에서 평가했다. 그 결과 생성 토큰은 기존 방식 대비 35.5~54.7% 줄었고 추론 속도는 1.8~2.6배 빨라졌다.

문제 해결 성능은 평균 10.4% 향상됐으며, 4B 모델의 추정 컴퓨팅 비용은 기존 방식의 약 27% 수준으로 떨어졌다. 연구팀은 코드와 학습 데이터를 깃허브와 Hugging Face에 공개했다.

이번 결과는 아직 동료 검토를 거치지 않은 논문 형태로 공개됐다. 디지털투데이(digitaltoday.co.kr)가 이 소식을 전했다.