Proprietary Know-how

담당자: 최기현
주제: 추론효율화

개요
본 기술은 LLM의 추론 과정을 자연어 토큰이 아닌 잠재 공간(latent space)에서 수행하고, 문제 난이도와 중간 추론 상태에 따라 필요한 계산량을 동적으로 조절하는 방법이다. 기존 latent reasoning 방식은 latent step 수나 loop 횟수를 고정해 사용하지만, 본 기술은 각 추론 상태에서 더 반복할지, 다음 단계로 넘어갈지, 최종 답을 낼지를 선택하도록 하여 추론 효율성과 성능 안정성을 함께 높인다.

핵심 기술

• Continuous latent reasoning
  
• Latent step 내부 looping/refinement
  
• REFINE–ADVANCE–ANSWER 기반 동적 제어
  
• Entropy / confidence / hidden-state 변화량 기반 stopping signal
  
• Answer gate 또는 routing gate 기반 추론 종료 판단
  
• Accuracy–compute trade-off 최적화

연구 실적
학회: 준비중