Proprietary Know-how

담당자: 정근영
주제: 지식편집

개요
본 기술은 대규모 언어모델에 새로운 지식을 주입하거나 기존 지식을 수정할 때, 단순히 정답 정보를 변경하는 수준을 넘어 편집된 지식이 모델 내부의 지식 구조에 자연스럽게 통합되고 추론 과정에서도 일관되게 활용되도록 하는 지식 편집 기술임. 기존 지식 편집 기법은 특정 사실의 정답 토큰을 변경하는 데 초점을 두어 단일 질의에서는 높은 편집 성공률을 보이지만, 편집된 지식이 모델의 기존 지식 체계와 충분히 연결되지 못해 다중 단계 추론(Multi-hop Reasoning)이나 의미적 일반화 과정에서 성능 저하가 발생하는 한계가 있음. 본 기술은 의미 수준의 잠재 표현을 활용하여 편집 지식을 모델 내부 의미 공간에 정렬시키고, 동시에 다중 단계 추론 과정에서 편집 지식이 실제로 활용되는지를 세밀하게 평가함으로써 지식 편집의 정확성, 일관성 및 활용성을 향상시키는 기술임.

핵심 기술

• 언어모델 의미 지식 분석 기술 : 언어모델 내부에 저장된 지식의 의미 표현을 분석하여 편집 대상 지식이 모델 내에서 어떻게 저장되고 활용되는지를 식별
  
• 의미 수준 지식 편집 기술 : 편집 대상 지식을 단순 정답 토큰 변경이 아닌 의미 수준의 잠재 표현으로 정렬하여 모델 내부 지식 구조에 자연스럽게 통합하고 추론 활용성을 향상시키는 기술
  
• 추론 기반 지식 편집 평가 기술 : 다중 단계 추론 과정에서 편집된 지식의 활용 여부와 엔티티 간 추론 일관성을 분석하여 지식 편집 성능을 정밀하게 평가하는 기술

연구 실적
학회: CIKM2025/EMNLP2025
특허: 10-2025-0168716/10-2025-0168715

• STEAM: A Semantic-Level Knowledge Editing Framework for Large Language Models (EMNLP 2025 Findings)
  
• Watch Your Step: A Fine-Grained Evaluation Framework for Multi-hop Knowledge Editing in Large Language Models (CIKM 2025)
  
• 10-2025-0168716 (대형언어모델의 의미적 지식 통합을 위한 잠재공간 정렬 기반 편집 방법), 10-2025-0168715 (대형언어모델의 다중 단계 지식 편집 일관성 검증을 위한 평가 프레임워크)