Hugging Face(허깅페이스), LLM 구조화 위한 'LLMON' 마크업 언어 공개

요약

Hugging Face는 LLM의 컨텍스트 구조를 명확하게 정의하여 모델의 안정성을 높이는 LLM 네이티브 마크업 언어인 'LLMON(LLM Object Notation)'을 공개했다. 기존의 JSON이나 암묵적인 컨텍스트 구조는 LLM이 처리하기에 한계가 있어 프롬프트 인젝션이나 예기치 않은 오류의 원인이 되어왔다. LLMON은 의미 있는 태그와 전용 특수 토큰 구분자를 사용하여 시스템 프롬프트, 도구 응답, 추론 체인 등 컨텍스트 내의 구성 요소를 명확하게 구조화한다. 특히 고유 ID를 통해 특정 지침을 데이터와 연결할 수 있어, 프로그래밍 언어의 함수 호출과 유사한 방식으로 모델이 데이터를 처리하게 돕는다. 이를 적용한 Granite 4.1 3B 및 8B 기반의 실험적 프리뷰 모델 2종도 함께 공개되었다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.