참고Reddit
LLM 시스템 프로그래밍 언어 'NURL' 공개
GGUF 파싱부터 GPU 커널 제어까지 가능한 LLM 특화 언어. 저수준 성능 최적화가 필요한 개발 환경 시 참고.
요약
LLM 전용 시스템 프로그래밍 언어인 NURL(Neural Unified Representation Language)이 첫 안정 버전 출시를 앞두고 프로젝트 진행 상황을 공개했다. NURL은 과거 프로그래밍 언어의 기술적 부채와 불필요한 문법 요소를 제거하여 고속 처리에 최적화된 시스템 언어를 지향한다. 이번 발표에서 공개된 실시간 객체 탐지 패키지 'YOLOE'는 NURL의 실제 활용 사례를 보여준다. 또한, 'nurllama' 패키지를 통해 GGUF 파서부터 GPU 커널까지 전 과정을 NURL로 구현하여 로컬에서 언어 모델을 실행하고 Ollama 호환 API를 제공할 수 있다. 현재 해당 프로젝트는 NURL 레지스트리를 통해 관련 패키지들을 설치 및 테스트할 수 있는 단계에 도달했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 Trying to develop Programming Language for LLM's - first stable publication is getting closer
원문 보기 ↗