참고팁X
Perplexity(퍼플렉시티), 로컬 추론 엔진 'Lily' 오픈소스 공개
Apple(애플) Silicon에서 Qwen3.6(큐원 3.6) 모델 효율을 극대화하는 엔진. 로컬 AI 개발 시 연산 병목 해결에 유용.
요약
Perplexity AI가 'Perplexity Computer'의 하이브리드 컴퓨팅을 위해 자체 개발한 로컬 추론 엔진 'Lily'를 오픈소스로 공개했다. Lily는 Apple Silicon 환경에서 Qwen3.6-35B-A3B 모델에 최적화되도록 설계되었다. 이번 오픈소스화를 통해 기기 내 연산(on-device compute)이 Computer 작업의 병목 현상을 일으키지 않도록 성능을 개선했다. 개발자는 공식 문서를 통해 기술 상세 내용을 확인할 수 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @perplexity_ai: Today we’re open-sourcing Lily, the local inference engine we built for hybrid compute in Perplexity Computer. Lily is specialized
원문 보기 ↗