참고AI타임스
맥북에서 구동하는 '무삭제 큐원 3.8 27B' 모델 공개
로컬 환경에서 별도 GPU 없이 고성능 LLM을 테스트하려는 개발자에게 유용함.
요약
알리바바의 최신 오픈소스 대형언어모델(LLM)인 '큐원 3.8 27B'를 기반으로 안전성 제약을 크게 완화한 '무삭제(Uncensored)' 버전 모델이 허깅페이스를 통해 공개됐다. 이 모델은 애플 실리콘의 통합 메모리를 활용하도록 설계되어, 엔비디아 GPU 기반의 CUDA 환경이나 클라우드 서버 없이도 개인용 맥에서 직접 구동 가능하다. 커뮤니티 개발자 조나단 코레티가 개발한 이번 모델은 기존보다 높은 자유도를 제공하는 것이 특징이다. 별도의 고성능 인프라 구축 없이도 개인 기기에서 고성능 AI 모델을 로컬 환경에서 테스트하고 운용하려는 개발자들에게 유용한 선택지가 될 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 맥북에서 돌리는 '무삭제 큐원 3.8' 등장...엔비디아 GPU·클라우드 없이 구동
원문 보기 ↗