중요AI타임스
320B 'GLM-5.3-플래시', 3비트 양자화로 128GB PC서 로컬 구동
용량 81% 감축으로 초대형 모델을 온프레미스 테스트 가능. 데이터 유출 우려 있는 팀에 대안.
요약
지푸 AI(Z.ai)의 최신 모델 'GLM-5.3-플래시'가 128GB 메모리를 탑재한 일반 고사양 PC에서도 구동 가능해졌다. AI 오픈소스 프레임워크 언슬롯(Unsloth)은 28일 해당 모델의 3비트 GGUF 버전을 공개하며 개인 사용자의 접근성을 대폭 높였다. '옥스 알파(Ox Alpha)'라는 이름으로 알려졌던 이 모델은 오픈라우터에서 6일 연속 사용량 1위를 기록할 정도로 높은 관심을 받았다. 이번 버전은 모델 용량을 기존 대비 81% 줄여 하드웨어 제약을 크게 완화했다. 지푸 AI는 지난 26일 모델 가중치 공개를 통해 본격적인 오픈소스 생태계 확장에 나섰다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 320B '옥스 알파'를 PC서 구동…'GLM-5.3-플래시' 용량 81% 줄여
원문 보기 ↗