참고Reddit
llama.cpp P100 FP16 정밀도 버그 수정…turboquant v0.3.0 공개
P100(sm_60) 로컬 셋업 쓴다면 부동소수 정밀도 개선 패치 적용 검토.
원문 제목 **Your $80 Tesla P100 has been doing silently noisy math in llama.cpp for years. Three lines fix it, for free.**
원문 보기 ↗P100(sm_60) 로컬 셋업 쓴다면 부동소수 정밀도 개선 패치 적용 검토.
원문 제목 **Your $80 Tesla P100 has been doing silently noisy math in llama.cpp for years. Three lines fix it, for free.**
원문 보기 ↗