참고팁Reddit
Ollama(올라마) 구동 시 CPU P/E 코어별 발열 및 리소스 관리 스크립트
로컬 LLM 환경에서 시스템과 모델 간 자원 경합을 방지하고 안정적인 추론 성능을 확보하는 하드웨어 튜닝 팁.
요약
최근 Reddit의 r/ollama에서 화제가 된 스크립트는 P코어와 E코어의 클럭 속도를 부하에 따라 동적으로 제어하여 시스템 효율을 최적화한다. 해당 스크립트는 P코어는 Ollama 프로세스 전용으로, E코어는 사용자 프로세스 전용으로 분리하여 관리하는 것이 핵심이다. P코어와 E코어의 부하가 20%를 넘으면 클럭 속도를 높이다가, 각각 50도와 49도에 도달하면 클럭을 낮추는 방식으로 열 예산을 효율적으로 배분한다. 이를 통해 Ollama가 시스템의 발열 예산을 우선적으로 사용하면서도, 시스템 프로세스가 동작하는 P코어는 원활한 성능을 유지할 수 있다. 또한, 하이퍼스레딩을 배제하고 코어당 하나의 스레드만 사용하여 자원 점유를 효율화하는 방식이 적용되었다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 its such a nice governor script..
원문 보기 ↗