Nvidia(엔비디아) RTX Spark 암호화 펌웨어, 네이티브 Linux(리눅스) 추론 속도를 35%로 떨어뜨려

요약

RTX Spark 노트북에 네이티브 Linux를 설치하고 CUDA 가속을 사용할 경우, 전원 연결 시 GPU 클럭이 약 780MHz로 제한되어 추론 성능이 크게 저하된다. 이는 Linux가 CPU와 GPU의 전력 배분을 담당하는 Nvidia Platform Controllers and Framework 기능에 대응하지 못하고, 암호화된 펌웨어의 전력 설정 표를 읽지 못하기 때문이다. 실제로 GPT-OSS-120B 테스트 결과, Windows와 WSL 환경에서는 초당 60토큰 이상의 성능을 보였으나, 네이티브 Linux에서는 13.9토큰에 그쳤다. 다만 노트북 전원을 분리하면 Linux에서도 Windows와 유사한 성능을 낼 수 있다. 실무자는 해당 노트북 환경에서 Linux 네이티브 구동 시 발생할 수 있는 전력 제어 문제와 성능 저하 현상을 유의해야 한다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.