참고팁X
NVIDIA 3090(엔비디아 3090) GPU 텐서 연산 성능 제한 논란 및 벤치마크 분석
RTX 3090의 잠긴 텐서 성능을 활성화하는 커널 모듈 활용 사례. 로컬 LLM 추론 및 미세조정에 유의미한 성능 향상 가능성.
요약
X 사용자 @superalesha는 NVIDIA의 GeForce RTX 3090 GPU가 하드웨어적 제약 없이 소프트웨어 설정만으로 텐서 연산 성능을 절반 수준으로 제한받았다고 주장했다. 사용자가 커널 모듈을 수정하여 제한을 해제한 결과, BF16 텐서 성능이 82 TFLOPS에서 155 TFLOPS로 약 2배 향상된 것으로 나타났다. 이는 워크스테이션용 제품 판매를 보호하기 위해 게이밍 카드인 RTX 3090의 성능을 의도적으로 낮춘 조치로 해석된다. 해당 성능 제한은 LLM뿐만 아니라 Qwen Image 2.1, FLUX 3 Klein 등 연산 집약적인 확산 모델 및 LoRA 학습 과정 전반에 영향을 미쳐왔다. 이번 발견은 6년간 사용되어 온 RTX 3090의 실제 잠재 성능이 공개됨에 따라 향후 관련 업계의 논란이 예상된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @superalesha: NVIDIA sold millions of 3090s with 50% of the tensor speed switched off. Not missing. Switched off. 1 kernel module flips it to fu
원문 보기 ↗