NVIDIA 최신 뉴스
NVIDIA 관련 소식 9건 · 15분마다 자동 수집
KV캐시 감소가 하드웨어 수요 축소로 이어진다는 통념 반박. 2.8조 파라미터 추론에는 NVL72급 대규모 스케일업이 필요하다는 분석.
에이전트 특화 post-training 수요 증가에 따른 인프라 최적화 방향성을 제시함.
RTX 5090으로 못 올리는 120B 모델도 로컬 구동, 2대 연결 시 405B까지. 온프레미스 추론 검토 대상.
FLUX, Wan 2.1 등 오픈소스 모델 학습 시 메모리 효율적인 분산 학습 지원. 모델 변환 없이 바로 파인튜닝 가능.
에이전트 성능 좌우하는 지속적 사후학습 비용을 낮추는 방향. 학습 인프라 설계·예산 재검토 신호.
온디바이스 피지컬 AI용 경량 모델 출시. 로봇 및 엣지 AI 개발 환경에서 가벼운 추론 모델로 활용 가능.
소프트뱅크·소니 등 44개사 컨소시엄 가동. 한일 AI 인프라·로봇 경쟁 격화 예고.
검색 정확도 향상으로 에이전트의 추론 비용을 절감하는 임베딩 모델입니다. 상업용 허용 오픈 웨이트 모델로 RAG 구축 시 도입 고려 가치 있음.
8B가 RTEB 1위, 1B는 프로덕션용. 상업적 이용 가능한 오픈 임베딩이라 RAG 파이프라인 교체 검토 가치.