참고팁Reddit
DeepSeek V4 Flash 1M 컨텍스트 로컬 구동 벤치마크 및 설정 공유
RTX 5090 환경에서 llama.cpp를 활용해 대규모 컨텍스트를 최적화하여 돌리는 구체적인 파라미터 설정을 제공함.
원문 제목 DeepSeek v4 Flash on 5090 in llama.cpp with 1 Million context
원문 보기 ↗●SemiAnalysis "Kimi K3의 선형 어텐션(KDA), NVIDIA에 오히려 호재"●Databricks, 1880억 달러 가치 평가받으며 AI 대표주자로 재도약●메타, Anthropic에 15조 원 규모 AI 인프라 임대 논의…클라우드 진출 눈앞●"Fable 5와 Mythos 5는 동일 모델, 차이는 앞단 안전 레이어뿐" — theo●Claude Code에서 Fable 모델 선택 불가 현상 30분 만에 해결●Kimi-K3, Frontend Code Arena 1위 등극… 중국 모델 최초로 미국 추월●Cursor 슬랙 연동, 멀티 레포 지원과 작업 계획 사전 공유 추가●SpaceX, 국방부에 수십억 달러 규모 컴퓨팅 파워 공급 협상 중
중요SemiAnalysis "Kimi K3의 선형 어텐션(KDA), NVIDIA에 오히려 호재"
KV캐시 감소가 하드웨어 수요 축소로 이어진다는 통념 반박. 2.8조 파라미터 추론에는 NVL72급 대규모 스케일업이 필요하다는 분석.
promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.
15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공