← promppy_ 실시간 AI 뉴스
●Anthropic, 1300억 투입 '클로드 프론티어 아카데미' 출범... FDE 1만명 양성●엔비디아, 4999달러 '데스크톱 AI 슈퍼컴퓨터' DGX 스파크 64GB 출시●AWS, AI 데이터센터 반발에 1.4조 추가 투입…지자체 NDA 전면 폐지●OpenAI 안전 책임자 사임… 올 들어 15번째 주요 리더 퇴사●구글, Gemini 모델 접근 등급제(티어) 도입●OpenAI, 록히드마틴 F-35 엔지니어와 전투기 센서 수학·물리 문제 직접 협력●OpenAI, 중국 Moonshot AI 연루 세력이 암호화된 추론 과정 복제 시도했다고 주장●애플, Meta 'Muse' AI 에이전트 사생활 침해 논란에 Mac 보안 강화●애플, macOS 전체 디스크 접근 권한 강화로 AI 에이전트 오남용 차단●OpenAI, 작업 패턴 학습·앱 간 맥락 유지하는 에이전트 'dot' 공개●알트먼, Cerebras와 '속도 프런티어' 겨냥한 긴밀한 협력 공식 확인
참고팁X

llama.cpp, 로컬 'Decision Models' 구동 지원

로컬 환경에서 추론 모델을 무료로 구동 가능. 프라이버시가 중요한 의사결정 워크플로우를 로컬로 이전 검토 필요.

원문 제목 @ClementDelangue: Decision models now run on device in llama.cpp. Free, fast, private! llama serve -hf ggml-org/Kev-4B-GGUF https://t.co/ApnQQaKB4Z

원문 보기 ↗
#로컬 LLM#오픈소스

광고

다음 뉴스 →

중요Anthropic, 1300억 투입 '클로드 프론티어 아카데미' 출범... FDE 1만명 양성

Claude 기반 기업 도입 인력 공급 확대. SI·컨설팅사 중심 생태계 선점 움직임 주시 필요.

promppy는 한국 AI 실무자를 위한 실시간 AI 뉴스 터미널입니다.

15분마다 속보·중요·팁 자동 수집 · 한국어 요약 제공

실시간 피드 보기 →RSS 구독

관련 뉴스

최신 뉴스