참고X
기업 데이터 유출 우려로 인한 로컬 LLM 전환 사례 증가
대형 로펌 등 기업들이 API 보안 우려로 외부 모델 사용을 중단하고 로컬 인프라로 전환하는 추세.
요약
최근 한 대형 로펌이 OpenAI의 네비어 스토크스(Navier Stokes) 사례를 확인한 후, 기존에 사용하던 Harvey와 Claude 및 OpenAI API 활용을 전면 중단했다. 해당 로펌은 외부 클라우드 의존 대신 자체 GPU 서버를 구축하여 모든 모델을 로컬 환경에서 호스팅하는 방식으로 전환했다. 현재는 Kimi와 DeepSeek 모델을 로컬 환경에서 운용 중인 것으로 알려졌다. 이는 보안과 데이터 통제권을 중시하는 기업들이 외부 AI API 사용을 줄이고 온프레미스 전환을 가속화하는 흐름을 보여준다. 향후 데이터 보안을 이유로 이와 유사한 인프라 탈피 사례가 업계 전반으로 확산될 것으로 전망된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @goodalexander: Heard of a top law firm completely cutting off Harvey and all API calls to Claude/OpenAI after they saw what openAI did with navie
원문 보기 ↗