참고X
Databricks 엔지니어 '기업 코드 작업, Claude/GPT에서 OSS로 이동 중'
비용 효율을 위해 내부 코드 생성 워크로드를 OSS 모델로 전환하는 엔터프라이즈 추세. 인프라 전략 수립 시 참고.
요약
Databricks의 엔지니어들 사이에서 일상 업무용으로 Claude나 Astra 대신 오픈소스 모델(OSS)을 활용하는 사례가 급증하고 있다. 실제 Databricks의 추론 고객들 역시 내부 코딩 트래픽의 20%만 Claude나 GPT에서 OSS로 전환해도 비용을 대폭 절감하는 효과를 확인하고 있다. 이러한 비용 효율성 덕분에 기업 환경에서의 OSS 모델 도입은 향후 대규모로 확산될 전망이다. 이는 기업들이 폐쇄형 모델 의존도를 낮추고 자체적인 인프라 기반의 모델 운영으로 체질을 개선하고 있음을 시사한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @Yuchenj_UW: At Databricks, more and more engineers are shifting to OSS models as daily drivers, barely reaching for Claude or Astra. Our infer
원문 보기 ↗