참고Reddit
병원 온프레미스 환경 MLOps 구축 및 모델 모니터링 고민
폐쇄망 내에서 자체 모델 및 벤더 모델의 드리프트와 바이어스를 모니터링하기 위한 기술 스택 구성 관련 논의.
요약
한 병원에서 데이터 보안을 위해 외부 클라우드 없이 온프레미스 OpenShift 클러스터를 기반으로 MLOps 플랫폼을 구축 중이다. 현재 ClearML과 OpenShift AI를 검토하고 있으나, 데이터 드리프트, 편향 탐지, 실시간 모델 대시보드 등 고도화된 프로덕션 모니터링 기능이 부족한 상황이다. 특히 내부 모델뿐만 아니라 입출력 데이터 피드만 제공되는 벤더사 모델까지 통합 모니터링해야 하는 과제를 안고 있다. 다수의 팀이 서로 다른 성숙도로 모델을 개발하는 만큼, 셀프 서비스 플랫폼과 경계 정책을 수립하여 MLOps 생태계를 구성할 계획이다. 관련 환경에서의 실무 경험과 적합한 모니터링 솔루션에 대한 조언이 요구된다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 On-prem MLOps in a hospital: advice needed for production monitoring of self-built and vendor models? [D]
원문 보기 ↗