참고팁Reddit
혈당 예측을 위한 엔코더 전용 트랜스포머 모델 학습 사례
시계열 데이터를 활용한 맞춤형 모델 학습 아키텍처와 DILATE 손실 함수 적용 방식을 공유하는 실전 프로젝트.
요약
한 개발자가 과거 혈당·탄수화물·인슐린 데이터와 미래의 탄수화물·인슐린 투여량을 입력해 향후 2시간의 혈당을 예측하는 인코더 전용 트랜스포머 모델을 개발했다. 해당 모델은 BERT 스타일의 양방향 어텐션 구조를 채택했으며, 미래 혈당을 마스킹하여 학습하는 방식을 사용한다. 학습에는 중앙값 추정을 위한 DILATE 손실 함수와 불확실성 범위 예측을 위한 핀볼 손실 함수가 적용되었고, 이를 Kendall-Gal 방식으로 혼합했다. 데이터는 Kovatchev 위험 공간을 40~400 범위로 재매개변수화하여 처리했으며, 8~24시간의 가변적 컨텍스트를 지원한다. 모델은 나노(nano)부터 라지(large)까지 4가지 클래스로 구성되어 있으며, 자가 회귀(autoregressive) 모드를 통해 2시간 이상의 장기 예측도 가능하다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 I have trained a model to predict my blood sugar [P]
원문 보기 ↗