파인튜닝 없이 LLM 의사결정 최적화하는 Python(파이썬) 라이브러리 'Nudge' 공개

요약

Nudge는 Jev나 Rune과 같은 System One 모델 위에서 작동하는 경량 파이썬 라이브러리로, 모델의 의사결정 과정을 개선하는 데 도움을 줍니다. 이 라이브러리는 별도의 파인튜닝이나 GPU 자원 없이 SQLite 파일 하나만으로 모델의 선택을 최적화합니다. 사용자가 결과 값을 피드백하면 Nudge는 모델의 확률값과 선택 사항을 기록하고 베이지안 선형 모델을 적용해 향후 선택을 조정합니다. 모델은 상황을 구분하기 위해 스스로 질문을 생성하거나 사용자가 정의한 질문(예/아니오, 1~5점 척도 등)을 활용하며, 변별력이 낮은 질문은 즉시 폐기됩니다. 최종적으로는 톰슨 샘플링(Thompson Sampling) 방식을 통해 의사결정을 내리고, 5%의 탐색(exploration) 비율을 유지하여 성능을 개선합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.