AkbasCore 2.0 공개: Qwen2.5 기반 직교 다축 제어 커널로 활성화 조절 성능 개선

요약

AkbasCore 2.0 (DRA/Manifold)은 기존 활성화 조향(Activation Steering) 기술의 한계인 출력 일관성 저하 문제를 해결하기 위해 개발된 댐핑 및 직교 다축 조향 커널입니다. 연구진은 기존의 평탄한 조향 방식이 강도가 높아질수록 모델의 일관성을 훼손한다는 점에 주목하여 이번 개선 모델을 설계했습니다. 현재 Qwen2.5-7B-Instruct 모델을 대상으로 검증을 진행 중이며, 기존 방식에서 흔히 발생하는 조향 실패 문제를 개선하는 데 중점을 둡니다. 이번 연구는 예비 결과를 오픈 소스로 공개하고 있으며, 향후 MMLU 및 HumanEval을 포함한 정식 벤치마크 테스트와 통계적 검증이 예정되어 있습니다. 실무자들은 본 기술이 모델의 성능을 유지하면서도 효과적인 조향 제어를 가능하게 할지 지켜볼 필요가 있습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.