'독파모' 국민평가단 후기: 국산 AI, 한국어·안전성 개선 과제 확인

요약

과학기술정보통신부와 정보통신산업진흥원이 주관하는 '독자 AI 파운데이션 모델 프로젝트(독파모)'의 2차 국민평가가 지난 8일부터 11일까지 진행됐다. LG AI연구원, 업스테이지, SK텔레콤, 모티프테크놀로지스 4개 팀이 개발한 AI 모델을 국민평가단 200명이 직접 체험하고 평가하는 방식으로 운영되었으며, 결과는 향후 전문가 평가 등과 함께 모델 심사에 반영될 예정이다. 참가자들은 국내 AI 모델을 직접 경험할 수 있다는 점에서 높은 관심을 보였으나, 한국어 특화 성능에 대한 기대 대비 아쉬움과 함께 안전성 측면의 필터링 보완이 필요하다는 의견을 제시했다. 특히 일부 모델에서 우회적 질문에 부적절한 답변을 내놓는 등 가드레일 강화의 필요성이 지적되었다. 향후 상용화 단계에서 경쟁력을 갖추기 위해서는 이용자 유인 요소 강화와 함께 한국어 창작성 개선 및 엄격한 윤리적 안전 장치 마련이 주요 과제로 부상했다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.