셀렉트스타 "AI 안전성, 빅테크도 못 다루는 로컬 리스크 해결이 핵심"

요약

AI 모델의 성능이 상향 평준화됨에 따라 AI 서비스의 안전성과 신뢰성을 정량적으로 평가하고 위험 답변을 필터링하는 기술이 핵심 과제로 부상했다. 셀렉트스타 김민우 세이프티팀 리드는 국가, 산업, 기업별 특성에 따른 환각 현상, 사실 오류, 편향성을 정밀하게 검증해야 한다고 강조했다. 특히 AI가 위험한 답변을 안전하다고 오인하는 '거짓 음성(False Negative)' 문제를 해결하는 것이 AI 도입의 신뢰성을 확보하는 관건이다. 셀렉트스타는 이러한 AI 신뢰성 평가 기술을 바탕으로 코스닥 상장을 추진하며, 로컬 환경에 최적화된 리스크 관리 솔루션을 제공하는 데 주력하고 있다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.