참고AI타임스
비드래프트, AX-RAY로 AI 모델 보안 검증 기술 국산화 추진
국내 기업이 AI 파운데이션 모델의 구조적 결함을 탐지하는 보안 진단 시스템을 정부 과제로 상용화하는 사례입니다.
요약
AI 딥테크 기업 비드래프트는 공개 AI 모델의 구조적 결함을 탐지하는 자체 안전성 진단 시스템 ‘AX-RAY’를 고도화하고 있다고 26일 밝혔다. 이번 전략은 지난 24일 아카이브에 공개된 연구 논문 ‘The Mask Is Not the Model: Auditing Prefix Invariance in Attention, State-Space, and Hybrid Sequence Models’의 성과를 기반으로 한다. 비드래프트는 이 논문에서 어텐션 및 상태 공간 모델 등 다양한 시퀀스 모델의 입력 처리 과정에서 발생하는 ‘인과 누설’ 문제를 입증했다. 이를 통해 구축한 보안 기술은 정부의 ‘사이버 보안 특화 AI 파운데이션 모델 개발’ 사업에 본격적으로 적용될 예정이다. 비드래프트는 AX-RAY를 활용해 AI 모델의 구조적 취약점을 사전 검증하고 안전성을 높이는 기술 생태계를 주도하겠다는 방침이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 비드래프트, ‘인과 누설’ 실증 논문서 AX-RAY로…보안 파운데이션 모델 검증 기술로 확장
원문 보기 ↗