열어둔 웹사이트가 당신의 로컬 LLM 서버에 몰래 요청 보낼 수 있다

요약

로컬 환경에서 구동하는 LLM 서버가 웹 브라우저를 통해 외부 사이트로부터 공격받을 수 있다는 보안 취약점이 제기되었습니다. llama.cpp, vLLM 등 로컬 LLM 서버를 기본 설정으로 실행할 경우, 동일한 PC에서 열려 있는 웹 브라우저 탭을 통해 악의적인 사이트가 서버에 접근하여 모델 응답을 생성하거나 탈취할 수 있습니다. 이는 일반적인 CSRF(Cross-Site Request Forgery) 및 DNS 리바인딩 기법을 활용한 것으로, '127.0.0.1'로 바인딩되어 있어도 브라우저가 동일 머신에서 실행되기 때문에 보안을 보장하지 못합니다. 실제 테스트 결과, 다수의 인기 로컬 LLM 서버가 이러한 공격에 기본적으로 노출되어 있는 것으로 확인되었습니다. 따라서 로컬 LLM 개발자 및 실무자는 서버 실행 시 보안 설정에 각별한 주의를 기울여야 합니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.