메타, AI 전용 통신 규격 '메타RoCE' 공개…수십만 GPU 병목 해소

요약

메타가 수십만 개의 GPU가 연결된 초대형 AI 클러스터의 네트워크 병목 현상을 해결하기 위해 새로운 RDMA 통신 프로토콜인 '메타RoCE'를 24일(현지시간) 공개했다. AI 모델의 규모가 커짐에 따라 수만 개의 가속기가 동시에 데이터를 교환할 때 발생하는 병목이 전체 성능을 저하시키는 문제를 해결하기 위한 조치다. 메타는 기존 RDMA 기술을 AI 워크로드 특성에 맞춰 전면 재설계함으로써 GPU 간 데이터 전송의 안정성과 속도를 높이고자 했다. 이번 프로토콜은 대규모 AI 모델의 효율적인 학습과 추론을 지원하여 네트워크 인프라 최적화에 기여할 것으로 보인다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.