AWS, 트레이니움용 토치뉴런 공개…엔비디아 CUDA 생태계 정조준

요약

AWS가 엔비디아 중심의 AI 반도체 시장을 겨냥해 자체 AI 칩인 '트레이니움'의 소프트웨어 호환성을 강화했다. 이를 위해 파이토치(PyTorch) 프레임워크를 트레이니움에서 직접 실행할 수 있도록 지원하는 오픈소스 '토치뉴런(TorchNeuron)'을 지난 27일 공개했다. 토치뉴런은 개발자가 기존 파이토치 코드의 실행 장치 설정만 변경하면 트레이니움2 및 트레이니움3에서 즉시 모델을 실행할 수 있도록 지원하여 칩 전환에 따른 개발 부담을 줄인다. 또한 허깅페이스 등 외부 생태계와 협력하고 파이토치 커뮤니티에 하드웨어 의존도를 낮추는 기여를 하며 트레이니움의 범용성을 확보하고 있다. 다만 현재 토치뉴런은 공개 베타 단계로 쿠다 전용 커널 등을 사용하는 경우 별도의 최적화가 필요할 수 있어 워크로드별 검증이 요구된다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.