참고Hacker News
"AI 요청당 탄소 배출량 측정 가능"... 에너지 효율에 따른 지역별 탄소 발자국 격차 공개
서버 위치와 모델에 따른 AI 추론 탄소 배출량 측정 방법론 공개. 인프라 효율성 관점에서 참고.
요약
스웨덴의 AI 기업 Berget AI가 개별 AI 요청당 탄소 배출량을 정확히 계산할 수 있는 오픈소스 방법론을 공개했다. 이 방법론은 스톡홀름 환경연구소(SEI), WattTime, Klimatkollen과 협력하여 개발되었으며, 기업들이 AI 서비스 이용 시 요청별 탄소 배출량을 실시간으로 모니터링할 수 있도록 돕는다. 동일한 하드웨어에서 모델 Kimi K3를 구동할 경우, 스웨덴에서는 요청당 약 0.4g의 CO₂가 배출되지만 텍사스에서는 3.2g이 배출되어 지역별 전력망 구성에 따라 탄소 발자국이 최대 8.5배까지 차이 나는 것으로 나타났다. Berget AI는 이 방법을 무료로 공개함으로써 AI 제공업체들이 투명하게 배출량을 보고하고, 고객이 데이터에 기반해 저탄소 옵션을 선택할 수 있는 환경을 조성하고자 한다. 이번 측정 방식은 단순히 평균치를 적용하는 대신 모델, 시간대, 프롬프트 캐싱 여부 등을 고려하여 각 요청의 탄소 배출량을 개별적으로 계산한다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 The same AI request emits 8.5 times more CO2 in Texas than in Sweden
원문 보기 ↗