AI 난제 해결 비용의 급락: "테스트 타임 컴퓨팅" 스케일링이 가져올 변화
주요 난제 해결 비용이 수십만 달러에서 20달러 수준으로 하락함. 추론 비용 최적화와 스케일링의 미래 임팩트 시사.
요약
AI 모델의 추론 비용이 급격히 낮아지고 있으며, 기술 발전 속도가 매우 빠르다는 점이 강조되고 있습니다. 과거 OpenAI가 o3 모델로 ARC-AGI에서 87.5%를 기록하는 데 약 50만 달러의 비용이 들었으나, 현재 Astra 모델은 약 20달러의 비용으로 더 높은 점수를 달성했습니다. 2025년에는 IMO(국제수학올림피아드) 금메달 수준의 문제를 풀기 위해 막대한 컴퓨팅 자원이 필요했지만, 2026년에는 월 20달러의 ChatGPT 구독만으로도 가능해질 전망입니다. 이는 테스트 타임 컴퓨팅(test-time compute)의 대규모 확장이 AI 성능을 비약적으로 높이고 있음을 보여줍니다. 전문가들은 1년 내로 누구나 이러한 고난도 문제를 해결할 수 있는 AI를 활용하게 될 것으로 예측합니다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @polynoamial: Yes, this result cost millions of dollars. But remember that when @OpenAI announced o3 it cost ~$500,000 to score 87.5% on ARC-AGI
원문 보기 ↗