참고X
François Chollet: LLM의 한계와 Test-time Compute의 중요성 회고
모델 스케일링만으로는 AGI 달성이 어렵다는 점과 TTC의 중요성을 재확인하는 업계 리더의 분석.
요약
구글의 저명한 AI 연구자인 프랑수아 숄레(François Chollet)가 2023년부터 2024년 초까지 자신이 가졌던 LLM의 역할에 대한 판단이 틀렸음을 공개적으로 인정했다. 그는 당초 LLM이 유연한 지능을 갖춘 시스템의 기반이 될 수 있다는 가능성을 과소평가했으나, 2024년 12월 OpenAI의 o3 모델이 보여준 테스트 타임 컴퓨트(TTC)의 혁신적 성과를 기점으로 견해를 수정했다고 밝혔다. 다만 그는 초기 LLM의 규모 확장만으로 AGI를 해결할 수 있다는 2023년의 낙관적 전망은 실현되지 않았다고 지적했다. 실제로 현재의 대규모 기반 모델들도 여전히 ARC(Abstraction and Reasoning Corpus) 1 문제 해결이나 단순 수학 연산에서 신뢰성 있는 성능을 보여주지 못하고 있다. 결론적으로 숄레는 단순히 모델 규모를 키우는 것을 넘어 TTC와 같은 별도의 추론 방식 도입이 AGI 구현에 핵심적임을 강조했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @fchollet: One thing I want to make perfectly clear: back in 2023 and early 2024, I was wrong about the role that LLMs would come to play. I
원문 보기 ↗