빌 게이츠와 샘 알트먼의 대담: GPT-4 블랙박스 내부의 불확실성과 미래
AI 모델이 작동하는 원리를 완벽히 이해하지 못한 채 스케일링하는 업계 현실에 대한 통찰. 향후 2년의 로드맵 확인.
요약
빌 게이츠와 샘 알트먼은 대담을 통해 GPT-4의 작동 원리와 그 내부에 지식이 어떻게 저장되는지 완벽히 이해하는 것이 여전히 어렵다는 점에 동의했다. 샘 알트먼은 GPT-1 초기 모델이 왜 작동하는지 정확히 모르는 상태에서 개발되었으며, 이후 스케일링 법칙을 발견해 결과물을 예측 가능하게 만들었다고 설명했다. 현재 GPT-4는 연산 과정에서 모든 토큰에 동일한 자원을 할당하며, 1만 번 질문 중 최상의 답을 스스로 선별하지 못하는 한계가 있다. 알트먼은 향후 2년간의 과제로 멀티모달, 추론, 신뢰성, 개인화 개선을 제시하며 음성, 영상 지원과 이메일·캘린더 등 개인 데이터 연동을 예고했다. 빌 게이츠는 코드 한 줄씩 검토 가능했던 기존 소프트웨어와 달리 블랙박스 형태인 현재의 AI 모델을 이해하는 데 5년 정도가 소요될 것으로 전망했다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @MyWestLord: Two legends, Bill Gates and Sam Altman, sat down for 1 hour and neither could say where Shakespeare lives inside GPT-4. Gates open
원문 보기 ↗