참고X
OpenAI Astra, 새로운 '루프드 트랜스포머' 기술 적용
모델이 출력을 하지 않고 텍스트/턴 내에서 루프를 도는 최적화 기법으로, Fable보다 비용 효율적이고 고성능 기대.
요약
OpenAI의 새로운 AI 모델인 Astra가 '루프 트랜스포머(looped transformer)'라는 기술을 도입했다. 이 기술은 모델이 텍스트나 턴을 출력하지 않고도 동일한 컨텍스트 내에서 루프를 도는 방식을 사용한다. 이는 생각을 외부로 출력하지 않고 내부적으로 처리하는 최적화 기법으로 알려졌다. 결과적으로 기존 모델인 Fable 대비 비용 효율성과 성능을 크게 개선할 것으로 기대된다. 해당 기술은 향후 AI 모델의 효율적인 추론 및 처리 방식에 변화를 가져올 것으로 보인다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @bindureddy: OpenAI’s Astra uses a brand new technique called a looped transformer The model loops on the same text/turn without outputting tho
원문 보기 ↗