참고X
OpenAI 차세대 모델 'Astra' 및 'Sol' 관련 루머
OpenAI의 향후 모델 파이프라인에 대한 시장의 추측과 관측을 다룬 소식통의 주장.
요약
X 사용자 @iruletheworldmo는 OpenAI가 프리트레이닝 역량 보완을 위해 대규모 신규 모델군인 sol, terra, luna의 기반이 되는 ‘spud’ 프리트레이닝을 진행했다고 밝혔다. 차기 모델인 ‘astra’는 ‘doug’라는 코드명의 더욱 거대한 프리트레이닝을 거쳤다. sol은 5T(트리플리온) 규모의 모델이며, astra는 10T 규모로 설계되었다. astra는 모든 벤치마크에서 fable 모델을 능가하는 성능을 보이며, 높은 EQ(감성 지능)와 인간 작가 수준의 탁월한 작문 능력을 갖춘 것으로 평가받는다. 해당 정보는 내부 소식통을 기반으로 한 것으로 알려졌으며, OpenAI 연구진들이 특히 astra 모델에 대해 높은 기대감을 보이고 있다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @iruletheworldmo: ok, apologies in advance because i do so hate to provide actual signal. openai basically sucked at pre-training for a while and cr
원문 보기 ↗