참고X
thdxr: 현재 AI 인프라는 성숙하지 않음… 외부 솔루션 의존 관행 경계해야
AI 인프라의 파편화와 과도한 추상화에 대한 비판. 인프라 운영의 본질적 어려움을 인지하고 직접 기술 스택을 구축하는 노력이 필요하다는 통찰.
요약
AWS가 인프라의 복잡한 문제를 해결해주며 업계가 소프트해졌고, 많은 기업이 85% 이상의 마진을 내는 순수 제품 중심 기업으로 성장할 수 있었다. 하지만 현재 AI 인프라는 성숙하지 않았음에도 많은 기업이 실제 핵심 작업을 외주화하려는 경향을 보이고 있으며, 이는 27개 이상의 모델 라우터 제품이 난립하는 원인이 됐다. 현재 많은 추론 기업이 외부 컴퓨팅 자원에 의존해 최소한의 작업만 수행하고 있으며, 넘쳐나는 자본 덕분에 표면적인 성공을 거두고 있는 것처럼 보인다. 하지만 OpenAI, Anthropic, DeepSeek, Moonshot 등 선두 기업과 일반 기업 간의 기술 격차는 여전히 매우 크다. 수익성이 높은 쉬운 길을 택하기보다, 기술 격차를 좁히기 위한 본질적이고 어려운 인프라 구축 작업을 수행해야 할 때이다.
AI가 원문을 요약한 내용으로, 부정확할 수 있습니다.
원문 제목 @thdxr: aws made the industry soft. we're used to them handling all the hard problems and everyone can be a pure product company with 85%
원문 보기 ↗