💬 오늘의 한줄 냉소
이쯤 되면 ‘AI도 줄줄이 다이어트 시대’… 이제 대기업도 다이어트 좀 하시죠?
이쯤 되면 ‘AI도 줄줄이 다이어트 시대’… 이제 대기업도 다이어트 좀 하시죠?
노타가 업스테이지의 차세대 AI 모델 ‘솔라 오픈2’를 GPU 8장 → 2장만으로 구동되도록 극한의 경량화에 성공했다. 2500억 파라미터짜리 거대 모델이지만 실제론 필요한 150억만 활성화하는 MoE 구조와, 4비트 양자화/프루닝 등 신공으로 가중치 메모리도 76% 줄였다. 덕분에 기업들은 GPU 눈치 안 보고 에이전트 AI를 쓸 수 있는 길이 열린 셈.
원문: ZDNet 기사 자세히 보기
About the Author
