군련전자와 미디어텍이 공동으로 세계 최초의 스마트폰 단일기기 대형 모델 플랫폼을 공개했다. 군련의 독점 aiDAPTIV Hybrid UFS 솔루션을 통해 MoE 모델의 일부 가중치를 UFS 저장 계층으로 동적으로 오프로딩하여 DRAM 사용량을 줄여 16GB+가 필요했던 모델을 12GB DRAM 환경에서도 구동 가능하게 했다. 이는 터미널 장치에 대형 모델을 배포하는 가능성을 높인다.
This page shows a summary and AI analysis only. For the full original article, use the “Read Original” button above.