AI 기업들, 스마트폰서 1,000억 매개변수 모델 상시 실행 요구

AI 기업들이 2028년까지 스마트폰에서 매개변수 1,000억 개 규모의 모델을 상시 실행할 수 있도록 해달라고 퀄컴(Qualcomm)에 요구했다. 업계의 요구를 전한 발언이며, 퀄컴이 해당 사양의 제품 출시를 약속한 것은 아니다.

크리스티아누 아몬(Cristiano Amon) 퀄컴 최고경영자(CEO)는 알렉스 히스와의 인터뷰에서 “AI 기업들이 2028년까지 최소 1,000억 매개변수 모델을 스마트폰에서 상시 지원해달라고 요구한다”고 말했다. 인터뷰는 10월 8일 공개됐다.

아몬이 전한 구상은 AI가 사용자의 맥락을 파악하고 여러 앱을 활용해 작업하는 에이전트형 서비스다. 2028년은 AI 기업들이 제시한 요구 시점으로, 퀄컴의 제품 출시 일정으로 확인된 것은 아니다.

퀄컴은 9월 22일 스냅드래곤 8 엘리트 익스트림 6세대와 스냅드래곤 8 엘리트 6세대를 공개했다. 두 모바일 플랫폼은 기기에서 매개변수 300억 개 이상의 혼합 전문가(MoE) 모델을 실행하도록 설계됐다.

MoE 모델은 작업에 따라 전체 매개변수 중 일부만 활성화할 수 있다. 퀄컴은 매개변수 300억 개 규모의 MoE 모델에서 토큰을 생성할 때 약 30억 개가 활성화되는 사례를 제시했다.

따라서 전체 매개변수 수만으로 실제 연산 부담을 단순 비교하기는 어렵다. 기기에서 필요한 자원은 모델 구조와 정밀도, 메모리 사용량, 생성 속도에 따라 달라진다.

스마트폰에서 AI 모델을 상시 실행하려면 메모리와 전력 부담도 고려해야 한다. 퀄컴은 새 신경망처리장치(NPU)의 공유 메모리 확대와 저전력 설계를 온디바이스 AI의 기반으로 설명했다.

온디바이스 AI는 스마트폰 같은 기기에서 직접 정보를 처리하는 방식이다. 외부 서버로 데이터를 보내는 횟수와 응답 지연을 줄일 수 있지만, 모델이 커질수록 메모리와 연산 자원 부담이 커진다.

퀄컴이 공개한 설계 설명은 회사의 기술 방향을 보여준다. 다만 스마트폰에서 1,000억 개 매개변수 모델을 상시 실행하는 제품 사양이나 독립적인 성능 검증은 제시되지 않았다.