MediaTek collabora con Alibaba Cloud per chip mobili di grandi dimensioni

Fonte:www.ichunt.com

Secondo lo Sci-Tech Innovation Board Daily, MediaTek, un produttore di chip per smartphone, ha implementato con successo modelli di grandi dimensioni con 1,8 miliardi e 4 miliardi di parametri sui suoi chip di punta come Dimensity 9300, ottenendo un profondo adattamento del modello di grandi dimensioni su chip mobili e consentendo a Tongyi Qianwen di eseguire più cicli di dialoghi IA anche in situazioni offline. In futuro le due parti adatteranno anche modelli più grandi di diverse dimensioni, tra cui uno con 7 miliardi di parametri, basato sul chip Dimensity.

Alibaba Cloud ha dichiarato che lavorerà a stretto contatto con MediaTek per fornire soluzioni end-side di modelli di grandi dimensioni ai produttori globali di telefoni cellulari.

Attualmente, MediaTek è l’azienda di semiconduttori con il più alto volume di spedizioni di chip per smartphone a livello globale. Secondo gli ultimi dati di Canalys, ha spedito oltre 117 milioni di unità nel quarto trimestre del 2023, classificandosi al primo posto, seguita da Apple con 78 milioni di spedizioni e Qualcomm con 69 milioni di spedizioni. Tongyi Qianwen è un grande modello fondamentale sviluppato da Alibaba Cloud. Finora ha lanciato versioni con un massimo di 100 miliardi di parametri e versioni open source con 72 miliardi, 14 miliardi, 7 miliardi, 4 miliardi, 1,8 miliardi e 500 milioni di parametri, nonché modelli di grandi dimensioni multimodali come il modello di comprensione visiva Qwen-VL e il modello audio di grandi dimensioni Qwen-Audio.

Durante il MWC2024, MediaTek ha presentato varie applicazioni di intelligenza artificiale, inclusi i chip Dimensity 9300 e 8300. Resta inteso che il chip Dimensity 9300 ha già supportato l'applicazione del modello di grandi dimensioni da 7 miliardi di parametri di Meta Llama 2 all'estero, ed è stato implementato sui telefoni della serie vivo X100 in Cina con un modello di linguaggio di grandi dimensioni da 7 miliardi di parametri sul lato finale e ha anche eseguito con successo un modello da 13 miliardi di parametri in un ambiente sperimentale lato finale.

La collaborazione tra MediaTek e Alibaba Cloud segna la prima volta che il modello di grandi dimensioni Tongyi ha raggiunto un adattamento hardware e software a livello di chip. Xu Dong, responsabile commerciale del Tongyi Lab di Alibaba, ha spiegato: "L'intelligenza artificiale finale è uno degli scenari importanti per l'applicazione di modelli di grandi dimensioni, ma deve affrontare molte sfide, come difficoltà nell'adattamento di hardware e software e ambienti di sviluppo incompleti. Alibaba Cloud e MediaTek hanno superato una serie di sfide tecniche e ingegneristiche legate all'adattamento sottostante e allo sviluppo di livello superiore, integrando realmente il modello di grandi dimensioni nel chip mobile ed esplorando un nuovo modello di implementazione di Model-on-Chip per l'AI end-side."

Oltre a MediaTek, Qualcomm promuove attivamente anche l'implementazione di modelli di grandi dimensioni sui dispositivi mobili. Il 18 marzo, Qualcomm ha annunciato il lancio della piattaforma mobile di terza generazione Snapdragon 8s, che supporta modelli linguistici di grandi dimensioni con un massimo di 10 miliardi di parametri e può anche supportare modelli di intelligenza artificiale generativa multimodale, tra cui Baichuan-7B, Gemini Nano, Llama 2. e Zhipu ChatGLM di aziende come Baidu Xiriver, Google e META. È stato riferito che Xiaomi Civi 4 Pro sarà il primo ad essere equipaggiato con la piattaforma mobile Snapdragon 8s.

Un analista del settore dell'elettronica di consumo ha affermato che la collaborazione tra Alibaba Cloud e MediaTek significa che i produttori nazionali di telefoni cellulari ora hanno un'alternativa a Baidu.

Secondo il giornalista, Honor e Samsung hanno già annunciato collaborazioni con Baidu Wenxin Yiyan. Ad esempio, l'ultimo telefono di punta di Samsung, la serie Galaxy S24, integra molteplici funzionalità del modello grande Wenxin, tra cui chiamate, traduzione e riepilogo intelligente. Inoltre, una fonte ha rivelato che Apple è attualmente in contatto con Baidu, sperando di utilizzare la tecnologia di intelligenza artificiale di Baidu, e che tra le due parti si sono già svolti colloqui preliminari.

Lin Dahua, uno dei principali scienziati dello Shanghai Artificial Intelligence Laboratory, ha affermato che con la crescita esponenziale dei grandi modelli basati sul cloud, il lato finale sta per entrare in un periodo di crescita d'oro. La collaborazione cloud-end diventerà una tendenza importante in futuro, con il cloud-side computing che stabilirà il limite massimo e l’end-side computing che supporterà l’adozione su larga scala da parte degli utenti.

Secondo le previsioni della società di consulenza IDC, il volume delle spedizioni di smartphone nel mercato cinese raggiungerà i 277 milioni di unità nel 2024, con un tasso di crescita su base annua del 2,3%. Tra questi, il volume delle spedizioni di telefoni AI raggiungerà i 36,6 milioni, con un tasso di crescita anno su anno superiore a tre cifre. L’applicazione di grandi modelli di intelligenza artificiale sui telefoni cellulari diventerà sempre più diffusa.