MiLM-1.3B. Il Chat-GPT di Xiaomi

Pochi sanno che oltre cellulari e tablet, Xiaomi da anni investe nell’intelligenza artificiale, applicandola a vari ambiti come la fotografia, gli assistenti vocali e ora anche le AI generative. Queste ultime sono in grado di creare contenuti originali a partire da dati esistenti, come fa ad esempio OpenAI con il suo Chat-GPT, un chatbot basato su un modello di linguaggio di grandi dimensioni. Xiaomi ha sviluppato il suo modello di linguaggio, chiamato MiLM-6B, con un team di 3.000 dipendenti dedicati alle tecnologie AI.

Tuttavia, a differenza di altri modelli simili, Xiaomi ha voluto rendere il suo modello accessibile anche offline, su smartphone. Per farlo, ha creato una versione ridotta del suo modello, chiamata MiLM-1.3B, che ha solo 1,3 miliardi di parametri ma che promette di avere prestazioni paragonabili a quelle della versione da 6 miliardi di parametri. Xiaomi sostiene che il suo modello può rispondere a domande di vario tipo con un’intelligenza simile a quella di modelli in cloud come ChatGLM2-6B e Baichuan-13B.

Per dimostrarlo, Xiaomi ha mostrato una demo video in cui il suo chatbot risponde a domande su smartphone con un’app simile a quella di Chat-GPT. Il chatbot usa solo l’11% della CPU e 2,8 GB di RAM e risponde con una velocità di 11,2 parole al secondo. Si tratta di una performance impressionante per un sistema in locale su smartphone, resa possibile anche dalla presenza della NPU, l’unità di elaborazione dedicata all’intelligenza artificiale presente nei chip di Qualcomm e MediaTek.

Xiaomi non è l’unica azienda interessata alle AI generative su smartphone, come dimostrano le iniziative di Qualcomm e Meta ma anche di Samsung. Per ora il modello di Xiaomi si limita a generare testi, ma in futuro potrebbe essere in grado di creare anche foto e video.