IA on-device: aprire la strada alla prossima rivoluzione IA

A cura di Baoqi Zhu

Microsoft (NASDAQ:MSFT) ha recentemente presentato i suoi nuovi laptop Surface integrati con intelligenza artificiale (lA), riaccendendo l'interesse per i PC IA presenti sul mercato. Oltre a Microsoft, anche altri importanti produttori di PC hanno annunciato l'intenzione di immettere sul mercato PC IA integrati con il nuovo Copilot Plus di Microsoft. I PC IA con funzionalità system-on-a-chip (SoC) sono progettati per eseguire localmente attività di intelligenza artificiale generativa, note anche come "IA on-device". Una previsione dimostra che i PC IA con capacità SoC specifiche, progettati per eseguire attività di intelligenza artificiale generativa senza accedere al cloud, cresceranno da quasi 50 milioni di unità nel 2024 (mentre il mercato mondiale è di 250 milioni di unità) a oltre 167 milioni nel 2027[1]. 

Che cos’è l’IA on-device?

L’IA on-device si riferisce all'implementazione e all'esecuzione di modelli di intelligenza artificiale direttamente su dispositivi locali come smartphone, tablet, laptop e così via, senza accedere a server remoti. Per distribuire l’intelligenza artificiale su questi dispositivi, i modelli di IA addestrati vengono compressi per renderli adatti ad ambienti con risorse limitate. I modelli vengono poi tipicamente convertiti in grafici di reti neurali per garantire che siano ottimizzati per l'esecuzione su hardware e framework di IA specifiche.

Caratteristiche dell’IA on-device

Mentre l'IA generativa basata su cloud, rappresentata da ChatGPT, ha dimostrato capacità impressionanti, l'IA su dispositivo ha ancora un potenziale unico grazie alle sue caratteristiche distintive:

• Privacy dei dati: con l'IA on-device, gli utenti possono implementare modelli di intelligenza artificiale senza accedere a server remoti e i dati vengono elaborati localmente sul dispositivo. Ciò elimina la necessità di inviare informazioni sensibili al cloud, riducendo il rischio di violazione dei dati e migliorando significativamente la privacy e la sicurezza dei dati degli utenti.

• Bassa latenza: poiché l'elaborazione avviene sul dispositivo, si evita il tempo di trasmissione dei dati tra i dispositivi e i server remoti. Questa caratteristica consente tempi di risposta più rapidi, fondamentali per le applicazioni in tempo reale.

• Basso costo operativo: per i fornitori di IA basati su cloud, l'aumento dei costi energetici e della larghezza di banda sono fattori vitali per la determinazione dei prezzi. Eliminando il trasporto dei dati e trasferendo l'elaborazione ai dispositivi locali, i fornitori di servizi IA possono scaricare parte del consumo energetico del data center e ridurre i costi della larghezza di banda.

L’IA on-device rappresenta un punto di svolta?

Con lo sviluppo delle tecnologie IA on-device, sempre più dispositivi digitali saranno integrati con l'intelligenza artificiale in tempo reale, consentendo agli utenti di accedere alle soluzioni IA tramite smartphone, laptop, dispositivi indossabili, dispositivi per la casa intelligente, cuffie AR/VR, ecc. L'IA sarà più accessibile al pubblico grazie ai suoi vantaggi in termini di privacy, Iatenza e funzionalità offline. Ciò amplierà notevolmente gli scenari di applicazione dell'IA, dal mondo degli affari alla vita quotidiana, aumentando significativamente il numero di potenziali utenti dell'intelligenza artificiale e cambiando potenzialmente l'ecosistema dell'elettronica di consumo.

Inoltre, i fornitori di servizi IA otterranno una maggiore flessibilità di prezzo grazie ai minori costi operativi. Bilanciando i servizi di intelligenza artificiale tra l'IA on-device e l'IA su cloud, i fornitori possono ottimizzare i loro modelli di business, utilizzando l'IA su cloud per i servizi che richiedono maggiore scalabilità e complessità e I'IA on-device per i servizi che richiedono bassa Iatenza e privacy. L'attuale modello di data center potrebbe essere parzialmente sostituito da un modello di business più flessibile, consentendo alle aziende più piccole, focalizzate su applicazioni IA specializzate, di ottenere maggiori opportunità.

Aziende che traggono vantaggio dal trend dell'IA on-device

• I principali produttori di chip: l'IA on-device richiede processori a elevate prestazioni. Le unità di elaborazione neurale (NPU) sono acceleratori hardware progettati per eseguire in modo efficiente le attività IA. Svolgono un ruolo cruciale nel migliorare le prestazioni e l'efficienza dell'IA on-device. La crescente domanda di NPU potrebbe avvantaggiare diversi produttori di chip. Qualcomm è leader in questo settore con i suoi processori Snapdragon X Elite e X Plus, che sono gli unici a soddisfare i requisiti di performance di Microsoft (più di 40 trilioni di operazioni al secondo) per I’implementazione del nuovo Copilot Plus su laptop. Molti produttori di computer portatili, tra cui Lenovo, HP e Dell, hanno scelto i chip di Qualcomm per i loro computer portatili integrati con il nuovo Copilot Plus. Sebbene Intel (NASDAQ:INTC) e AMD (NASDAQ:AMD) siano in ritardo rispetto a Qualcomm nelle prestazioni NPU, stanno recuperando terreno. Intel prevede di lanciare il suo processore di prossima generazione, Lunar Lake, nel terzo trimestre del 2024, il quale dovrebbe competere con I'attuale vantaggio di Qualcomm. Anche AMD prevede di lanciare un processore con prestazioni NPU più elevate nel corso dell'anno. Può essere interessante tenere monitorata Ia concorrenza tra questi giganti del chip nel settore delle NPU.

• Core IP e fornitori di strumenti EDA: anche le aziende che forniscono nuclei di proprietà intellettuale (IP) e strumenti di automazione della progettazione elettronica (EDA) potrebbero trarre vantaggio dal trend dell'IA on-device. Gli strumenti EDA semplificano l'intero processo di progettazione, dall'idea iniziale all'implementazione finale, garantendo che la NPU sia efficiente, affidabile e fabbricabile. I core IP offrono componenti pre-progettati, testati e ottimizzati che accelerano lo sviluppo, migliorano le prestazioni e riducono i rischi. Synopsys e Cadence Design Systems sono due aziende leader in queste aree e potrebbero essere favorite dalla concorrenza nel settore delle NPU.

• I giganti dell'elettronica di consumo: Apple (NASDAQ:AAPL) e Microsoft sono pionieri nell'integrazione dell'intelligenza artificiale sui dispositivi nei loro prodotti principali. Apple ha anche progettato it proprio processore di accelerazione NPU, M4, per migliorare le prestazioni dei prodotti.

L'identificazione delle aziende rilevanti può essere impegnativa poiché l’IA on-device potrebbe avvantaggiare diversi segmenti, che vanno dai semiconduttori all'elettronica lA e ai fornitori di applicazioni lA. Il Nasdaq CTA Artificial Intelligence Index (NQINTEL) tracciato dal WisdomTree Artificial Intelligence UCITS ETF (WTAI) offre un approccio sistematico per cogliere la crescita potenziale del segmento lA. Le società citate sono suddivise in diversi gruppi all'interno dell'indice in base alla loro posizione nella catena del valore dell'IA. La catena del valore dell'IA comprende società legate all'IA provenienti da diversi segmenti, come i semiconduttori, i fornitori di servizi IA e i fornitori di dispositivi IA, per cogliere meglio le opportunità offerte dal trend dell'IA on-device in modo esaustivo.

Conclusione

L'IA on-device è un settore emergente destinato a rivoluzionare le applicazioni IA. Le sue caratteristiche principali, tra cui la privacy dei dati, la bassa latenza e il basso costo operativo, la differenziano dall'IA basata su cloud, che diversamente ha il potenziale per trasformare l’ecosistema dell'intelligenza artificiale. A breve termine, questa tendenza favorirà le aziende che si occupano di intelligenza artificiale nei settori dei semiconduttori, deII’elettronica basata su IA e dei fornitori di applicazioni IA. In prospettiva, amplierà gli scenari di applicazione dell'intelligenza artificiale nella vita quotidiana, abbasserà significativamente la barriera di accesso aII’intelligenza artificiale per i singoli clienti e renderà l'intelligenza artificiale potenzialmente accessibile a tutti.

- - -

[1] IDC: L’IDC prevede che i PC con intelligenza artificiale rappresenteranno quasi il 60% di tutte le spedizioni di PC entro il 2027