SAN JOSE, California - NVIDIA ha annunciato il lancio dell'architettura GPU Blackwell, progettata per migliorare in modo significativo la potenza di calcolo e l'efficienza delle organizzazioni che utilizzano modelli linguistici di grandi dimensioni (LLM) e AI generativa. Si prevede che la GPU Blackwell riduca il costo e il consumo energetico del funzionamento degli LLM fino a 25 volte rispetto al suo predecessore.
La piattaforma Blackwell include sei nuove tecnologie volte ad accelerare l'addestramento dell'IA e l'inferenza in tempo reale per modelli con un massimo di 10 trilioni di parametri. Tra queste tecnologie c'è il chip più potente al mondo, contenente 208 miliardi di transistor e un Transformer Engine di seconda generazione che supporta nuove capacità di inferenza dell'IA in virgola mobile a 4 bit.
Un'altra caratteristica è NVLink di quinta generazione, che offre un throughput bidirezionale di 1,8 TB/s per GPU, migliorando le prestazioni per gli LLM complessi. Inoltre, un motore RAS dedicato per l'affidabilità, la disponibilità e la manutenibilità, insieme a un motore di decompressione per accelerare le query di database, fanno parte dell'architettura Blackwell.
Il Superchip NVIDIA GB200 Grace Blackwell è un componente notevole della nuova architettura, che collega due GPU Tensor Core B200 alla CPU NVIDIA Grace, facilitando le prestazioni dell'intelligenza artificiale con un aumento dell'efficienza di 30 volte rispetto alle GPU Tensor Core NVIDIA H100 per i carichi di lavoro di inferenza LLM.
La piattaforma Blackwell ha suscitato grande interesse e si prevede che i principali cloud provider, i produttori di server e le aziende leader nel settore dell'intelligenza artificiale la adotteranno. Notevoli adesioni sono giunte da leader tecnologici come Sundar Pichai di Alphabet e Google, Andy Jassy di Amazon, Michael Dell di Dell Technologies ed Elon Musk di Tesla e xAI.
I prodotti NVIDIA basati su Blackwell saranno disponibili attraverso una rete globale di partner nel corso dell'anno, con fornitori di servizi cloud come AWS, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure fra i primi a offrire istanze alimentate da Blackwell.
Il portafoglio di prodotti Blackwell è inoltre supportato da NVIDIA AI Enterprise, un sistema operativo per l'intelligenza artificiale di livello produttivo che include microservizi di inferenza, framework, librerie e strumenti distribuibili su cloud, data center e workstation accelerati da NVIDIA.
Questo annuncio si basa su un comunicato stampa di NVIDIA.
Questo articolo è stato generato e tradotto con il supporto dell'intelligenza artificiale e revisionato da un redattore. Per ulteriori informazioni, consultare i nostri T&C.