Le aziende produttrici di hardware per l'intelligenza artificiale stanno trasformando rapidamente il settore tecnologico. NVIDIA ha fatto molta strada dai suoi esordi nel settore delle schede grafiche. L'azienda ha raggiunto una valutazione di 4 miliardi di dollari, diventando una delle aziende più preziose al mondo.
I numeri in questo settore sono impressionanti. Bloomberg Intelligence prevede che la spesa per l'intelligenza artificiale generativa passerà da 67 miliardi di dollari nel 2023 a 1.3 trilioni di dollari entro il 2032. Price Waterhouse Coopers stima che l'impatto economico dell'intelligenza artificiale generativa raggiungerà i 15.7 trilioni di dollari entro il 2030. Queste cifre enormi spiegano perché i giganti della tecnologia sono impegnati in un'intensa battaglia per la leadership di mercato.
Un mercato un tempo specializzato si è trasformato in uno dei campi di battaglia più feroci della tecnologia. I principali produttori di chip per l'intelligenza artificiale continuano ad ampliare le possibilità: la GPU Blackwell di NVIDIA si distingue per una velocità 2.5 volte superiore e un'efficienza energetica 25 volte superiore rispetto ai suoi predecessori.
La concorrenza è in crescita poiché le grandi aziende ora progettano i propri chip anziché dipendere da fornitori esterni. Taiwan Semiconductor ha intensificato la produzione di chip all'avanguardia a 3 e 5 nm per soddisfare la crescente domanda.
Questo articolo vi mostrerà le 15 aziende leader nel settore dell'hardware per l'intelligenza artificiale che dominano il mercato odierno, i loro migliori prodotti e il loro ruolo nel plasmare il futuro dell'informatica.
NVIDIA è leader mondiale nella produzione di chip per l'intelligenza artificiale. Le sue GPU alimentano ogni cosa, dai veicoli autonomi ai modelli linguistici di grandi dimensioni. L'approccio innovativo dell'azienda l'ha posizionata in vantaggio rispetto ai concorrenti nel mondo dell'hardware per l'intelligenza artificiale in continua evoluzione.
La gamma di acceleratori AI di NVIDIA comprende diversi prodotti potenti. La GPU A100 Tensor Core è il cuore pulsante delle aziende e offre fino a 312 TFLOPS di prestazioni di deep learning con Tensor Core di terza generazione. La GPU H100 si basa sull'architettura Hopper ed elabora modelli linguistici di grandi dimensioni 30 volte più velocemente rispetto alle versioni precedenti.
Il B300 (Blackwell Ultra) alza l'asticella con 288 GB di memoria HBM3e per GPU e 1,100 petaflop di prestazioni di inferenza FP4 ad alta densità. Un singolo sistema rack-scale GB300 NVL72 elabora 12,934 token al secondo per GPU.
NVIDIA è leader nei benchmark MLPerf, che misurano le prestazioni dell'intelligenza artificiale nel settore. La piattaforma ha ottenuto i tempi di training più rapidi in tutti i benchmark MLPerf Training v5.1, tranne uno. L'azienda detiene inoltre tutti i record di prestazioni MLPerf Inference per GPU per data center.
I risultati finanziari parlano chiaro: un investimento di 5 milioni di dollari nel sistema GB200 NVL72 può generare circa 75 milioni di dollari di entrate in token, offrendo un ritorno sull'investimento pari a 15 volte.
NVIDIA instaura collaborazioni strategiche in diversi settori. OpenAI prevede di implementare almeno 10 gigawatt di sistemi NVIDIA per la sua infrastruttura di intelligenza artificiale di nuova generazione. NVIDIA investirà fino a 100 miliardi di dollari in OpenAI per ogni gigawatt implementato.
L'azienda collabora con colossi automobilistici come General Motors per tecnologie di guida autonoma e intelligenza artificiale nella produzione. Grazie alla collaborazione con T-Mobile e altri partner, NVIDIA crea il primo stack wireless nativo per l'intelligenza artificiale negli Stati Uniti per il 6G.
NVIDIA presenta un'ambiziosa roadmap con l'architettura "Rubin" (dal nome dell'astronoma Vera Rubin), il cui lancio è previsto per la seconda metà del 2026. Questa piattaforma di nuova generazione fornirà 3.6 EFLOPS di elaborazione FP4 densa, 3.3 volte più potente dell'attuale architettura Blackwell.
Il più potente "Rubin Ultra" arriverà nel 2027 e offrirà 15 ExaFLOPS di elaborazione inferenziale FP4 grazie alla sua configurazione NVL576. L'interfaccia NVLink7 offre una connettività 6 volte più veloce rispetto al suo predecessore, con una velocità di trasmissione di 1.5 PB/s. NVIDIA prevede un'architettura "Feynman" per il 2028, che prende il nome dal fisico Richard Feynman.
AMD si propone come un forte concorrente nella corsa all'hardware per l'intelligenza artificiale. L'azienda sfida NVIDIA nella sua leadership di mercato con la sua crescente gamma di acceleratori e processori ad alte prestazioni.
L'acceleratore AMD Instinct MI300X è il cuore pulsante della gamma di chip AI dell'azienda, con i suoi 192 GB di memoria HBM3. Il nuovo MI325X è salito alla ribalta. È dotato di 288 GB di memoria HBM3E e offre una larghezza di banda di memoria di 6 terabyte al secondo, 1.3 volte superiore a quella offerta dalla concorrenza. I processori AI Ryzen di AMD sono ora installati su oltre 250 piattaforme PC. Questi processori portano le funzionalità AI su laptop e desktop.
I test sul campo dimostrano che gli acceleratori AMD Instinct MI300X offrono prestazioni elevate rispetto ai concorrenti. I chip utilizzano il software ROCm 6 per ottenere prestazioni di inferenza 1.3 volte migliori sui modelli Meta Llama-3 70B. Offrono inoltre un throughput 1.2 volte migliore su Mistral-7B. Hugging Face testa 700,000 dei suoi modelli più popolari sugli acceleratori AMD Instinct MI300X ogni notte per verificarne la compatibilità.
AMD ha stretto solide partnership di settore. OpenAI ha firmato un massiccio accordo pluriennale da 6 gigawatt con AMD. La prima implementazione da gigawatt inizierà nel 2026. Oracle Cloud Infrastructure prevede di implementare 50,000 GPU MI450. Microsoft Azure utilizza MI300X per i servizi OpenAI. Dell Technologies (PowerEdge XE9680), Supermicro, Lenovo e HPE hanno unito le forze con AMD. AMD ha avviato una collaborazione da 10 miliardi di dollari con HUMAIN per costruire un'infrastruttura di intelligenza artificiale in Arabia Saudita e negli Stati Uniti.
AMD prevede di rilasciare nuovi acceleratori AI ogni anno. Il MI325X arriverà nel quarto trimestre del 2024. Verrà lanciata la serie MI350, basata sull'architettura CDNA 4. Promette prestazioni di inferenza AI 35 volte più veloci rispetto al MI300. I sistemi MI400/MI450 "Helios" arriveranno nel 2026 con memoria HBM4 che offre una larghezza di banda di 19.6 TB/s. La serie MI500 seguirà nel 2027. Per i dispositivi personali, le prossime architetture "Gorgon" (inizio 2026) e "Medusa" (inizio 2027) dovrebbero offrire un'elaborazione AI on-device fino a 10 volte migliore rispetto ai livelli del 2024.
Google ha aperto la strada al mercato dei chip AI personalizzati con le sue unità di elaborazione tensoriale (TPU). L'azienda ha sviluppato questi chip per uso interno nel 2015 e li ha resi accessibili ai clienti cloud entro il 2018. Il loro investimento iniziale ha dato i suoi frutti. Il gigante della tecnologia ora controlla il 58% del mercato degli acceleratori AI cloud personalizzati.
La gamma TPU rappresenta la linfa vitale della strategia hardware di Google per l'intelligenza artificiale. Questi circuiti integrati specifici per applicazione sono specificamente dedicati all'elaborazione delle reti neurali. L'attuale modello di punta, Ironwood (TPU v7), offre 4,614 teraflop per chip. È 4 volte più veloce del suo predecessore, sia per i carichi di lavoro di training che di inferenza.
La linea di prodotti include Trillium (TPU v6), la serie TPU v5 e la Edge TPU che gestisce l'intelligenza artificiale sui dispositivi. Google ha lanciato Axion, la sua prima CPU generica, per gestire carichi di lavoro non AI.
La potenza di calcolo dei pod TPU v4 di Google raggiunge 1.1 exaflops con 4,096 chip che lavorano insieme. Ogni chip TPU v4 elabora i dati a 275 teraflops, con 32 GiB di memoria HBM2 e 1200 GBps di larghezza di banda.
Questa potenza bruta si è tradotta in un successo concreto. Il supercomputer di Google per l'addestramento al machine learning ha ottenuto la vittoria in sei delle otto misurazioni MLPerf. Il sistema ha raggiunto oltre 430 petaflop di prestazioni di picco utilizzando 4,096 chip TPU v3.
Anthropic guida le collaborazioni più importanti di Google. L'azienda punta ad accedere a un milione di chip TPU, un accordo del valore di decine di miliardi di dollari. Entro il 2026, questo accordo fornirà ad Anthropic oltre un gigawatt di capacità di calcolo.
Broadcom è un partner produttivo chiave, con investimenti di oltre 3 miliardi di dollari nella progettazione dei chip. TSMC gestisce il 92% della produzione effettiva.
Il nuovo anno vedrà Ironwood diventare disponibile. Google prevede di espandere contemporaneamente il suo portfolio hardware. Il Progetto Suncatcher, una costellazione di satelliti alimentati a energia solare e dotati di TPU, verrà lanciato entro il 2027.
La divisione Quantum AI dell'azienda ha creato Willow, un chip quantistico in grado di completare un calcolo in meno di cinque minuti. I supercomputer tradizionali impiegherebbero 10 settilioni di anni per lo stesso compito. Abbiamo ancora molta strada da fare, ma possiamo consolidare questi progressi, poiché il settore dell'intelligenza artificiale si concentra maggiormente sull'inferenza che sull'addestramento. La strategia hardware di Google sembra pronta per il futuro.
Amazon Web Services si distingue nel settore dell'hardware per l'intelligenza artificiale grazie ai suoi acceleratori personalizzati che bilanciano prestazioni e costi per i carichi di lavoro di intelligenza artificiale.
AWS offre due distinte famiglie di chip AI: Trainium per l'addestramento e Inferentia per i carichi di lavoro di inferenza. L'ultimo chip Trainium2 offre prestazioni fino a 4 volte superiori rispetto alle versioni precedenti. Le istanze Trn2 eccellono nelle attività di intelligenza artificiale generativa con 16 chip Trainium2 connessi tramite NeuronLink. Queste istanze offrono 20.8 petaflop di elaborazione FP8 e 1.5 TB di memoria HBM3. Il chip Inferentia2 alimenta le istanze Inf2 e offre 190 TFLOPS di prestazioni FP16 con 32 GB di HBM per chip. Questo rappresenta un aumento di memoria di 4 volte rispetto all'Inferentia di prima generazione.
Trainium2 dimostra una notevole efficienza dei costi:
Inferentia2 raggiunge una produttività fino a 4 volte superiore e una latenza 10 volte inferiore rispetto alla versione precedente. Le istanze Inf1 offrono una produttività 2.3 volte superiore a un costo per inferenza inferiore del 70% rispetto a istanze EC2 simili.
AWS ha firmato un accordo da 38 miliardi di dollari con OpenAI della durata di sette anni. Questo accordo fornisce centinaia di migliaia di GPU NVIDIA abbinate a decine di milioni di CPU. Ci siamo concentrati sulle applicazioni di intelligenza artificiale interne e su partner come Anthropic con il nostro silicio personalizzato. L'implementazione del "Project Rainier" prevede 400,000 chip Trainium2 per Anthropic, a dimostrazione dell'enorme portata di queste partnership.
Trainium3 sarà disponibile in anteprima, per poi essere implementato a pieno regime all'inizio del 2026. Questo chip di nuova generazione promette prestazioni doppie rispetto a Trainium2 e un'efficienza energetica superiore del 40% grazie al processo a 3 nm di TSMC. AWS prevede di raddoppiare la capacità del suo data center, passando da 10 GW a 20 GW tra il 2026 e il 2027. Questo rappresenta un investimento significativo nell'infrastruttura di intelligenza artificiale.
Microsoft è entrata nel mercato degli acceleratori di intelligenza artificiale con un approccio unico. L'azienda ha sviluppato hardware specializzato che si integra perfettamente con la sua infrastruttura cloud per massimizzare le prestazioni.
Il progetto Brainwave ha segnato il primo passo di Microsoft nell'accelerazione dell'intelligenza artificiale. Utilizza array di porte programmabili sul campo (FPGA) per creare una "soft Neural Processing Unit" che fornisce inferenza IA immediata con latenza bassissima. Il sistema ha raggiunto l'impressionante potenza di 39.5 teraflop su FPGA Intel Stratix 10 ed elabora ogni richiesta in meno di un millisecondo.
Azure Maia 100, il chip AI di punta di Microsoft, è stato lanciato a novembre 2023. Questo potente processore si estende su 820 mm², basato sul processo produttivo a 5 nm di TSMC e dotato di tecnologia di packaging avanzata. Il chip integra 64 GB di memoria HBM2E con una larghezza di banda di 1.8 terabyte al secondo. Microsoft ha inoltre creato la CPU Azure Cobalt 100, un processore basato su architettura ARM che semplifica i processi grazie all'efficienza energetica.
Maia 100 gestisce fino a 4800 Gbps di larghezza di banda all-gather e scatter-reduced. Supporta una larghezza di banda all-to-all di 1200 Gbps tramite un protocollo Ethernet personalizzato. L'unità tensore del chip supporta diversi tipi di dati, incluso il formato MX di Microsoft lanciato nel 2023.
Le VM Azure NC H100 v5 di Microsoft hanno mostrato prestazioni superiori del 46% nei benchmark MLPerf rispetto ai prodotti con GPU da 80 GB di memoria. Secondo il CTO Kevin Scott, l'azienda punta a passare ai propri chip in futuro.
Microsoft ha inaugurato il suo secondo data center Fairwater AI ad Atlanta nell'ottobre 2024. La struttura è dotata di sistemi rack-scale NVIDIA GB200 NVL72, in grado di supportare centinaia di migliaia di GPU Blackwell. Grazie alla collaborazione con NVIDIA, Microsoft è diventato il primo fornitore di servizi cloud a implementare NVIDIA GB300 NVL72 su larga scala.
L'azienda collabora con Qualcomm per sviluppare l'intelligenza artificiale su Windows. Ottimizzano la Hexagon NPU con Windows ML per eseguire in modo efficiente modelli come Phi Silica.
La roadmap originale dei chip includeva tre acceleratori: Braga, Braga-R e Clea. Questi chip sono destinati all'implementazione nei data center, rispettivamente nel 2026 e nel 2027. La produzione di massa di Braga è stata posticipata al 2026, con un ritardo di almeno sei mesi.
Fonti interne affermano che il chip "sarà ben al di sotto delle prestazioni del chip di punta Blackwell di NVIDIA". La variante Clea potrebbe finalmente eguagliare l'offerta di NVIDIA quando arriverà nel 2027. Microsoft ha ottenuto la licenza per la proprietà intellettuale del design del chip di OpenAI, il che potrebbe accelerarne lo sviluppo di 12-18 mesi.
Intel, il più antico colosso dell'informatica, introduce un approccio CPU-first nel mercato dell'hardware AI e sfrutta il suo predominio x86 tra le tecnologie GPU emergenti.
I processori Xeon 6 sono al centro del portfolio di intelligenza artificiale di Intel e offrono prestazioni di intelligenza artificiale fino al 50% superiori con un terzo di core in meno rispetto ad AMD. Questi processori sono dotati di accelerazione AI integrata in ogni core, che alimenta modelli di inferenza, training e GenAI di piccole dimensioni. I processori Intel Core Ultra (Serie 2) supportano oltre 300 funzionalità accelerate dall'intelligenza artificiale tramite l'AI PC Acceleration Program di Intel per il personal computing.
Intel ha presentato la sua GPU per data center Crescent Island, pensata per carichi di lavoro di inferenza AI. Il chip è dotato di microarchitettura Xe3P, 160 GB di memoria LPDDR5X e offre prestazioni per watt ottimizzate.
Il processore di punta Intel Xeon 6980P con 128 core mostra prestazioni di intelligenza artificiale straordinarie nelle applicazioni terrestri. Il processore raggiunge fino a 964.57 token al secondo per l'inferenza LLM quando si esegue PyTorch 2.6.0 con ottimizzazione IPEX. Le misurazioni MLPerf v5.1 hanno mostrato risultati eccezionali, con i processori Xeon 6 che hanno dimostrato un miglioramento delle prestazioni di 1.9 volte rispetto alle generazioni precedenti.
Intel ha stretto una partnership storica con NVIDIA per sviluppare diverse generazioni di prodotti PC e data center personalizzati. Questo accordo include l'investimento di 5 miliardi di dollari di NVIDIA in azioni ordinarie Intel. Intel Foundry si è aggiudicata un contratto per la realizzazione del processore AI di nuova generazione Maia 2 di Microsoft utilizzando il suo processo di fabbricazione 18A.
La nuova GPU per data center di Crescent Island sarà disponibile per i clienti nella seconda metà del 2026. Intel ha deciso di interrompere la produzione dei processori per reti neurali Nervana dopo aver acquisito Habana Labs per 2 miliardi di dollari, per concentrarsi sulla propria tecnologia.
Apple integra le capacità neurali nell'architettura dei suoi chip tramite una strategia esclusiva per il silicio che la distingue nello sviluppo di hardware per l'intelligenza artificiale.
Il chip M5 di Apple rappresenta una svolta nell'elaborazione dell'intelligenza artificiale. Ogni core GPU contiene acceleratori neurali che offrono una potenza di calcolo GPU per l'intelligenza artificiale oltre 4 volte superiore rispetto al chip M4. Il chip utilizza la tecnologia a 3 nm di terza generazione e dispone di dieci core: quattro per le prestazioni e sei per l'efficienza. Il Neural Engine a 16 core del chip funziona con una larghezza di banda di memoria unificata di 153 GB/s per elaborare 133 trilioni di operazioni al secondo, ovvero dodici volte di più di quanto potrebbe gestire il chip M1.
Il chip M5 ha stabilito un nuovo record con 4,263 punti nei test single-core di Geekbench 6, superando tutti i processori Mac e PC. Il chip ha ottenuto 17,862 punti nei test multi-core ed è più veloce del 20% rispetto all'M4. Le prestazioni grafiche mostrano un miglioramento del 30% rispetto all'M4, mentre le applicazioni con ray-tracing sono più veloci del 45%.
Apple prevede di investire 600 miliardi di dollari negli Stati Uniti entro il 2027. L'azienda creerà 20,000 nuovi posti di lavoro, concentrandosi sull'intelligenza artificiale e sull'ingegneria del silicio. L'azienda ha stretto collaborazioni strategiche con Broadcom per creare il chip Baltra. Alcuni report suggeriscono una partnership con Google per integrare i modelli di intelligenza artificiale di Gemini in Siri.
Apple lancerà la famiglia M5 completa (M5 Pro, M5 Max, Ultra) nel 2026, a cui potrebbero seguire le varianti M6. L'azienda prevede un importante restyling del MacBook Pro per quell'anno, con chip M6 Pro/Max, display OLED e funzionalità touchscreen.
Il mondo dell'intelligenza artificiale sui dispositivi ha un leader di spicco in Qualcomm. I suoi processori a basso consumo energetico consentono l'uso dell'intelligenza artificiale in una varietà di piattaforme.
Il portfolio di intelligenza artificiale dell'azienda presenta l'NPU Hexagon integrata nei processori Snapdragon, che offre prestazioni eccezionali per applicazioni mobili e PC. Snapdragon X Elite con NPU Hexagon gestisce le attività di intelligenza artificiale sui dispositivi, proteggendo al contempo la privacy degli utenti. Qualcomm ha presentato gli acceleratori AI200 e AI250 per data center, che offrono prestazioni rack-scale con 768 GB di memoria LPDDR per scheda. I core multipli supportano l'elaborazione eterogenea tramite l'AI Engine, rendendolo ideale per smartphone, laptop e dispositivi IoT.
La NPU dello Snapdragon 8 Elite Gen 5 supera del 37% le prestazioni del suo predecessore ed elabora 220 token al secondo. Il modello di punta X2 Elite Extreme ha ottenuto un punteggio di 4,080 nei test single-core di Geekbench 6.5 e ha raggiunto 23,491 nelle valutazioni multi-core, il 50% in più rispetto alle generazioni precedenti. I processori Snapdragon X Elite caricano le pagine web il 53% più velocemente rispetto all'AMD Ryzen AI 9 HX 370 nelle applicazioni di uso quotidiano.
L'azienda ha stretto alleanze reciprocamente vantaggiose con IBM per integrare watsonx.governance e Microsoft per ottimizzare Windows ML per la Hexagon NPU. Qualcomm e Advantech collaborano su sistemi di intelligenza artificiale edge che supportano da una a quattro schede di accelerazione PCIE per intelligenza artificiale. Humain è diventato il primo cliente per i chip di intelligenza artificiale per data center di Qualcomm con un'implementazione da 200 megawatt.
L'AI200 arriverà sul mercato nel 2026, mentre l'AI250 con elaborazione near-memory seguirà nel 2027 e promette una larghezza di banda di memoria 10 volte superiore. Seguiranno rilasci annuali, con particolare attenzione alle prestazioni di inferenza e all'efficienza energetica.
Cerebras Systems trasforma l'hardware AI attraverso il suo enorme Wafer-Scale Engine (WSE). Questo processore innovativo sfida le architetture dei chip tradizionali con un approccio di elaborazione completamente diverso.
Il Wafer-Scale Engine di terza generazione (WSE-3) è il leader della gamma di processori Cerebras, con 4 trilioni di transistor e 900,000 core AI su un singolo wafer di silicio. Il processore si estende su una superficie di 46,225 mm², il che lo rende 57 volte più grande della GPU H100 di NVIDIA. Offre 125 petaflop di potenza di calcolo AI. Il sistema CS-3 basato su WSE-3 supporta una memoria esterna fino a 1.2 petabyte e addestra modelli con un massimo di 24 trilioni di parametri.
I sistemi dell'azienda hanno ripetutamente battuto i record di prestazioni. Il loro sistema di inferenza genera 969 token al secondo con Llama 3.1-405B, con prestazioni fino a 75 volte superiori rispetto alle soluzioni basate su GPU degli hyperscaler. Il sistema supera di 21 volte le prestazioni della GPU Blackwell DGX B200 di NVIDIA, consumando 1/3 in meno di costi e consumi. Le applicazioni scientifiche mostrano risultati ancora più impressionanti. Il sistema ha ottenuto una velocità 130 volte superiore rispetto alle GPU NVIDIA A100 nelle simulazioni di energia nucleare. Ha eseguito simulazioni di dinamica molecolare 748 volte più velocemente del supercomputer Frontier.
Cerebras ha unito le forze con IBM e Meta come membro fondatore dell'AI Alliance. Il lavoro dell'azienda con G42 ha prodotto 8 exaFLOP di prestazioni di supercomputer AI tramite Condor Galaxy 1 e 2. ZS ha integrato i sistemi CS-3 nella propria piattaforma MAX.AI attraverso una nuova partnership. AlphaSense ha collaborato con Cerebras per potenziare le capacità di market intelligence.
Cerebras ha ottenuto 1.1 miliardi di dollari di finanziamenti di Serie G per promuovere la propria tecnologia su scala wafer. L'azienda mira a trasformare i cluster di sistemi CS-3 in supercomputer di intelligenza artificiale senza le complessità di elaborazione distribuita. Le innovazioni future potrebbero includere lo stacking 3D per aggiungere memoria SRAM ai wafer, il che potrebbe espandere le capacità di questa rivoluzionaria architettura di intelligenza artificiale.
Groq sta rimodellando il panorama dell'intelligenza artificiale con velocità così elevate che i concorrenti si stanno affrettando a tenere il passo.
Il motore di inferenza Language Processing Unit (LPU) è il prodotto principale di Groq. Ogni chip contiene 230 MB di SRAM e offre una larghezza di banda di memoria on-die fino a 80 TB/s. Il chip mostra una potenza notevole con 750 TOP (INT8) e 188 TFLOP (FP16 a 900 MHz). È possibile acquistare l'acceleratore GroqCard™ per $ 19,948. L'hardware utilizza solo SRAM senza memoria on-chip ad alta larghezza di banda. Questa scelta progettuale offre velocità straordinarie per carichi di lavoro specifici, ma presenta limiti di capacità.
I test di ArtificialAnalysis.ai dimostrano le eccezionali capacità di Groq. Il sistema raggiunge 241 token al secondo, più del doppio della velocità di altri provider. I test di Groq si spingono ancora oltre, fino a 300 token al secondo. Il sistema risponde rapidamente, fornendo 100 token in output in soli 0.8 secondi. Il sistema genera oltre 500 parole in circa un secondo, mentre le GPU NVIDIA impiegano quasi 10 secondi per la stessa attività.
IBM ha stretto una partnership con Groq per integrare GroqCloud in Watsonx Orchestrate. I clienti del settore sanitario di IBM possono ora analizzare le informazioni in tempo reale. Groq ha inoltre stretto una partnership con Carahsoft per servire il settore pubblico. L'azienda ha aperto un data center europeo con Equinix a Helsinki, fornendo un'infrastruttura di intelligenza artificiale a bassa latenza.
L'azienda prevede di aggiungere più di dodici nuovi data center nel 2026, ampliando le 12 strutture già create. Groq opera negli Stati Uniti, in Canada, in Medio Oriente e in Europa. Prevede di espandersi in Asia, con l'India come obiettivo principale. Un recente round di finanziamento ha raccolto 750 milioni di dollari, con una valutazione di 6.9 miliardi di dollari. L'azienda supporta ora oltre due milioni di sviluppatori e aziende Fortune 500.
Meta abbandona l'affidamento a chip di terze parti creando potenti acceleratori di intelligenza artificiale progettati su misura per i suoi social network.
Il Meta Training and Inference Accelerator (MTIA v2), il chip di punta, mostra capacità straordinarie: 354 TOPS di calcolo INT8 e 177 teraflop di precisione FP16. Questi chip sono costruiti su nodi da 5 nm con 256 MB di memoria on-chip e 2.7 TB/s di larghezza di banda. Offrono prestazioni 3.5 volte superiori nel calcolo denso rispetto a MTIA v1 e raggiungono miglioramenti di 7 volte nelle prestazioni di calcolo sparse. Meta ha iniziato a testare il suo primo chip di training AI interno. Questa mossa potrebbe ridurre i 10 miliardi di dollari spesi per le GPU Nvidia nel 2023.
I test della piattaforma mostrano un throughput di servizio del modello 6 volte superiore e prestazioni per watt 1.5 volte superiori rispetto ai sistemi di prima generazione. I chip si comportano bene con modelli di classificazione e raccomandazione di varia complessità. I primi risultati mostrano miglioramenti delle prestazioni di 3 volte in quattro modelli di valutazione chiave.
Meta ha stretto un'alleanza pluriennale con Arm per migliorare l'intelligenza artificiale su più livelli di elaborazione. Questo sforzo congiunto potenzia il runtime Executorch di PyTorch con Arm KleidiAI. La collaborazione utilizza le piattaforme Neoverse di Arm per i sistemi di raccomandazione di Meta che alimentano Facebook e Instagram.
Meta prevede di lanciare il suo primo supercluster di intelligenza artificiale multi-gigawatt, "Prometheus", nel 2026. L'azienda investirà "centinaia di miliardi" in infrastrutture di intelligenza artificiale.
IBM crea una relazione simbiotica tra i progressi quantistici e le innovazioni di elaborazione classica, bilanciando l'informatica aziendale tradizionale con lo sviluppo di hardware di intelligenza artificiale all'avanguardia.
Il processore Telum II guida la strategia hardware di intelligenza artificiale di IBM con otto core ad alte prestazioni a 5.5 GHz. Questo processore offre un aumento del 40% della capacità della cache on-chip, per un totale di 360 MB. L'acceleratore AI integrato offre una capacità di elaborazione per chip quattro volte superiore rispetto al suo predecessore. Un altro potente componente, l'IBM Spyre Accelerator, è dotato di 32 core di elaborazione per chip e supporta fino a 1 TB di memoria su otto schede.
Le capacità di gestione dei dati sono migliorate significativamente con l'unità di accelerazione IO di Telum II, che mostra un aumento del 50% della densità IO. Ogni chip Spyre fornisce 300 TOPS di elaborazione mantenendo un basso consumo energetico di 75 W. I test dimostrano che un sistema IBM Z dotato di 96 schede Spyre può raggiungere livelli di prestazioni fino a 30 PetaOps.
AMD e IBM hanno ampliato la loro collaborazione per rendere disponibile la GPU Instinct™ MI300X su IBM Cloud. IBM ha inoltre stretto una partnership con Intel Foundry per la produzione di chip avanzati.
La roadmap dell'azienda per l'intelligenza artificiale si estende fino al 2030 e oltre. Tra le tappe principali figurano i trasformatori multimodali entro il 2024, architetture neurali che vanno oltre i trasformatori e capacità di ragionamento avanzate entro il 2026.
Jim Keller, il leggendario progettista di chip, guida Tenstorrent, che si distingue nel campo dell'hardware AI per il suo approccio open source e l'architettura RISC-V.
Tenstorrent produce diversi acceleratori AI per diversi carichi di lavoro. Il loro processore Grayskull è stato lanciato nell'aprile 2020 con 120 core Tensix che offrono 332 TFLOPS di prestazioni FP8. La serie Wormhole offre un valore eccezionale: l'n150 ($999) è dotato di 72 core Tensix che generano 262 TFLOPS di elaborazione FP8 con 12 GB di memoria GDDR6. L'n300 ($1399) raddoppia queste specifiche. Il loro chip Blackhole avanzato contiene 140 core Tensix++ con processo a 6 nm e raggiunge 774 TFLOPS (FP8) con 16 core CPU RISC-V.
Grayskull ha raggiunto un'efficienza di picco di 1.56 TFLOP/Watt durante i test. I chip hanno mostrato prestazioni migliori rispetto ai processori Intel Sapphire Rapids nei parametri grezzi, nonostante siano destinati a segmenti di mercato diversi.
L'azienda ha stretto collaborazioni strategiche con marchi globali come LG, Hyundai, AIREV e SingularityNET. Samsung Securities ha guidato il suo recente round di finanziamento da 700 milioni di dollari, con LG Electronics e Jeff Bezos tra gli altri investitori, che ha valutato l'azienda a 2.6 miliardi di dollari.
L'azienda collabora con TSMC, Samsung e Rapidus per i nodi di processo a 2 nm. Il loro programma di formazione giapponese sulla progettazione di chip AI mira ad ampliarsi fino a raggiungere 40-60 candidati entro il 2026.
TSMC guida la rivoluzione dell'intelligenza artificiale da dietro le quinte. L'azienda produce silicio che rende possibile l'intelligenza artificiale per quasi tutti i principali attori del settore.
TSMC Tecnologia A16 La produzione inizierà nel 2026. Questa tecnologia avanzata è caratterizzata da transistor nanosheet con innovative soluzioni di alimentazione sul lato posteriore. L'azienda prevede di avviare la produzione con processo N2 (classe 2 nm). N2P e A16 (classe 1.6 nm) seguiranno nel 2026. La loro tecnologia System-on-Wafer offre prestazioni eccezionali a livello di wafer, soddisfacendo i futuri requisiti di intelligenza artificiale per i data center hyperscaler.
Il processo A16 supera significativamente il processo N2P. Offre una velocità superiore dell'8-10% a parità di tensione e riduce i consumi del 15-20% a parità di velocità. I prodotti per data center registrano un miglioramento fino a 1.10 volte nella densità dei chip. Anche il processo A14 mostra miglioramenti impressionanti. Offre una velocità superiore fino al 15% o un consumo energetico inferiore del 30% rispetto a N2. La densità logica aumenta del 20%.
Lo stabilimento TSMC di Phoenix ha avviato la produzione in serie di chip per NVIDIA. Questo segna una significativa collaborazione tra questi giganti dell'intelligenza artificiale. OpenAI completerà il suo primo progetto di chip personalizzato con TSMC utilizzando la tecnologia di processo a 3 nanometri. L'influenza dell'azienda si estende ulteriormente, supportando i flussi di progettazione AI di Cadence per le tecnologie di processo N3, N2 e A16.
L'azienda lancerà A16 nel 2026, seguito da A14 nel 2028. Il loro System-on-Wafer con tecnologia CoWoS arriverà nel 2027. Questa innovazione consentirà di realizzare sistemi a livello di wafer che corrispondano alla potenza di calcolo di un intero server.
Broadcom è diventata la linfa vitale dell'infrastruttura di rete AI grazie ai suoi acceleratori personalizzati e alle soluzioni di switching avanzate.
Thor Ultra è la prima scheda di rete Ethernet AI 800G del settore, leader nella linea di prodotti Broadcom, pensata per data center AI su larga scala che supportano oltre 100,000 XPU. L'azienda produce la serie di switch Tomahawk 6, che offre 102.4 Tbps di larghezza di banda e si adatta a molteplici configurazioni. Il portfolio di soluzioni di networking include Thor Ultra per la connettività, insieme alle famiglie di switch Tomahawk e Jericho, che funzionano insieme come piattaforma end-to-end. L'amministratore delegato Hock Tan sottolinea che questi prodotti di networking rappresentano solo una parte delle potenzialità di mercato di Broadcom nel settore dell'intelligenza artificiale, che raggiungeranno i 60-90 miliardi di dollari entro il 2027.
Il team ha raddoppiato la larghezza di banda su Thor Ultra rispetto al suo predecessore. Tomahawk 6 supporta 512 porte XPU a 200 Gbps o fino a 1,024 porte a 100 Gbps. Gli switch ad alta frequenza dell'azienda possono connettere oltre 100,000 XPU in una rete scale-out a due livelli. Broadcom utilizza le sue avanzate tecnologie SerDes e DSP per raggiungere queste specifiche.
OpenAI ha annunciato una collaborazione con Broadcom per 10 gigawatt di acceleratori di intelligenza artificiale personalizzati. Prima di questo annuncio, Broadcom si era aggiudicata un ordine da 10 miliardi di dollari da un cliente anonimo per chip di intelligenza artificiale personalizzati. La collaborazione dell'azienda con Google su diverse generazioni di processori Tensor ha generato miliardi di fatturato.
Broadcom prevede una crescita sostanziale del fatturato derivante dall'intelligenza artificiale per l'anno fiscale 2026. Il fatturato derivante dai semiconduttori per l'intelligenza artificiale ha raggiunto i 12.2 miliardi di dollari nell'anno fiscale 2024. L'azienda sta sviluppando la sua tecnologia di packaging 3D per migliorarne le prestazioni. I primi chip progettati da OpenAI grazie a questa partnership arriveranno nella seconda metà del 2026.
Il mercato dell'hardware per l'intelligenza artificiale è cambiato radicalmente dal 2023. Quello che è iniziato come un settore da 67 miliardi di dollari dovrebbe ora raggiungere 1.3 trilioni di dollari entro il 2032. Questi 15 giganti della tecnologia continuano a sfidare i limiti prestazionali con ogni nuova generazione di chip. NVIDIA rimane all'avanguardia con la sua rivoluzionaria architettura Blackwell. AMD, Google e altri hanno colmato notevolmente il divario grazie alle proprie innovazioni.
Le collaborazioni strategiche sono diventate cruciali in questa corsa ad alto rischio. Aziende come OpenAI ora collaborano con più fornitori di hardware contemporaneamente. Firmano accordi con NVIDIA, AMD e Broadcom per implementazioni di elaborazione su larga scala, misurate in gigawatt anziché in singoli chip. Questo mostra un futuro dell'intelligenza artificiale in cui misureremo la potenza di calcolo come un'azienda di servizi pubblici.
I miglioramenti prestazionali sono sbalorditivi. I primi miglioramenti si sono tradotti in incrementi prestazionali da 2 a 4 volte superiori tra le generazioni di chip. Ogni azienda segue la propria strada. Cerebras costruisce enormi motori su scala wafer. Groq si concentra sull'inferenza fulminea. Operatori tradizionali come Intel e Qualcomm adattano le loro architetture ai carichi di lavoro dell'intelligenza artificiale.
Il futuro sembra ambizioso. La maggior parte dei principali attori prevede di rilasciare nuove architetture entro 12-18 mesi, promettendo progressi ancora maggiori. Alcune aziende si uniranno o scompariranno con la maturazione del mercato. Altre potrebbero emergere con tecnologie rivoluzionarie.
Le aziende e i consumatori che cavalcano questa ondata di rapidi progressi dovranno aggiornare il loro hardware più spesso. BigDataSupply contribuisce a rendere questi aggiornamenti più ecosostenibili e convenienti, consentendoti di vendi le tue GPU usate, CPU, SSD, RAM e altri tipi di apparecchiature informaticheCiò aiuta a recuperare i costi durante il passaggio a hardware di intelligenza artificiale più recenti e performanti.
Il panorama hardware dell'intelligenza artificiale nel 2026 sarà molto diverso da quello odierno. I vincitori avranno bisogno di qualcosa di più delle semplici prestazioni. L'efficienza energetica, gli ecosistemi software e la capacità produttiva giocheranno un ruolo chiave. Anche le politiche globali della produzione di chip influenzeranno lo sviluppo di questo mercato.
Questa rivoluzione hardware rimodellerà il modo in cui le industrie implementano e utilizzano l'intelligenza artificiale. Questi chip consentono funzionalità che sembravano impossibili fino a pochi anni fa, dall'inferenza di modelli linguistici di grandi dimensioni in tempo reale alla visione artificiale avanzata. Creeranno categorie di prodotti e servizi completamente nuove.
