Fonte: Silicon Valley Trivopaedia (Substack di un ingegnere dei semiconduttori con base a San Jose) — con approfondimenti e ricerca autonoma di Claude su fonti aggiuntive (SemiAnalysis, Broadcom investor relations, Tom’s Hardware, 24/7 Wall St.)
Google, Amazon, Microsoft, Meta, OpenAI/Anthropic, Tesla e Apple: i sette nomi che pesano di più sui conti di Nvidia stanno tutti, chi prima chi dopo, disegnando chip propri per l’intelligenza artificiale. Non si tratta più di prototipi da laboratorio. Meta ha una partnership pluriennale con Broadcom per la sua serie MTIA che arriva fino al 2029, Microsoft ha già il Maia 200 in produzione dentro Azure, Amazon spinge su Trainium3, Google prosegue con le sue TPU (arrivata all’ottava generazione) e ha appena firmato con Marvell un accordo per silicio custom collegato proprio all’ecosistema TPU.
Il motivo è quasi sempre lo stesso: un ASIC (un chip disegnato per un compito specifico, come l’inferenza su un singolo tipo di modello) può costare, a parità di lavoro svolto, una frazione di una GPU Nvidia general-purpose — le stime circolate quest’anno vanno da un risparmio del 30% fino a oltre il 60% sul costo totale di possesso, a seconda del workload e della fonte. Su volumi enormi come quelli degli hyperscaler, la differenza si conta in miliardi.
Broadcom è il grande beneficiario silenzioso di questa transizione: progetta il silicio per conto di Google, Meta, OpenAI e Anthropic (quest’ultima con un impegno recente sull’ordine dei 10 miliardi di dollari per consegne entro fine 2026), e nel trimestre di giugno ha dichiarato ricavi da semiconduttori AI per 10,8 miliardi di dollari, +143% anno su anno, con una guidance per il trimestre successivo di 16 miliardi. Le stime sulla sua quota del mercato del design ASIC variano parecchio a seconda dell’analista — c’è chi parla di circa il 60%, chi la mette più vicino al 70-80% se si include anche Marvell come secondo fornitore dominante.
Il caso più interessante: il chip di OpenAI si ottimizza da solo
Il caso che più fa discutere in questi giorni è però quello di OpenAI. A fine agosto, la società di ricerche SemiAnalysis (la stessa che pubblica il benchmark indipendente InferenceX) ha diffuso i primi dati su Jalapeño, l’ASIC di inferenza disegnato con Broadcom su cui OpenAI lavora dalla metà del 2024. Sui workload testati — GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 — Jalapeño ha superato le GPU Nvidia, AMD e gli acceleratori Google in throughput per watt, con un margine che va da 1,5 a 1,9 volte. Non è un chip su misura solo per i modelli OpenAI: gira bene anche su modelli concorrenti, il che lo rende, nelle intenzioni della società, un prodotto general purpose.
Il dettaglio più sorprendente riguarda però il modo in cui è stato messo a punto. I kernel — cioè il codice a bassissimo livello che fa girare i calcoli sul chip — vengono scritti da OpenAI quasi come se fosse assembly, con blocchi che arrivano a circa 3.000 righe di codice ottimizzato a mano. Il lavoro, inizialmente affidato a ingegneri umani, è stato progressivamente automatizzato con una versione interna e più potente di Codex: secondo SemiAnalysis, alcuni blocchi di attenzione e di mixture-of-experts scritti dall’AI sono risultati dall’1,5 al 1,8 volte più veloci delle versioni scritte da ingegneri, e Codex ha portato tre modelli diversi a piena efficienza sul nuovo chip in circa due mesi, senza che il team di ingegneria kernel di OpenAI dovesse intervenire.
È un cortocircuito curioso: modelli OpenAI che oggi girano su GPU Nvidia sono stati usati per progettare e ottimizzare il chip che punta a ridurre la dipendenza da quelle stesse GPU. Dylan Patel di SemiAnalysis, il 25 agosto, ha tirato una conclusione netta: il vantaggio competitivo di CUDA — costruito in oltre un decennio attorno a circa 4 milioni di sviluppatori — può oggi essere eroso più rapidamente del previsto, perché l’ottimizzazione dei kernel via AI comprime il tempo necessario a un chip nuovo per diventare competitivo. Non è un dettaglio da poco: Vera Rubin, il prossimo chip Nvidia, ha completato il tape-out un mese prima di Jalapeño ma Nvidia non lo ha ancora aperto a benchmark indipendenti di terze parti.
Nvidia, per ora, non ne risente sui numeri: nel trimestre fiscale più recente ha fatturato 81,6 miliardi di dollari (+85% anno su anno), con la sola divisione Data Center a 75,2 miliardi. Resta il fornitore quasi assoluto per l’addestramento dei modelli più grandi (oltre il 90% di quota, secondo le stime più citate), mentre è sull’inferenza — il lavoro quotidiano di “far girare” i modelli già addestrati — che gli ASIC custom stanno guadagnando terreno più rapidamente: da una quota marginale a una stima intorno al 20-28% dei server AI nel 2026, secondo le proiezioni di settore.
Il punto debole di Nvidia in questa fase non è tecnologico ma di prezzo e di catena di fornitura: i vincoli di produzione TSMC sul nodo a 3nm (saturo, con una domanda che secondo alcune stime supera di circa tre volte la capacità disponibile) alimentano sia i costi sia la frustrazione dei clienti più grandi, che ora hanno il capitale, la scala e — come mostra il caso Jalapeño — anche gli strumenti software per finanziarsi silicio proprio invece di continuare a pagare il sovrapprezzo del pacchetto Nvidia-CUDA.
Note dell’A.I. (Claude)
Un paio di precisazioni tecniche. Primo: gli ASIC non sostituiscono le GPU, le affiancano — restano ottimi solo per il workload specifico per cui sono stati disegnati, mentre una GPU Nvidia resta la scelta più flessibile quando il carico di lavoro cambia spesso. Nessun hyperscaler ha annunciato di voler abbandonare Nvidia, e gli ordini GPU verso i grandi cloud continuano a crescere in valore assoluto anche mentre crescono gli ASIC: è un mercato che si allarga, non (ancora) un travaso a somma zero. Secondo: i benchmark su Jalapeño sono per ora pubblicati principalmente da OpenAI stessa e da SemiAnalysis, che ha collaborato al test — un dato da tenere presente finché non arriveranno verifiche indipendenti aggiuntive. Terzo: le cifre di “quota di mercato” del design ASIC (Broadcom al 60% o all’80%) vanno prese con cautela — provengono da stime di analisti terzi, non da dati ufficiali di settore, e cambiano sensibilmente da una fonte all’altra.
Considerazioni
Il filone è coerente con quanto già scritto sul blog a proposito del comparto semiconduttori/AI. Vale la pena continuare a seguirlo: se gli ASIC custom — e soprattutto l’ottimizzazione via AI che li rende competitivi più in fretta — continueranno a guadagnare quota sull’inferenza, il primo effetto visibile non sarà un crollo dei ricavi Nvidia (che restano legati soprattutto al training, dove il dominio è ancora quasi totale) ma una possibile compressione dei margini lordi, oggi sopra il 70%, via via che i clienti più grandi negoziano condizioni migliori o si smarcano su singole applicazioni.
L’autore detiene posizioni in: NVDA
Se questo articolo ti è stato utile, puoi offrirmi un caffè su Ko-fi.
Le informazioni contenute in questo articolo hanno scopo puramente informativo e non costituiscono consulenza finanziaria. Leggi il disclaimer completo.
Gianni & Claude (Anthropic) / filosofaresuimercati.eu