Piccoli "Ventole-su-Chip" Potrebbero Raffreddare Grandi Data Center

Nei data center, i trasmettitori ottici plug-in convertono i bit elettronici in fotoni, li lanciano attraverso la stanza e poi li trasformano nuovamente in segnali elettronici, diventando un cardine tecnologico per controllare la valanga di dati utilizzati nell’Intelligenza Artificiale. Ma la tecnologia consuma parecchia energia. In un data center contenente 400.000 GPU, Nvidia stima che i trasmettitori ottici brucino 40 megawatt. Al momento, l’unico modo per gestire tutto quel calore è sperare di poter collegare termicamente questi trasmettitori al case del sistema di switch e raffreddarlo. Non è una grande soluzione, dice Thomas Tarter, ingegnere termico principale presso la startup xMEMs Labs, ma poiché questi trasmettitori sono delle dimensioni di una chiavetta USB troppo grande, non c’è modo di inserire una ventola di raffreddamento convenzionale in ognuno.

Ora, xMEMs afferma di aver adattato la sua imminente microventola ultrasonica a microelettromeccanica (MEMS) “ventola-su-chip” per adattarsi all’interno di un trasmettitore ottico plug-in in modo da far passare l’aria attraverso e raffreddare la parte digitale principale del trasmettitore, il processore di segnali digitali (DSP). Mantenere fresco il DSP è fondamentale per la sua longevità, dice Tarter. Con un costo di oltre 2.000 dollari per trasmettitore, ottenere un anno o due in più da un trasmettitore vale sicuramente la pena. Il raffreddamento dovrebbe anche migliorare l’integrità dei segnali dei trasmettitori. I collegamenti non affidabili sono responsabili dell’allungamento delle già lunghe esecuzioni di addestramento per i nuovi modelli di linguaggio di grandi dimensioni.

La Tecnologia di Raffreddamento di xMEMS Trova una Nuova Casa

La tecnologia di raffreddamento a chip xMEMS, che è stata presentata ad agosto 2024, si basa sul precedente prodotto dell’azienda, gli altoparlanti microelettromeccanici a stato solido per auricolari. Utilizza materiali piezoelettrici che possono cambiare forma a frequenze ultrasoniche per pompare 39 centimetri cubi d’aria al secondo attraverso un chip alto circa un millimetro e largo meno di un centimetro per lato.

Gli smartphone, che sono troppo sottili per contenere una ventola, sono state le prime applicazioni ovvie per il raffreddamento MEMS, ma sembrava fuori portata per la tecnologia MEMS raffreddare i sistemi AI su larga scala dei data center in rapida crescita, poiché non può neanche avvicinarsi ai sistemi di raffreddamento a liquido che rimuovono migliaia di watt di calore dai server GPU.

“Siamo stati piacevolmente sorpresi dall’approccio dei clienti dei data center”, dice Mike Housholder, vice presidente del marketing di xMEMS. “Eravamo concentrati sul basso consumo energetico. Quindi non pensavamo di avere un successo garantito.”

I trasmettitori ottici plug-in si sono rivelati una tecnologia dei data center perfettamente adatta alla ventola-su-chip. Oggi, il calore proveniente dal DSP, dall’IC di fotonica e dai laser di un trasmettitore è termicamente accoppiato ai computer switch di rete a cui sono collegati. (Di solito si trovano nella parte superiore di un rack di computer.) Poi l’aria che scorre sopra le alette incorporate nel frontale dello switch rimuove il calore.

In collaborazione con partner non nominati, xMEMS ha iniziato a esplorare come far passare l’aria attraverso il trasmettitore. Queste parti consumano 18 watt o più. Ma posizionando il chip MEMS dell’azienda all’interno di un canale di flusso d’aria termicamente connesso ai chip del trasmettitore ma fisicamente isolato da essi, l’azienda prevede di poter abbassare la temperatura del DSP di più del 15 percento.

xMEMS ha realizzato prototipi di chip MEMS presso la struttura di nanofabbricazione di Stanford, ma avrà il suo primo silicio di produzione da TSMC a giugno, dice Housholder. L’azienda prevede di essere in piena produzione nel primo trimestre del 2026. “Ciò si allinea bene con i nostri primi clienti”, dice.

Le spedizioni di trasmettitori stanno crescendo rapidamente, secondo Dell’Oro Group. L’analista di mercato prevede che le spedizioni di parti da 800 gigabit al secondo e 1,6 terabit al secondo cresceranno di oltre il 35 percento all’anno fino al 2028. Altre innovazioni nelle comunicazioni ottiche che potrebbero influenzare calore e potenza sono in arrivo. A marzo, Broadcom ha presentato un nuovo DSP che potrebbe portare a una riduzione della potenza di oltre il 20 percento per i trasmettitori da 1,6 Tbps, dovuta in parte all’uso di un processo di produzione di chip più avanzato. Quest’ultima azienda e Nvidia, separatamente, hanno sviluppato switch di rete che eliminano del tutto i trasmettitori plug-in. Queste nuove “ottiche co-pacchettizzate” effettuano la conversione ottica/elettronica su silicio all’interno del package del chip switch.

Tuttavia, Tarter, che lavora sul raffreddamento dei chip dagli anni ’80, prevede che ci saranno più applicazioni sia all’interno che all’esterno del data center per il chip MEMS a venire. “Stiamo imparando molto sulle applicazioni”, dice. “Ho pensato a 20 o 30 applicazioni di base per esso, e spero che ispiri i progettisti a dire ‘Oh, ecco come posso usare questo nel mio sistema’.”