“Raffreddamento Innovativo: Il Micro “Fan-on-Chip” per i Data Center del Futuro”
Indice
Micro “Fan-on-Chip” Potrebbe Raffreddare i Grandi Data Center
Nel data center, i trasmettitori ottici plug-in convertono i bit elettronici in fotoni, li lanciano attraverso la stanza e poi li trasformano nuovamente in segnali elettronici, diventando un perno tecnologico per controllare la quantità di dati utilizzati nell’IA. Ma la tecnologia consuma parecchia energia. In un data center contenente 400.000 GPU, Nvidia stima che i trasmettitori ottici brucino 40 megawatt. Attualmente, l’unico modo per gestire tutto quel calore è sperare di poter collegare termicamente questi trasmettitori al case del sistema di commutazione e raffreddarlo. Non è una grande soluzione, dice Thomas Tarter, ingegnere termico principale presso la startup xMEMs Labs, ma poiché questi trasmettitori sono delle dimensioni di una chiavetta USB sovradimensionata, non c’è modo di inserire un normale ventilatore di raffreddamento in ognuno.
Ora, xMEMs afferma di aver adattato il suo imminente microventilatore ultrasonico a microelettromeccanica (MEMS) per adattarsi all’interno di un trasmettitore ottico plug-in in modo da far passare l’aria e raffreddare la parte digitale principale del trasmettitore, il processore di segnali digitali (DSP). Mantenere fresco il DSP è fondamentale per la sua longevità, afferma Tarter. A un costo superiore ai 2.000 dollari per trasmettitore, ottenere un anno o due in più da un trasmettitore vale sicuramente la pena. Il raffreddamento dovrebbe anche migliorare l’integrità dei segnali dei trasmettitori. I collegamenti non affidabili sono responsabili dell’allungamento delle già lunghe esecuzioni di addestramento per i nuovi modelli di lingua di grandi dimensioni.
La Tecnologia di Raffreddamento di xMEMS Trova una Nuova Casa
La tecnologia di raffreddamento a chip xMEMS, presentata nell’agosto 2024, si basa sul precedente prodotto dell’azienda, gli altoparlanti microelettromeccanici a stato solido per auricolari. Utilizza materiali piezoelettrici che possono cambiare forma a frequenze ultrasoniche per pompare 39 centimetri cubi di aria al secondo attraverso un chip alto circa un millimetro e largo meno di un centimetro per lato.
Gli smartphone, troppo sottili per ospitare un ventilatore, sono state le prime applicazioni ovvie per il raffreddatore MEMS, ma sembrava fuori portata per la tecnologia MEMS raffreddare i sistemi AI su larga scala dei data center in rapida crescita, poiché non può avvicinarsi ai sistemi di raffreddamento a liquido che rimuovono migliaia di watt di calore dai server GPU.
“Siamo stati piacevolmente sorpresi dall’approccio dei clienti dei data center”, afferma Mike Housholder, vice presidente del marketing di xMEMS. “Eravamo concentrati sul basso consumo energetico. Quindi non pensavamo di avere un successo garantito.”
I trasmettitori ottici plug-in si rivelano essere una tecnologia data center perfettamente adatta al ventilatore su chip. Oggi, il calore del DSP, dell’IC fotoniche e dei laser di un trasmettitore è termicamente accoppiato ai computer di commutazione di rete a cui sono collegati. (Di solito si trovano nella parte superiore di un rack di computer.) Poi l’aria che scorre sopra le alette incorporate nel frontale dello switch rimuove il calore.
In collaborazione con partner non nominati, xMEMS ha iniziato a esplorare come far passare l’aria attraverso il trasmettitore. Queste parti consumano 18 watt o più. Ma posizionando il chip MEMS dell’azienda all’interno di un canale di flusso d’aria termicamente connesso ai chip del trasmettitore ma fisicamente isolato da essi, l’azienda prevede di poter abbassare la temperatura del DSP di più del 15 percento.
xMEMS ha prodotto prototipi di chip MEMS presso la struttura di nanofabbricazione di Stanford, ma avrà il suo primo silicio di produzione da TSMC a giugno, afferma Housholder. L’azienda prevede di essere in piena produzione nel primo trimestre del 2026. “Ciò si allinea bene con i nostri primi clienti”, afferma.
Le spedizioni di trasmettitori stanno crescendo rapidamente, secondo Dell’Oro Group. L’analista di mercato prevede che le spedizioni di parti da 800 gigabit al secondo e 1,6 terabit al secondo cresceranno di oltre il 35 percento all’anno fino al 2028. Altre innovazioni nelle comunicazioni ottiche che potrebbero influenzare calore e potenza sono in arrivo. A marzo, Broadcom ha presentato un nuovo DSP che potrebbe portare a una riduzione di oltre il 20 percento della potenza per i trasmettitori da 1,6 Tbps, dovuta in parte all’uso di un processo di produzione di chip più avanzato. Quest’ultima azienda e Nvidia, separatamente, hanno sviluppato switch di rete che eliminano del tutto i trasmettitori plug-in. Queste nuove “ottiche co-pacchettizzate” effettuano la conversione ottica/elettronica su silicio all’interno del package del chip dello switch.
Ma Tarter, che lavora sul raffreddamento dei chip dagli anni ’80, prevede che ci saranno più applicazioni sia all’interno che all’esterno del data center per il chip MEMS a venire. “Stiamo imparando molto sulle applicazioni”, afferma. “Ho pensato a 20 o 30 applicazioni di base per esso, e spero che ispiri i progettisti a dire ‘Oh, ecco come posso usare questo nel mio sistema’.”