This media is not supported in your browser
VIEW IN TELEGRAM
地表最強 ! 一窺由 10 萬張 NVIDIA GPU 組成的液冷超級人工智慧電腦 Colossus 內部
美超微與伊隆馬斯克 xAI 合作，打造全球最大的人工智慧液冷超級電腦 Colossus，這是世界上最大、最強大的 AI 超級電腦，由 100,000 個 H100 Nvidia GPU 組成，除此外還在擴充另外 50,000 張 H100 和 50,000 張 H200 Nvidia GPU，其規模增加了一倍多。
這支影片帶領觀眾深入了解了全球最大的AI運算叢集。由T-MED-X打造的這座設施，擁有超過10萬顆GPU、數個ExaBytes的儲存空間，以及超高速網路系統，主要用於支援Grok AI系統的運作。
最讓人嘆為觀止的是，這座擁有10萬顆GPU的龐大設施，僅花了122天就完成建置，展現出驚人的工程實力。 深入機房內部，可以看到採用了先進的液冷系統設計。 每個運算機櫃都包含了8個液冷機架，每個機架又安裝了8組NVIDIA HGX H100平台，總計每個機櫃配備了64顆GPU和16顆CPU的強大運算能力。
液冷設計不僅能有效管理溫度，還大幅降低了機房的噪音水準。在機櫃背後設置的熱交換器，更確保了整個系統都能在最佳溫度下運作。
在網路架構方面，雖然系統是以常見的乙太網路為基礎，但其速度卻比一般家用網路快上驚人的400倍。每台伺服器都配備了NVIDIA Bluefield 3超級網卡，搭配NVIDIA Spectrum X交換器，實現了每秒800GB的超高速網路傳輸量。這樣的設計不僅能滿足一般超級電腦的需求，更能支援大規模AI叢集的龐大運算需要。
為了因應AI訓練對儲存空間的巨大需求，整個系統捨棄了傳統的本地儲存方式，改採用網路儲存架構。這樣的設計使得所有的GPU和CPU伺服器都能順利存取龐大的資料集，建立了一個規模驚人的儲存叢集來支援整體運作，大幅提升了系統的效能和靈活性。
在供電系統的設計上，工程團隊特別採用了Tesla Megapack電池組來確保穩定供電。這個創新的設計是為了解決當大量GPU同時開始訓練時，可能造成的毫秒級供電波動問題。
https://x.com/pirrer/status/1850997612167794891?t=ecZezIZt5a1-zkf6hPEz6w&s=19
美超微與伊隆馬斯克 xAI 合作，打造全球最大的人工智慧液冷超級電腦 Colossus，這是世界上最大、最強大的 AI 超級電腦，由 100,000 個 H100 Nvidia GPU 組成，除此外還在擴充另外 50,000 張 H100 和 50,000 張 H200 Nvidia GPU，其規模增加了一倍多。
這支影片帶領觀眾深入了解了全球最大的AI運算叢集。由T-MED-X打造的這座設施，擁有超過10萬顆GPU、數個ExaBytes的儲存空間，以及超高速網路系統，主要用於支援Grok AI系統的運作。
最讓人嘆為觀止的是，這座擁有10萬顆GPU的龐大設施，僅花了122天就完成建置，展現出驚人的工程實力。 深入機房內部，可以看到採用了先進的液冷系統設計。 每個運算機櫃都包含了8個液冷機架，每個機架又安裝了8組NVIDIA HGX H100平台，總計每個機櫃配備了64顆GPU和16顆CPU的強大運算能力。
液冷設計不僅能有效管理溫度，還大幅降低了機房的噪音水準。在機櫃背後設置的熱交換器，更確保了整個系統都能在最佳溫度下運作。
在網路架構方面，雖然系統是以常見的乙太網路為基礎，但其速度卻比一般家用網路快上驚人的400倍。每台伺服器都配備了NVIDIA Bluefield 3超級網卡，搭配NVIDIA Spectrum X交換器，實現了每秒800GB的超高速網路傳輸量。這樣的設計不僅能滿足一般超級電腦的需求，更能支援大規模AI叢集的龐大運算需要。
為了因應AI訓練對儲存空間的巨大需求，整個系統捨棄了傳統的本地儲存方式，改採用網路儲存架構。這樣的設計使得所有的GPU和CPU伺服器都能順利存取龐大的資料集，建立了一個規模驚人的儲存叢集來支援整體運作，大幅提升了系統的效能和靈活性。
在供電系統的設計上，工程團隊特別採用了Tesla Megapack電池組來確保穩定供電。這個創新的設計是為了解決當大量GPU同時開始訓練時，可能造成的毫秒級供電波動問題。
https://x.com/pirrer/status/1850997612167794891?t=ecZezIZt5a1-zkf6hPEz6w&s=19
Comments
Be the first to add a comment
Log in to comment