連接方式:
傳統資料中心:使用乙太網路將伺服器戶相連接,因為不需要高數據吞吐量。
AI 資料中心:需要伺服器之間進行大量資料的移動與協作,因此改用 InfiniBand。
如果 AI 資料中心有 2000 台伺服器,就有 16000 顆 H100,彼此互相連接 48000 次,需要 500 英里的光纖;
都必須要在一個比傳統資料中心還要擁擠 (堆滿 H100 與冷卻裝置)的 AI 資料中心中完成,儘管是同一個建築空間。