The app for independent voices

  • 連接方式:

    • 傳統資料中心:使用乙太網路將伺服器戶相連接,因為不需要高數據吞吐量。

    • AI 資料中心:需要伺服器之間進行大量資料的移動與協作,因此改用 InfiniBand。

    • 如果 AI 資料中心有 2000 台伺服器,就有 16000 顆 H100,彼此互相連接 48000 次,需要 500 英里的光纖

    • 都必須要在一個比傳統資料中心還要擁擠 (堆滿 H100 與冷卻裝置)的 AI 資料中心中完成,儘管是同一個建築空間。

Oct 3, 2023
at
4:24 AM

Log in or sign up

Join the most interesting and insightful discussions.