知识

閒置 GPU 達 11% 都是備援,Meta 揭 Prometheus 叢集設計全為 AI 訓練不中斷_香港账号iOS账号相关信息

字号+ 作者:海外苹果ID账号注册网 来源:知识 2026-11-22 19:50:40 我要评论(0)

Meta 20 日揭露美國俄亥俄州新奧爾巴尼的 Prometheus 超級叢集運作細節,顯示這座 AI 基礎設施為了維持大型模型訓練不中斷,投入相當可觀的備援成本。目前 Prometheus 超過 1 香港账号iOS账号相关信息

Meta 20 日揭露美國俄亥俄州新奧爾巴尼的閒置a揭 Prometheus 超級叢集運作細節,顯示這座 AI 基礎設施為了維持大型模型訓練不中斷,達都備斷投入相當可觀的叢集備援成本。目前 Prometheus 超過 11% 的設計香港账号iOS账号相关信息 GPU 不是已損壞,就是全為留著當作可隨時接手的閒置備援。

Prometheus 採 Nvidia GB200 / GB300 系統,訓練每個 NVLink 域共有 72 顆 GPU,不中但實際訓練時只會動用 64 顆,閒置a揭其餘 8 顆為熱備援。達都備斷Meta 解釋,叢集這樣做是設計apple id日区怎么注册登录使用及常见问题解决方法因為單一 GPU 故障可能拖垮整個機櫃,若能由備援立刻補位,全為就能避免整個機櫃被迫退出集群,訓練縮短訓練中斷時間。不中

除了機內備援,閒置a揭Meta 更高層級也有部署容錯機制。當故障能限制在資料並行的單一模型副本內,系統會讓受影響的副本下線,其餘部分繼續訓練;若故障範圍更大,會靠分散式檢查點機制,將模型狀態異步保存到多層儲存,避免從頭重跑。Meta 將這套設計比喻為自動儲存與版本回溯,目的是把原本可能導致整體停擺的事件,降為短暫的吞吐量下降。

Meta 坦言,Prometheus 擴張時曾面臨嚴峻的訊號與網路挑戰。由於系統內有超過 60 萬條 NVLink 連線,任何輕微訊號劣化都可能觸發恢復流程,因此導入持續遙測與 L11 診斷測試,部署前先找出弱鏈路。電力管理同樣是難題,Meta 以軟體 Dynamo Dimmer 逐步調整 GPU 功耗,避免訓練因電力尖峰被迫中止。

Meta 表示,經過一年工程調整後,Prometheus 訓練中斷次數較 2025 年中期下降 99%,從每 8 千顆 GPU 每日近千次降至約 11 次。目標是中斷率壓低到每 8 千顆 GPU 每日約兩次,約等於 10 萬 GPU 小時才中斷一次。

(圖片來源:Meta)

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0 元
《關於請喝咖啡的 Q & A》

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 2025乡镇高质量发展交流会召开 全国百强镇名单揭晓

    2025乡镇高质量发展交流会召开 全国百强镇名单揭晓

    2026-11-22 19:33

  • 11亿召回风波背后!理想与宁德时代关系生变内幕曝光

    11亿召回风波背后!理想与宁德时代关系生变内幕曝光

    2026-11-22 18:07

  • 4.09亿“变卖”无人问津,北京这个商场第四次被摆上货架…

    4.09亿“变卖”无人问津,北京这个商场第四次被摆上货架…

    2026-11-22 17:22

  • 美光新加坡 HBM 先進封裝廠首部機台進駐,預計 2027 年初進行產出

    美光新加坡 HBM 先進封裝廠首部機台進駐,預計 2027 年初進行產出

    2026-11-22 17:21

网友点评
精彩导读
热门资讯
关注我们
关注微信公众号,了解最新精彩内容