智算中心作為新興的算力基礎設施，正逐漸成為推動數(shù)字經(jīng)濟發(fā)展的重要力量，亦成為新建數(shù)據(jù)中心的“標配”。根據(jù)《中國綜合算力指數(shù)（2024年）》數(shù)據(jù)，截至2024年6月，我國在用算力中心超過830萬標準機架，算力總規(guī)模246EFLOPS（FP32）。智能算力規(guī)模76EFLOPS，智算同比增速超過65%。

對于很多IDC企業(yè)來說，智算已經(jīng)成為必選項。但智算中心高昂的建設成本成為了制約傳統(tǒng)IDC向智算轉型的關鍵因素。那么，從TCO（總體擁有成本）的角度，IDC企業(yè)該如何跨越成本門檻，擁抱未來呢？

從“硬”到“軟”的成本考驗

智算中心的高成本眾所周知，其中最大的一部分就是服務器成本。相比于傳統(tǒng)數(shù)據(jù)中心，這些配備了GPU或者智算芯片等異構芯片的設備價格往往高出數(shù)倍，甚至數(shù)十倍。一臺配置了8塊GPU的智算服務器，其價格可能高達200萬甚至300萬元人民幣以上，這還不包括與之配套的存儲、網(wǎng)絡等基礎設施。

由于智算單元之間高速數(shù)據(jù)傳輸及低延遲通信的互聯(lián)需求，智算中心需要部署先進的網(wǎng)絡架構，如InfiniBand或RoCE等，這也是一筆不小的開銷。此外，隨著模型參數(shù)規(guī)模的增長，組網(wǎng)規(guī)模擴大帶來的管理挑戰(zhàn)同樣需要額外的投資來解決。

智算中心的能耗和運維成本也是不容忽視的。由于使用了大量的高性能計算單元，智算中心的能耗遠高于通用數(shù)據(jù)中心。一些智算中心的單機柜功率密度甚至達到了100kW以上，這意味著它們需要更強大的供電能力和成本更高的制冷系統(tǒng)——比如液冷來支持運行。

除了硬件投資外，維護大規(guī)模并行計算環(huán)境下的穩(wěn)定性與效率需要專業(yè)的技術支持團隊，并且隨著軟件棧變得越來越復雜，自動化運維工具的重要性日益凸顯。如果提供更深層次的智算服務還需要部署商業(yè)軟件等……由此帶來的人才、軟件成本都不容忽視。

價值創(chuàng)造：長期視角下的TCO考量

面對高昂的成本，不少從業(yè)者和用戶對智算中心的投資回報深深抱有疑慮。然而，從長遠來看，智算中心的業(yè)務前景廣闊，其所帶來的價值創(chuàng)造潛力是巨大的。因此，從TCO角度出發(fā)，如何優(yōu)化運維能力，進行技術創(chuàng)新，從而降低TCO，獲得更高的生產(chǎn)力和市場競爭力，是算力企業(yè)更應該考慮的問題。

智算中心如何跨越成本門檻

運維優(yōu)化是降低智算中心TCO的最直接手段之一。一方面通過智能監(jiān)控和預警系統(tǒng)來及時發(fā)現(xiàn)和解決潛在問題，避免故障發(fā)生導致的損失。一方面可以通過智能運維微調(diào)整體運行環(huán)境，降低整體能耗，在長期的運行中實現(xiàn)成本的節(jié)約。

技術創(chuàng)新則是降低智算中心TCO的根本途徑。通過研發(fā)更為高效、節(jié)能的硬件設備和算法，企業(yè)可以在保證性能的同時，有效降低硬件和能耗成本。比如通過優(yōu)化硬件設計、提高集成度等方式來提高硬件的性能和能效比；嘗試更高效的算法來加速AI應用，降低算力成本等。

從發(fā)展角度看，智算中心的成本問題最終還要依賴于生態(tài)建設的完善。特別是在國產(chǎn)智算生態(tài)中，可以嘗試使用國產(chǎn)芯片等替代方案來降低成本。同時，積極推動制定統(tǒng)一的技術標準和規(guī)范，降低不同品牌產(chǎn)品的集成度，提升穩(wěn)定性，進一步降低集成成本。

隨著技術的不斷進步和應用場景的不斷拓展，智算中心有望在推動數(shù)字經(jīng)濟發(fā)展和產(chǎn)業(yè)升級方面發(fā)揮更為重要的作用。如何更好的發(fā)展智算生態(tài)，也將成為算力產(chǎn)業(yè)發(fā)展繞不開的話題。

中國IDC產(chǎn)業(yè)年度大典組委會將于2024年12月19日-20日在北京隆重舉辦第十九屆中國IDC產(chǎn)業(yè)年度大典（IDCC2024）。大會聚焦“智算崛起”“賦能協(xié)同”“環(huán)球布局”“誰主沉浮”“算力新十年”幾大議題模塊，旨在探討算力產(chǎn)業(yè)的未來發(fā)展方向、技術創(chuàng)新、商業(yè)模式變革以及可持續(xù)發(fā)展路徑。攜手算力產(chǎn)業(yè)精英，共同推動中國乃至全球數(shù)字經(jīng)濟的繁榮與發(fā)展。目前報名通道已開啟，掃描以下二維碼即可報名。

“多元重構 算力躍遷” 第十九屆中國IDC產(chǎn)業(yè)年度大典 報名二維碼