本文共3065字
輝達(NVIDIA)執行長黃仁勳來台,不僅帶起AI旋風,也順勢把台灣拱上全球AI中心。現在除了台積電一座護國神山外,AI產業鏈的護國群山正陸續生成。不過,AI算力要靠電力支撐,台灣的電到底能支撐幾座AI大山,一起來盤點台灣的六大AI用電神獸。
AI高速成長,根據工研院資料,2023年,伺服器具備AI處理器的比例為30%,預估2028年將超過50%,而且逾75%的CPU也將增加AI功能,以支援AI推理工作;AI技術還可用於語音回應、影像識別、事件分析等消費設備,2023年包含AI硬體比例不到5%,至2028年則提升至超過38%,無一不AI。
拜台灣具備完整的半導體供應鏈之賜,輝達去年在高雄設置算力高達22.3 PFLOPS(Peta Floating-point operations per second)的「Taipei-1」超級電腦;正崴集團上月也宣布將在土城打造亞洲算力最大的AI超級運算中心,預估算力是「Taipei-1」翻倍。在「算力即電力」的時代,這些AI超級電腦會用掉多少電?
小辭典:FLOPS,每秒浮點運算次數即每秒所執行的浮點運算次數。浮點(floating-point)指的是帶有小數的數值,浮點運算即是小數的四則運算,常用來測量電腦運算速度或被用來估算電腦效能。一般說來,當進行非常大,或者非常小的實數運算,或者運算的數字在一個很大的範圍內變動時,都需要浮點運算的參與。
「要抓出台灣整體AI耗電是困難的,因為很多算力是分散的,一個可行的方法,也許可先從國家高速網路與計算中心的超級電腦估算。」面對記者提問,台灣的AI產業到底有多耗電,工研院產科國際所副所長紀昭吟建議記者「抓大放小」,從全台的AI超級電腦用電來估算。
全台6大超級電腦 輝達「Taipei-1」算力最大
國科會官員表示,國網中心現有三台超級電腦上線,氣象局有兩台超級電腦,以及輝達最新建置的「Taipei-1」,共六台超級電腦,算是AI「主力」。在全球超級電腦評比中,六台超級電腦的算力也都排在全球500名以內。其中,氣象局的超級電腦專門負責天氣測報,並未對外開放;而「Taipei-1」由經濟部參與,今年將提供25%算力給產、學、研各部門研發AI技術與產品。
在國網中心建置的三台超級電腦部分,國科會官員說,這些超級電腦主要是服務學、研及政府單位,但「台灣杉二號」一半的產能租給華碩旗下成立的雲端服務公司「台智雲」(TWS),以商業營業用途為主,專供產業界的AI應用。由於算力分散使用各自不同的領域,也影響電力的使用程度。
以目前算力最強的「Taipei-1」為例,經濟部官員解釋,超級電腦算力值的衡量標準是以「浮點運算」為單位,傳統的個人電腦算力是每秒10的9次方,現在一般的標準是Peta Flops 每秒10的15次方,並且更進展到 Exa Flops每秒10的18次方。「Taipei-1」的算力是0.0223 Exa Flops,相當於22.3 PFlops,全球排名38名。
不過,「Taipei-1」的電力消耗資料,目前無從得知。經濟部官員表示,「Taipei-1」使用的電力不會太多,因為主要是做為內部研發、以研究為導向,不是做服務用,和在台灣設置資料中心的Google、微軟等提供「雲服務」不一樣,因為Google、微軟是營業用途,24小時一直運算,「Taipei-1」不是商業用途,「電力不會消耗到這麼多。」
年用電3000萬度 可供8萬家庭1個月用電
至於國網中心建置的超級電腦耗電情況如何?國網中心指出,從2018年第一台高級電腦「台灣杉一號」上線以來,2019年、2021年陸續又有「台灣杉二號」、「台灣杉三號」上線,維持三台超級電腦運作;不過,「台灣杉一號」已於今年3月底停機,隨即由「創進一號」投入。
國網中心根據這四台超級電腦每座主機的電錶,以及機房或主機監控系統取得實際用電量估算,一年最高總用電量約為2,163萬7200度電,但因超級電腦實際運行中,並非365天24小時都處於最高用電狀態,若以一年平均總用電量計算,約為1,690萬6,800度電。
然而,國網中心的電量資料只是主機而已,並未包含機房空調及HPC(高效能運算)相關基礎設施的用電。由於HPC必須處理大量複雜的運算,需要更強大的處理器和更多記憶體, 耗電量也更高,甚至比主機用電更多。因此,國網中心超級電腦的實際用電量,應該超出更多。
工研院產科國際所研究經理石立康也推估,超級電腦「台灣杉」系列的用電一天大概是10000多度,一年消耗300萬到500萬度。 若以台灣名列全球超級電腦TOP 500的六台超級電腦計算,一年大約有3000萬度的耗電。
目前全球80%的AI超級電腦及計算中心都集中在美國,大約消耗全美將近4%電力。而台灣AI超級電腦若以一年3000萬度用電量估算,則佔2023年全台總發電量2821.36億度的0.11%;以台灣家庭每月平均用電338度換算,大約等於8萬8,760個家庭一個月用電量。眼前看似影響不大,但預期未來AI爆發性成長,耗電量不容小覷。
國網中心繳上億電費 散熱考驗大
另一方面,國網中心副主任蕭志榥表示,解決超級電腦的節能和散熱問題,是重要課題。
他舉例,國網中心2017年建置「台灣杉一號」主機就採用直接液體冷卻(DLC:Direct liquid cooling)的 CPU(中央處理器),並讓GPU(圖形處理器)透過冷卻模塊的直接水冷方式,達到能源使用效率(PUE,Power Usage Effectiveness)全年平均可維持在1.2以內。(編按:PUE即消耗的能源與 IT 負載消耗能源的比值,越接近於 1,浪費的能源越少。)
國網中心積極節能也讓「台灣杉」系列超級電腦進入全球「Green 500」評比的排行榜內,例如「台灣杉二號」在「Top 500」算力的排名是106名,但「Green 500」排名是78名,「創進一號」的算力排名是251名,節能排名則為108名;「台灣杉三號」算力排名是456名,節能排名也在146名。
不過,國科會官員坦言,國網中心的確很努力在做節能這一塊,但該中心過去幾年的電費,一年大都維持在8000萬元之譜,現在已經突破億元了,這其中除了政府調漲電費外,新舊主機交替,配備擴充、效能增加,也是主要原因,即使想辦法做到節能,「超級電腦還是吃電吃很多,真的非常耗電!」
「對於台灣AI用電情況,目前還沒有實際預估的數據,但AI的確很耗電,尤其AI伺服器的耗電量一直往上提升,大家在追求算力的同時,也應花更多心力在解決耗電相關的問題,讓AI用電的需求降低。」工研院產業與經濟研究中心電子組研究員范哲豪直言。
工研院前院長史欽泰也提到,台灣半導體產業產值在2014年到2019年都維持在2兆元左右,COVID-19之後,2020年就變3兆元,2021年到2023年躍上4兆元,現在AI時代來臨,產值突然就變成5兆元,「除了提升AI算力外,後續還有資料傳輸、儲存、感應控制等項目也都會大量出來,能源的問題是最大的挑戰。」
史欽泰語重心長的說,「AI的罩門就是能源」,台灣將來能源的需求會很大,企業比較靈活,可以處理短期的應變,但台灣長期的發展會是什麼?「講了幾天很熱的能源政策,現在好像又不敢講了,我們如果要面對未來的發展,政府長期的政策必須面對。」
延伸閱讀 》
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言