數發部明年擬砸1億升級AI算力平台 將購置70片GPU

數發部明年擬砸1億升級AI算力平台 將購置70片GPU

2024/10/19 13:58

文章

數發部今天表示,產業AI算力平台共有64家業者申請使用,包括打造多國語言翻譯器、淹水模型等多元應用;明年規劃投入新台幣1億元經費進行平台維運、資安防護等,也會增購70片繪圖處理器(GPU)為算力平台增添火力。

數產署今年採用32片輝達的H100晶片,圖為輝達H100 Tensor GPU。翻攝輝達官網

數產署打造產業AI算力平台供免費申請

數發部長黃彥男日前受訪時表示,對很多中小企業來說運用算力很困難,這項計畫是去購買GPU,讓中小企業跟新創可以免費使用,去做一些商業試驗,如果確實有商業價值,業者後續也可以再購買正式算力服務。

數發部今年起推動為期4年的數位公共建設「數位產業跨域軟體基盤暨數位服務躍升計畫」,盼為軟體產業打地基,加快AI落地應用。其中,數產署今年採用輝達的H100晶片32片、AMD的MI300X晶片8片,打造產業AI算力平台,提供業者免費申請。

數發部數位產業署說明,今年中開放業者申請算力平台,協助資服業者進行AI模型訓練,業者報名踴躍,目前有64家業者獲選使用中,其中新創公司佔比逾半,應用領域廣泛,包括公益與教育、醫療健康與防災、製造與運輸業等。

至於業者運用算力平台打造哪些應用,數產署舉例,有廠商規劃打造「多國語言直譯器」,使用國語、台語、客語以及東南亞國家像是泰國跟印尼的語料庫,訓練語音模型,未來可發展多語種翻譯系統,協助新住民在台生活,有機會提供台語直譯印尼話等功能。

建立AI算力平台促進業者應用加值服務商機

數產署進一步說,也有業者運用超過17萬筆降雨量、水位、雨水下水道容量、歷史洪災等數據,訓練10億參數的預測淹水模型,以提升防洪預警能力;或是規劃打造環保科技執法的輔助工具,利用3萬張露天燃燒及2萬張煙霧圖片,訓練辨識空污的AI智慧模型等。

示波器   堆高機  茶葉罐

數產署表示,建立AI算力平台的目的,短期可協助資服與新創業者進行AI模型訓練,降低業者生成式AI模型的開發成本。不過,長期會回歸市場機制,由民間業者提供持續的算力服務,促進業者未來AI應用加值服務的商業機會。

為了因應愈來愈龐大的語言模型需求,數產署說明,考量擴大對軟體資服新創的協助及訓練專屬資安模型,明年算力平台整體經費預計投入約1億元,運用在建置及維運AI算力池,涵蓋機房代管、網路頻寬、資料備份、資安防護等,也規劃採購算至少70片GPU,不過仍待立法院審議通過後才能確定最終預算規模。(中央社)

廣告

⭐️

文章來源:https://www.knews.com.tw/news/A6DB1317EF426625CE4E474D2B3DA6DB

【其他文章推薦】
SMD元件外觀瑕疵CCD外觀檢查包裝
專業客製化禮物、贈品設計,辦公用品常見【L夾】搖身一變大受好評!!
Tape Reel手動包裝機配合載帶之特性,間斷式或連續式可自由選擇切換
專業
被動元件包裝機製造商
設計不同的
SMD包裝捲帶,安全的將半導體元件包裝