[iThome] 中原大學引進 Gemini AI Console 完美打造 AI 教學及研究實作場景

Jan 27, 2021
( 右起 ) 中原大學研究發展處研發長洪穎怡及雙子星雲端運算業務副總方榮智

從1955 年誕生的「中原理工學院」起算,中原大學創校至今,已走過逾一甲子歲月,長期秉持穩健踏實的辦學理念,努力培育兼具專業能力與軟實力、能夠與產業接軌的優秀人才。

基於將研發資源回饋社會、帶動產業升級發展的信念,中原大學近年斥資近 2 億元打造完善的工業 4.0 示範場域,因而獲得中國工程師學會評選為 2020 年「產學合作績優單位」獎,連續六年獲此獎項,刷新公私立大學紀錄;連帶讓中原屢屢獲得人力銀行評選為「企業最愛大學」。

近年中原大學積極打造「活用創意」、「激發創新」及「迎向創業」之競爭優勢,因而致力推動人工智慧(AI)教學與研究,也對 AI 環境建設的投入不遺餘力;在今年(2020)引進雙子星雲端運算公司提供的Gemini AI Console 管理平台,搭配四 台 HPE ProLiant DL380 Gen10GPU 伺服器、一台 NVIDIA DGX 工作站,建立校內 AI 雲平台,使全校師生都能充分享用 GPU 資源、展開更多 AI 實作。

中原於今年中旬完成 AI 雲平台建置,旋即讓它披掛上陣、承載人工智慧與大數據創意競賽活動,支持所有競賽團隊產出創意作品;最終協助孕育「生涯規劃與修課推薦順序」、「ShopQuick 蝦款 - 網拍智慧訂價小 幫手」等諸多亮點作品。

打破機器孤島 建構共享式資源池

中原大學研究發展處研發長洪穎怡表示,談到近年 AI 教學推動成效,可歸納出四個重點。首先把 AI 變成 學校通識必修課程,從 110 學年度起,無論理學院、工學院、商學院、 設計學院、人文與教育學院、法學院 或電機資訊學院的學生,皆須修習 「自然科學與人工智慧導論」、「運算思維與程式設計」兩門課程。其次將 AI 建設從校級延伸到各學院,一方面在校級 AI 實作教室增設自走車、 人形機器人、平板電腦、影像辨識、Azure 平台等教材,二方面重整多間教室,放置各學院共構設備。

再者集結校內 14 位教師,合著「AI人工智慧導論 - 理論、實務與素養」教科書。最後培訓 36 位教師和助教、 組成中原 AI 種子教師班底,並成立校級 AI 教學工作坊。

至於 AI 研究部份,則已孕育「高清晰演算法 AI 偵測系統」、「智慧終端系統晶片設計」、「居家心電圖輔助診斷裝置」等等豐碩成果;其中洪穎怡也貢獻兩個重要的 AI 研究成果,一是利用深度學習預測離岸風場之風速,另一是以 AI 估測碼頭天車電纜的剩餘壽命。

洪穎怡說,從中原推動 AI 教學與研究的態勢來看,不難理解中原何以積極佈建 GPU Server 或工作站等運算資源。洪穎怡坦言,早期校方無太多使用經驗,初期把上述運算資源部署在 VDI Cloud 環境,讓使用者透過虛擬桌面掛載 GPU 資源,但建置模型訓練環境的程序不便、等待時間過久,使用過程也經常當機;久而久之多數師生傾向自行籌措資源,無意繼續使用此服務,使得校方悉心設置的資源瀕臨閒置狀態、十分可惜。

今年初校方決定重整 GPU 資源供應架構,責成研發處主導 AI 雲平台建置案,促使中原亟需佈建一套 AI運算資源管理暨調度系統。洪穎怡指出,研發處對於這套系統有幾個關鍵要求,包括深具未來擴充性、整合共用的儲存設備、整合校方既有的帳號權限管理機制,最重要是須同時滿足教學和研究不同場景需求。經過審慎評選,最終選用符合校方各項期待的Gemini AI Console,而中原也期待借重雙子星在與國網中心 TWCC AI雲平台的建置經驗。

利用容器概念加速佈建運算環境

「為了發揮高效能運算平台應有效能,我們必須盤整現有 IT 基礎建設,」洪穎怡說,因應 AI 雲平台建置,中原將網路頻寬從 1Gbps 升級到 10Gbps,也致力佈建低延遲、高容量的儲存空間,甚至重整機房電源、冷卻等基礎設施。更重要的新嘗試,是藉由虛擬容器讓使用者彈性運用 GPU 運算資源,以迎合未來大勢所趨,但這個全新觀念難免為專案團隊帶來挑戰;所幸 Gemini AI Console 能高度支援Docker 與 Kubernetes,加上雙子星、敦新科技(HPE ProLiant 伺服器代理商)等協力夥伴從旁給予堅強奧援,幫助中原順利度過容器化考驗。

如今隨著 AI 雲平台啟用,師生建立模型訓練環境的流程,對此過去已產生顯著差異。回顧以往單機式運用環境,使用者必須在 AI 程式開發初期,先利用低階 PC 建立運算環境,同時需要自行維護計算的資料,因缺乏共同的儲存設備,迫使使用者不斷拷貝與搬移資料,形成大量時間浪費。再者整個環境並未統一的使用者認證機制,使校內難以有效管理使者用的研究能力及相關研究成果。

反觀現在,使用者可透過高速網路連結,並透過單一身份認證機制,登入平台啟用專屬於自己的儲存空間、直接掛載資料而不需搬移,且能以更有彈性的方式來使用高效能運算資源,大幅縮短模型建立及訓練環境建置的時間。

最令師生們備感驚喜的是,透過虛擬容器概念,讓一些初學的使用者不需進行重複設定或安裝複雜工具,即可降低門檻、快速部署運算環境,繼而快速進入大數據分析與 AI領域,專注於揮灑創意,產出最佳的AI 實作成果。中原慶幸選擇 GeminiAI Console,得以建構兼具「整合LDAP/AD 權限管理」、「主機叢集式單一介面管理」、「依需求動態調配主機資源」、「會操作 Web 即可取得容器」及「整合儲存系統,資料絕對隔離」等優勢的 AI 資源池,滿足研究型大學真正所需的 IT 基礎架構。

原文連結:https://www.ithome.com.tw/pr/142453