德明財經科技大學 - AI雲

一、個案概要

德明財經科技大學位於台北市內湖區,與內湖軟體科學園區關係密切,著手組成「AI 產業智能應用聯盟」,致力於提供產業一個實際的場域接觸人工智慧技術,讓欲導入 AI 的中小企業可以在校內學習 AI 應用模式,希望可以大幅降低企業導入 AI 的門檻。德明科大於 107 年即開立 AI 相關課程,但面臨運算資源分配不均,以及課程內容約半花費在系統操作層面。在導入 Gemini AI Console 後,不但讓資源得以有效利用,也加快學生踏入 AI 實際操作的領域。

Industry

教育單位

Region

台灣

Use Case

  • 人工智慧/大數據運算
  • Nvidia Tesla V100、GPU、Kubernetes、Docker、Gemini AI Console

二、痛點與挑戰

  • 8 片 GPU 卡需要能支援 50 名學員同時使用,且使用時需資源互相獨立
  • 需要有友善的介面快速進入 AI 開發環境,以免浪費時間在學習系統操作面
  • 需要可以彈性添加資源,以便未來做校內硬體資源整合

三、架構設計特色

  • 提供 GPU Partitioning 分割共享機制,讓單片 GPU 卡可以同時分配給多個容器與用戶使用,並保持資源獨立性
  • 提供有效的三層式、多專案管理機制
  • 提供 TensorFlow、keras、digits、 PyTorch 等 AI 框架,並具備擴充其他 AI 框架功能
  • 內建 AI Console Web Portal,學員可以自主在平台上啟用 AI 開發程式,並直接透過 Jupyter Web IDE 進行開發
  • 內建 Multi-Cloud 多雲整合架構,若未來校內須整合其他資源時,可透過此功能進行整合串接

四、建置成果

  • 學生可自行透過 Web 操作介面快速開啟 AI 運算環境與 IDE 編輯器,節省大量學習指令與 Docker 操作的門檻
  • 多人應用運算資源時,資源皆保持獨立性,有別於以往一個容器會影響同個 GPU 上其他容器的狀況
  • 即使只有單台 GPU 伺服器,但仍有 8 張 GPU 需管理,因此管理者仍可方便透過本系統做資源分配
  • 德明科大電算中心成功打造 AI 運算共享平台,未來將結合「AI 產業智能應用聯盟」,提供學業界 AI 學習與導入的完美場域

五、新聞報導