一、個案概要
德明財經科技大學位於台北市內湖區，與內湖軟體科學園區關係密切，著手組成「AI 產業智能應用聯盟」，致力於提供產業一個實際的場域接觸人工智慧技術，讓欲導入 AI 的中小企業可以在校內學習 AI 應用模式，希望可以大幅降低企業導入 AI 的門檻。德明科大於 107 年即開立 AI 相關課程，但面臨運算資源分配不均，以及課程內容約半花費在系統操作層面。在導入 Gemini AI Console 後，不但讓資源得以有效利用，也加快學生踏入 AI 實際操作的領域。
Industry
教育單位
Region
台灣
Use Case
- 人工智慧/大數據運算
- Nvidia Tesla V100、GPU、Kubernetes、Docker、Gemini AI Console
二、痛點與挑戰
- 8 片 GPU 卡需要能支援 50 名學員同時使用，且使用時需資源互相獨立
- 需要有友善的介面快速進入 AI 開發環境，以免浪費時間在學習系統操作面
- 需要可以彈性添加資源，以便未來做校內硬體資源整合
三、架構設計特色
- 提供 GPU Partitioning 分割共享機制，讓單片 GPU 卡可以同時分配給多個容器與用戶使用，並保持資源獨立性
- 提供有效的三層式、多專案管理機制
- 提供 TensorFlow、keras、digits、 PyTorch 等 AI 框架，並具備擴充其他 AI 框架功能
- 內建 AI Console Web Portal，學員可以自主在平台上啟用 AI 開發程式，並直接透過 Jupyter Web IDE 進行開發
- 內建 Multi-Cloud 多雲整合架構，若未來校內須整合其他資源時，可透過此功能進行整合串接
四、建置成果
- 學生可自行透過 Web 操作介面快速開啟 AI 運算環境與 IDE 編輯器，節省大量學習指令與 Docker 操作的門檻
- 多人應用運算資源時，資源皆保持獨立性，有別於以往一個容器會影響同個 GPU 上其他容器的狀況
- 即使只有單台 GPU 伺服器，但仍有 8 張 GPU 需管理，因此管理者仍可方便透過本系統做資源分配
- 德明科大電算中心成功打造 AI 運算共享平台，未來將結合「AI 產業智能應用聯盟」，提供學業界 AI 學習與導入的完美場域
五、新聞報導
