:::
課程 ttgchang - AI 課程 | 2025-04-25 | 點閱數： 18

晶創產業的生成式AI人才 培育

課程綱要（18小時）

課程介紹

各行業的AI模型都有神祕的潛藏空間(Latent Space)，模型設計師們也愈來愈重視它。 更關鍵的是，它是極佳的中間層(樹幹)，既支撐上層AI應用(枝葉)，又銜接底層晶片(樹根)。 成為台灣AIOC(AI on Chip)產業發展的康莊大道。

晶創課程介紹

在深度學習網路的隱藏層，通常是濃縮顯著特徵的地方，是從用戶需求面看不見的，所以常稱為：潛藏空間(Latent Space)。 於是，可觀察的數據層和晶片層變得疏結合(Loosely-coupled)關係(圖-1)。 當可觀察層的需求及演算法變化所產生的漣漪效應不會波及晶片層。 同樣，當晶片層更改時，它不會影響可觀察層。 這可以大大降低AI晶片開發的風險。 因此，基於潛藏空間架構可以確保晶片底層設計變動的自由度，可以實現<沒錢就改版，改版就有錢>的商業策略。

課程目標

理解AI模型設計招式，運用Pytorch/TensorFlow訓練平台，開發各種ML(機器學習)模型。 採取MLOps專案管理模式，支援AI團隊與晶片設計師的協同設計(Co-design)與開發，無縫銜接到PLC、EDA晶片設計環境。

學員對象

有興趣於瞭解AI模型設計思維、開發技術、管理方法和晶片化商業策略者。 其中，熟悉程式設計者，可以使用Python來操作Pytorch； 而不諳Python者，則可使用Excel來操作幕後的Pytorch來訓練AI模型。 然後，也學習使用PLC和EDA等晶片設計環境。

課程特色

特別培養學員的AI晶片化視野，著眼於ML模型的潛藏空間(Latent Space)架構設計，支撐AI模組的復用性(Reusability)，來提升晶片的共用性。這個新視野涵蓋下圖裡的4項要素：

  • Gen AI 生態化： AI需要大量數據才能運作，這些數據用來學習和做出智能決策。
  • 模型容器化： 將AI拆解成小模塊，使其更容易開發和擴展，並且能夠適應不斷變化的需求。
  • 晶片積木化： 為了確保AI模型運行高效且成本效益，需要設計特定的硬體，以滿足性能需求。
  • 協同設計（Co-Design）： 通過協同設計和現代運營(MLOps)，確保AI模型可以成功部署、監控和管理，以實現實際價值。

LLM 生態化 ChipLet積木化技術

課程安排 課程安排（18小時課程）

主題 內容 備註
1、人工智慧(AI)與機器學習(ML)
  1. AI的現況與未來
  2. 機器學習(ML：Machine Learning)
  3. 深度學習(Deep Learning)
  
2、思考與討論
  1. 主題A：台灣晶創產業將如何主導全球AI生態發展。
  2. 主題B：AI生態的未來發展與容器(Container)的關鍵性。
  
3、ML是大數據淘金者
  1. 大數據是AI的糧食
  2. 大數據的範例：分群(Clustering)
  3. ML是一門<看>(Seeing)的藝術
  4. ML之道：鑒往知來，瞬間洞察
  
4、思考與討論
  1. 主題C：以LVM為例，實例演示AI容器的介面設計方法
  2. 主題D：如何迎接LLM潮流的下一步：小而美組合創新時代
  
5、關鍵技術：潛藏空間
  1. 潛藏空間的特點：客戶看不見它
  2. 是讓AI需求與晶片設計疏結合(Loosely-coupling)關鍵
  3. 它是AI與Chip設計師協同設計(Co-design)揮灑的空間
  4. 範例：GAN模型裡的潛藏空間
  5. 範例：NLP模型裡的潛藏空間
  
6、思考與討論
  1. 主題E：如何採取，建立企業AI模型
  2. 主題F：將醫學基因檢測AI模型，應用於EDA+AI晶片測試。
  
7、AI模型設計的雕龍十八招(Part-1)
  1. 第1招：Auto-Encoder(自編碼)
  2. 第2招：Correlations(複雜回歸)
  3. 第3招：One-Hot-Encoding(獨熱編碼)
  4. 第4招：Collaborative filtering(協同過濾)
  5. 第5招：Similarity(相似度)
  6. 第6招：Convolution(卷積)
  
8、AI模型設計的雕龍十八招(Part-2)
  1. 第7招：Expert intuition(專家直覺)
  2. 第8招：Transfer learning(遷移學習)
  3. 第9招：Word Embedding(字詞嵌入)
  4. 第10招：GAN(生成對抗)
  5. 第11招：RPN(邊框推薦)
  6. 第12招：BP-Triple(BP三公式)
  
9、AI模型設計的雕龍十八招(Part-3)
  1. 第13招：Data Imputing(資料補值)
  2. 第14招：RNN(遞迴網路)
  3. 第15招：Regression CNN(回歸CNN)
  4. 第16招：AI + Decision( AI+決策)
  5. 第17招：Transfer to Robots(智慧移植到機器人)
  6. 第18招：Co-Design (AI與IC團隊協同設計)
  
10、思考與討論
  1. 主題G：以Transformer生態為例，闡述以LDM實踐晶片PnP。
  2. 主題H：如何拿Gemma大模型來訓練企業的AI模型
11、回顧：目前常見的AI晶片化模式
  1. 目前大多採取行業別垂直設計，針對行業特殊需求而設計AI模型
  2. AI模型與晶片之間是緊密結合關係
  3. 不具復用性和共用性，局限於簡單AI功能
12、前瞻：全生態的AI晶片化新策略
  1. 由AI和晶片設計師進行協同設計
  2. 建立潛藏空間裡各模型組件的階層體系，有機組合出複雜的AI功能
  3. 促進跨行業共用潛藏空間組件，擴大AI晶片的市場和商機
  4. AI模型與晶片之間是疏結合關係，確保底層Chip設計的變動自由度，大幅降低風險、並容易優化品質

主講老師

神櫻AI團隊 / 晶創產業AI教師群

~~~ 大東海 X 神櫻AI團隊 ~~~