:::
課程 ttgchang - AI 課程 | 2025-04-25 | 點閱數: 19

進階課程

台灣AI軟體設計 技能培訓

課程介紹圖示 課程介紹

  • 在AI大模型(LLM)潮流下,有豐富的開源程式碼。
  • 拿開源程式碼(code),來訓練企業自用AI小模型。
  • 只要您心懷「愛碼」即可以,不必親自動手「寫碼」。

 課程目標

學完本課程後,可靈活運用開源大模型程式碼,並搭配企業自有資料,訓練出專屬的AI中小模型。達成低成本、省算力、高價值的AI方案。

  課程特色

  • 第一階段(2天): 由高煥堂教授(及其團隊專家們)親自為您闡述8項傑出思維,並觀摩典型案例,實機體驗:
  • 第二階段(2天): <做中學>模式。以個人或小組討論、協同創作模式,然後提供一天的線上交流討論和分享創作。

八項傑出思維:

  1. 精準厘清泛化需求,調整模型參數,追求最優化。
  2. 家貓搭配野貓。貓丁興旺,企業興隆,財源廣闊。
  3. 優化人機的協作模式。建立<人,AI,IT>的三合。
  4. 熟悉微調的訓練機制,並搭配GPU性能優化策略。
  5. 區分AI模型裡的可觀察空間與潛藏(Latent)空間。
  6. 避免掉入把AI模型應用於<果-果>推論的陷阱裡。
  7. 活用LLM來優化人機介面,拉近科技與人的距離。
  8. Gen AI不僅能生成作品,也能生成樣本(Samples)。

 課程安排

學習任務 內容 備註
傑出思維範例演練(1)
  1. 主題:精準厘清泛化需求,調整模型參數,追求最優化。
  2. 說明:泛化是大模型的基本能力,但會導致效率下降。企業訓練師應針對實際應用刪減不必要的泛化功能、結構與訓練資料,以提升效能。
 
傑出思維範例演練(2)
  1. 主題:家貓搭配野貓。貓丁興旺,企業興隆,財源廣闊。
  2. 說明:訓練自己的家貓(小模型),搭配外來的野貓(大模型)。貓丁興旺,企業興隆。活用企業專家經驗,來對外來野貓強大知識力,進行有效的〈去蕪存菁〉剪枝之後,才是企業最值得信賴的知識力,最能提供客戶〈比你更懂你〉的服務效能。
 
傑出思維範例演練(3)
  1. 主題:優化人機的協作模式。建立<人,AI,IT>的三合。
  2. 說明:鑒於近年來LLM的發展,AI愈來愈善解人意,但是行為卻更加幻覺。於是,我們可以把機器(電腦)的任務分為三項: (1) 與人體貼互動、(2) 正確工作行為、(3) 關鍵重要決策。其中的第1項任務可由AI來打前鋒。而第2項任務則由傳統IT打前鋒搭配AI輔助。 至於攸關法律責任(或人命關天)的重要決策,則交給人類來主導&裁決。
 
傑出思維範例演練(4)
  1. 主題:熟悉微調的訓練機制,並搭配GPU性能優化策略。
  2. 說明:熟悉LoRA微調三步驟:
    Step-1:觀察&測試原模型(如Gemma)的input和output格式
    Step-2:準備Training data,建立自己的Dataset類別,並拿原模型測試訓練。
    Step-3:將LoRA外掛到原模型(如Gemma),並進行協同訓練及測試。
 
傑出思維範例演練(5)
  1. 主題:區分AI模型裡的可觀察空間與潛藏(Latent)空間。
  2. 說明:力求發揮潛藏空間的三項特質是:架構通用性、內涵復用性、模塊組裝性。這個架構如同一棵大樹的主幹,向上支援枝葉(即可觀察空間)的新陳代謝,又能支持根部(如底層GPU晶片)的成長,因而創造了整體生生不息的有機次序(Organic Order)。例如,當底層晶片層更改時,它不會影響可觀察層,能大幅降低AI晶片開發的風險。
 
傑出思維範例演練(6)
  1. 主題:避免掉入把AI模型應用於<果-果>推論的陷阱裡。
  2. 說明:許多人們常常掉入把AI模型應用於<果果>推論的陷阱裡。 這在各行業裡都要留意:所有呈現的數據幾乎都是現象的<果>。 而這些現象的真實的<因>並沒有呈現於大數據裡。因而一般人常常只關心數據的<真>與<假>。 而沒有深入探索出關於<因>的潛藏數據。例如,Apple Watch是一個成功的AI商業案例。
 
傑出思維範例演練(7)
  1. 主題:活用LLM來優化人機介面,拉近科技與人的距離。
  2. 說明:凡是有科學技術或美學設計來顯著拉近人與電腦之間的距離時,都會帶來巨大的商業效益。 例如,15年前,從平板+觸控筆操作,改進到手機+手指滑動操作,又帶給主導企業可觀的收益。 如今,從輸入關鍵字查詢,又推進到LLM的文字(語音)輸入和交互,也將帶給有關企業巨大的商業利益。
 
傑出思維範例演練(8)
  1. 主題:Gen AI不僅能生成作品,也能生成樣本(Samples)。
  2. 說明:例如,擅用基因醫學的GWAS分析,以及IC晶片設計的龐大特徵(Features)數來生成樣本(樣本), 做為決策式AI模型的訓練數據,既能節省成本又提升AI訓練的效果。 無論是醫療方案、IC晶片設計、無人機作戰、企業投資等決策都有巨大商業意義。
 

主講老師

高煥堂 教授,以及神鷹AI團隊專家群

大東海 X 神櫻團隊