 課程名稱 |
【竹科管理局補助課程】大語言模型原理及其應用(實作) |
| 課程內容 |
1. 大語言模型發展歷程 2. 大語言模型建構過程 3. 大語言模型基礎 3-1多層感知機(multilayer perceptron)：線性迴歸、羅吉斯分類、Softmax分類 3-2卷積神經網路(convolution neural network) 3-3遞歸神經網路(recurrent neural network) 3-4長短期記憶(long short term memory) 3-5注意力、自注意力與多頭機制 3-6變形金剛(transformers)模型 4. 重要大語言模型 4-1動態詞詞嵌入模型(ELMo) 4-2基於變形金剛的雙向編碼器表示技術(BERT) 4-3生成式預訓練模型(GPT) 5. 大語言模型預訓練資料 6. 大語言模型有監督微調 7. 大語言模型強化學習 8. 大語言模型應用 |
| 先修課程 |
| 上課日期 | 上課時段 | 授課老師 | 報名截止日 | 上課地點 | 報名 | 課程費用 |
|---|---|---|---|---|---|---|
| 20250708-20250709 | 週二、三，09:00~16:00 | 鄒慶士 教授 | 20250704 | 清華大學第四綜合大樓 | 我要報名 | 3000 |