教學(xué)優(yōu)勢
曙海教育的課程培養(yǎng)了大批受企業(yè)歡迎的工程師。大批企業(yè)和曙海
建立了良好的合作關(guān)系。曙海集團(tuán)的課程在業(yè)內(nèi)有著廣泛的美譽(yù)度和響亮的知名度。
秉承二十幾年積累的教學(xué)品質(zhì)，本課程以真實(shí)項目實(shí)戰(zhàn)為導(dǎo)向,授課工程師將會與您分享設(shè)計的全流程及工具的綜合使用技巧、經(jīng)驗(yàn)。
?
第一章：主流框架搭建
第一節(jié)（LLM）主流框架搭建步驟
1.?深入學(xué)習(xí)并掌握PyTorch框架的搭建環(huán)境
2.?探討在conda虛擬環(huán)境中對不同版本的沖突
3.?驗(yàn)證GPU支持以及配置PyCharm的導(dǎo)入
4.?分析搭建過程中可能遇到的挑戰(zhàn)與解決方案
?
?
第二章：自然語言和多模態(tài)領(lǐng)域模型
第二節(jié)：LLaMA訓(xùn)練和原理
1.?詳述LLaMA訓(xùn)練流程和邏輯原理
2.?掌握預(yù)訓(xùn)練和微調(diào)兩個階段的規(guī)律
3.?討論采用不同的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和訓(xùn)練策略的不同
?
第三節(jié)：GLM模型原理和數(shù)據(jù)建模
1.?介紹線性函數(shù)在響應(yīng)變量與預(yù)測變量之間的關(guān)系
2.?了解GLM的核心組成部分（鏈接函數(shù)）
3.?舉例不同領(lǐng)域的數(shù)據(jù)分析和建模問題
?
第三章：實(shí)踐和訓(xùn)練
第四節(jié)：實(shí)驗(yàn)和練習(xí)
1.?動手實(shí)踐：使用開源工具搭建簡單的PyTorch框架、GLM建模
2.?分組討論：分享實(shí)驗(yàn)心得與遇到的難題
?
第五節(jié)：（LLM）訓(xùn)練技術(shù)應(yīng)用
1.?探討知識蒸餾和模型壓縮技術(shù)在大語言模型中的應(yīng)用
2.?介紹多任務(wù)學(xué)習(xí)和遷移學(xué)習(xí)在大語言模型訓(xùn)練中的優(yōu)勢和實(shí)踐方法
3.?案例分析：LLM在實(shí)際項目中的應(yīng)用與效果
?
