課程大綱

第一篇：數(shù)據(jù)分析與機(jī)器學(xué)習(xí)引入

第一節(jié)：python基礎(chǔ)

python基本數(shù)據(jù)類型：list, dict, tuple, set等

Python文件操作：txt, excel等

Python 的標(biāo)準(zhǔn)庫和第三方庫

Python高級用法：切片、迭代、map、filter、reduce

Python文件操作

關(guān)于形成Pythonic代碼習(xí)慣的思考

代碼和案例實(shí)踐

大素?cái)?shù)計(jì)算與優(yōu)化及其思考

負(fù)二項(xiàng)分布與比賽勝率

本福特定律的優(yōu)化方法

第二節(jié)：數(shù)據(jù)分析和預(yù)處理

Numpy/Scipy/Pandas/Matplotlib/Seaborn 庫

Numpy 基礎(chǔ)屬性與數(shù)組創(chuàng)建

Numpy 索引

Numpy 數(shù)學(xué)運(yùn)算與常用分布

Pandas 數(shù)據(jù)處理與分析

Pandas 文件讀寫和個(gè)性化控制

Pandas 的 concat 與 merge

Matplotlib 基本圖結(jié)構(gòu)介紹

基于 Matplotlib 繪制散點(diǎn)圖、柱狀圖、等高線圖、3D 圖等

多圖合并與圖片文件存取

典型圖像處理

多種數(shù)學(xué)曲線

多項(xiàng)式擬合

代碼和案例實(shí)踐

快速傅里葉變換FFT與信號處理

soble/Prewitt/Laplacian算子與卷積網(wǎng)絡(luò)

卷積與（指數(shù)）移動(dòng)平均線

股票數(shù)據(jù)分析

缺失數(shù)據(jù)的處理和預(yù)測

環(huán)境數(shù)據(jù)異常檢測和分析

快速傅里葉變換FFT

圖像處理與奇異值分解SVD

第二篇：機(jī)器學(xué)習(xí)模型詳解

第三節(jié)：機(jī)器學(xué)習(xí)核心原理與回歸分析

線性回歸

Logistic/Softmax回歸

廣義線性回歸

L1/L2正則化

Ridge與LASSO

Elastic Net

梯度下降算法：BGD與SGD

特征選擇與過擬合

Softmax回歸的概念源頭

最大熵模型

K-L散度

代碼和案例實(shí)踐

股票數(shù)據(jù)的特征提取和應(yīng)用

泰坦尼克號乘客缺失數(shù)據(jù)處理和存活率預(yù)測

環(huán)境檢測數(shù)據(jù)異常分析和預(yù)測

模糊數(shù)據(jù)查詢和數(shù)據(jù)校正方法

PCA與鳶尾花數(shù)據(jù)分類

二手車數(shù)據(jù)特征選擇與算法模型比較

廣告投入與銷售額回歸分析

鳶尾花數(shù)據(jù)集的分類

第四節(jié)：決策和隨機(jī)森林

熵、聯(lián)合熵、條件熵、KL 散度、互信息

最大似然估計(jì)與最大熵模型

ID3、C4.5、CART 詳解

決策樹的正則化

預(yù)剪枝和后剪枝

Bagging

隨機(jī)森林

不平衡數(shù)據(jù)集的處理

利用隨機(jī)森林做特征選擇

使用隨機(jī)森林計(jì)算樣本相似度

異常值檢測

代碼和案例實(shí)踐

隨機(jī)森林與特征選擇

決策樹應(yīng)用于回歸

多標(biāo)記的決策樹回歸

決策樹和隨機(jī)森林的可視化

葡萄酒數(shù)據(jù)集的決策樹/隨機(jī)森林分類

泰坦尼克乘客存活率估計(jì)

第五節(jié)：聚類分析

各種相似度度量及其相互關(guān)系

Jaccard 相似度和準(zhǔn)確率、召回率

Pearson 相關(guān)系數(shù)與余弦相似度

K-means 與 K-Medoids 及變種

層次聚類：自頂向下，自底向上

AP 算法(Sci07)/LPA 算法及其應(yīng)用

密度聚類 DBSCAN/DensityPeak(Sci14)

譜聚類 SC

聚類評價(jià)和結(jié)果指標(biāo)

代碼和案例實(shí)踐

K-Means++算法原理和實(shí)現(xiàn)

向量量化 VQ 及圖像近似

并查集的實(shí)踐應(yīng)用

密度聚類的異常值檢測

譜聚類用于圖片分割

第六節(jié)：關(guān)聯(lián)規(guī)則挖掘算法

項(xiàng)、事務(wù)

支持度、置信度、lift 值、Conviction

關(guān)聯(lián)規(guī)則算法詳述

頻繁項(xiàng)集及其快速發(fā)現(xiàn)

閾值選擇問題

BFS 和 DFS 搜索策略

計(jì)數(shù)法和交集法

Apriori、Eclat

FP-growth

代碼和案例實(shí)際

商品和用戶相關(guān)性分析與推薦

用戶相似性評價(jià)的不同方案與異同比較

并查集的實(shí)踐應(yīng)用

關(guān)聯(lián)規(guī)則與 SVD、LFM 的實(shí)戰(zhàn)區(qū)別

第七節(jié)：XGBoost 與

LightGBM 模型詳解

定義樹的復(fù)雜度

boosting tree 的提升思路

殘差的選擇

XGBoost 損失函數(shù)的提成

Loss 的精確一階導(dǎo)數(shù)和二階導(dǎo)數(shù)

近似加權(quán)分位法

稀疏自適應(yīng)分割策略

XGBoost 的過擬合與正則化目標(biāo)函數(shù)

算法成功之處和存在的問題

boosting 框架總覽

重新認(rèn)識(shí)樣本的梯度

GOSS 思想在 LightGBM 中的應(yīng)用

貪心和啟發(fā)式特征搜索

EFB 候選特征的選擇

Histogram 算法與 Pre-sorted 算法對數(shù)據(jù)結(jié)構(gòu)的影響

樣本采樣與權(quán)重

再談引入稀疏數(shù)據(jù)的原因

單邊采樣帶來的訓(xùn)練樣本減少

代碼和案例實(shí)踐

收入分類模型的提升應(yīng)用

XGBoost 庫與 sklearn 庫的使用

提升模型在用戶感知評分預(yù)測的應(yīng)用

XGBoost 用于真實(shí)信號數(shù)據(jù)中的分類建模和調(diào)參

鉆井工況數(shù)據(jù)在 LightGBM 中的實(shí)踐

LightGBM 與 XGBoost 的性能比較

基站小區(qū)節(jié)能預(yù)測建模

哪些場景不適合 LightGBM

第三篇：深度學(xué)習(xí)原理與實(shí)踐

第八節(jié)：卷積神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，濾波器，卷積

池化，激活函數(shù)，反向傳播

目標(biāo)分類與識(shí)別、目標(biāo)檢測與追蹤

AlexNet、VGGNet、GoogleLeNet

Inception-V3/V4

ResNet、DenseNet

代碼和案例實(shí)踐

數(shù)字圖片分類

卷積核與特征提取

以圖搜圖

人證合一

卷積神經(jīng)網(wǎng)絡(luò)調(diào)參經(jīng)驗(yàn)分享

第九節(jié)：卷積神經(jīng)網(wǎng)絡(luò)高

級應(yīng)用

Inception-V3/V4

ResNet、DenseNet

使用遷移學(xué)習(xí)實(shí)現(xiàn)蒙古文識(shí)別

獲取中間隱層的特征及可視化

隱層特征的意義和使用

遷移學(xué)習(xí)的 trick

學(xué)習(xí)率、衰減、凍結(jié)等問題

代碼和案例實(shí)踐

數(shù)字圖片分類

卷積核與特征提取

以圖搜圖

人證合一

卷積神經(jīng)網(wǎng)絡(luò)調(diào)參經(jīng)驗(yàn)分享

貓狗大戰(zhàn)詳解

海量蒙古文識(shí)別

隱特征可視化及其應(yīng)用

第十節(jié)：圖像目標(biāo)檢測與

視頻分類

視頻關(guān)鍵幀處理

卷積的位置不變形與圖像定位的關(guān)系

物體檢測與定位

RCNN，Fast-RCNN，Faster-RCNN，MaskRCNN

YOLOv4、SSD

UNet 及其與殘差網(wǎng)絡(luò)的結(jié)合

FaceNet 與特征

EfficientNet、EfficientDet

視頻幀的目標(biāo)定位

時(shí)空卷積網(wǎng)絡(luò)

SlowFast

代碼和案例實(shí)踐

人臉檢測

OCR 字體定位和識(shí)別

睿客識(shí)云

氣象識(shí)別

視頻分類的 trick

政務(wù)大廳視頻監(jiān)控的真實(shí)系統(tǒng)

第十一節(jié)：循環(huán)神經(jīng)網(wǎng)絡(luò) RNN

語言模型 Bi-Gram/Tri-Gram/N-Gram

分詞算法的原理及類似應(yīng)用

詞性標(biāo)注

語義關(guān)系抽取

詞向量

文本分類：基于 CNN 和基于 LSTM 的方法比較

機(jī)器翻譯：Seq2Seq 的典型應(yīng)用

Transformer、BERT 等模型原理

文本摘要與信息抽取

閱讀理解

問答系統(tǒng)

情感分析

代碼和案例實(shí)踐

知識(shí)圖譜：命名實(shí)體識(shí)別的實(shí)踐

知識(shí)圖譜：實(shí)體關(guān)系的判定與分類

HMM 分詞及 CRF 的異同

文本摘要的生成

智能對話系統(tǒng)和 SeqSeq 模型

閱讀理解的實(shí)現(xiàn)與 Attention

機(jī)器翻譯

使用 LSTM 生成文本

第四篇：AIGC與大模型實(shí)踐

第十二節(jié)：擴(kuò)散模型

GAN-VAE-流模型-擴(kuò)散模型的技術(shù)發(fā)展和變化

CLIP 和擴(kuò)散模型的結(jié)合：基于 CLIP 模型的多模態(tài)引導(dǎo)圖像生成：圖文引導(dǎo)

GLIDE：文本引導(dǎo)

Diffusion-CLIP 模型

擴(kuò)散和去噪(Diffusion&Denoise)

訓(xùn)練和采樣(Training&Sampling)

離散步驟的馬爾可夫鏈

分子熱動(dòng)力學(xué)的擴(kuò)散過程

離散加噪

DDPM-最經(jīng)典的擴(kuò)散模型

DDIM：加速采樣、可控?cái)U(kuò)散

IVLR：迭代去燥的圖像編輯，低通濾波上采樣

RePaint: 被掩碼的區(qū)域進(jìn)行擴(kuò)散生成

代碼和案例實(shí)踐

低質(zhì)量噪聲圖像修復(fù)

精確復(fù)原原圖

圖像去除遮擋、圖像補(bǔ)全

圖像生成（人物恢復(fù)青春、人物變瘦）

第十三節(jié)：GPT1、 GPT2、GPT3、chatGPT原理與實(shí)戰(zhàn)

監(jiān)督微調(diào)（SFT）模型

指示學(xué)習(xí)和提示學(xué)習(xí)

簡單提示、小樣本提示、基于用戶的提示

指令微調(diào)

RLLHF 技術(shù)詳解（從人類的反饋中學(xué)習(xí)）

聚合問答數(shù)據(jù)訓(xùn)練獎(jiǎng)勵(lì)模型（RM）

強(qiáng)化學(xué)習(xí)微調(diào)、PPO

InstructGPT 遵循用戶意圖使用強(qiáng)化學(xué)習(xí)方案

Instruct Learning vs. Prompt Learning

ChatGPT 增加增加了 Chat 屬性

AI 系統(tǒng)的新范式

GPT1-GPT2-GPT3-InstructGPT 的-chatGPT 的技術(shù)關(guān)系

代碼和案例實(shí)踐

使用 chatGPT 打造你的私人聊天助理

演示提示詞技巧，翻譯器潤色器、JavaScript 控制臺(tái) 、Excel Sheet

網(wǎng)站定制 chatgpt-web

第十四節(jié)： AIGC 圖文引導(dǎo)圖像生成

圖像引導(dǎo)、文本引導(dǎo)、圖像+文本引導(dǎo)

CLIP 和擴(kuò)散模型的結(jié)合：基于 CLIP 模型的多模態(tài)引導(dǎo)圖像生成：圖文引

導(dǎo)

GLIDE：文本引導(dǎo)

DALL·E 2：diffusion model 和 CLIP 結(jié)合在一起

隱式分類器引導(dǎo)的圖像生成

Blended Diffusioni 模型

Diffusion-CLIP 模型

DiffEdit 模型

代碼和案例實(shí)踐

實(shí)現(xiàn)圖像引導(dǎo)、文字引導(dǎo)、圖文引導(dǎo)下的圖片生成

Diffusion LM

知識(shí)圖譜-圖網(wǎng)絡(luò)等“邊緣技術(shù)”在 AIGC 中的應(yīng)用

AIGC 的可能應(yīng)用領(lǐng)域和行業(yè)影響

第五篇：EXIN AI 認(rèn)證考試內(nèi)容

符合道德倫理和可持續(xù)的人類和人工智能（AI）

1.1 回顧人類智能和 AI 的一般定義

考生能夠:

1.1.1 描述智能體的概念

1.1.2 利用 Robert Dilt 的模型描述關(guān)于人類思維邏輯水平的現(xiàn)代方法

考生能夠:

1.2.1 回顧道德倫理的一般定義

1.2.2 回顧以人為中心且合乎道德的宗旨不能違背基本權(quán)利、原則和價(jià)值觀

1.2.3 回顧合乎道德的 AI 是通過技術(shù)可靠的值得信賴的 AI 實(shí)現(xiàn)的

1.2.4 回顧以人為中心、合乎道德且可信賴的 AI 會(huì)持續(xù)得到評估和監(jiān)測

1.3 描述可持續(xù)發(fā)展的三個(gè)基礎(chǔ)領(lǐng)域，以及聯(lián)合國的 17 個(gè)可持續(xù)發(fā)展目標(biāo)

1.4 描述 AI 在“通用化設(shè)計(jì)”和“第四次工業(yè)革命”中的作用

1.5 理解機(jī)器學(xué)習(xí)（ML）對 AI 的發(fā)展起到了極大的推動(dòng)作用

考生能夠:

1.5.1 描述“在經(jīng)驗(yàn)中學(xué)習(xí)”及其與 ML 的關(guān)系（Tom Mitchell 給出的

明確定義）

AI 和機(jī)器人

2.1 表明已理解 AI 智能體定義，并：

考生能夠:

2.1.1 列出四個(gè)理性智能體依賴項(xiàng)

2.1.2 描述智能體的性能度量、環(huán)境、執(zhí)行器和傳感器

2.1.3 描述智能體的四個(gè)類型：反射性智能體、基于模型的反射性智能體、

基于目標(biāo)的智能體、基于效用的智能體

2.1.4 描述 AI 智能體與 ML 之間的關(guān)系

2.2 描述機(jī)器人的概念

考生能夠:

2.2.1 描述機(jī)器人范式。

2.3 描述智能機(jī)器人，以及：

考生能夠:

2.3.1 智能機(jī)器人與智能體的關(guān)系

AI 優(yōu)勢的應(yīng)用 - 挑戰(zhàn)和 風(fēng)險(xiǎn)

3.1 描述可持續(xù)性與以人為中心且合乎道德的 AI 之間的關(guān)系，以及我們

的價(jià)值觀將如何推動(dòng) AI 的使用，進(jìn)而改變?nèi)祟悺⑸鐣?huì)和組織

3.2 解釋 AI 的優(yōu)勢

考生能夠:

3.2.1 列舉機(jī)器、人類和機(jī)器系統(tǒng)的優(yōu)勢

3.3 描述 AI 的挑戰(zhàn)

考生能夠:

3.3.1 列舉 AI 引起的道德挑戰(zhàn)

3.3.2 列舉與人類系統(tǒng)相比 AI 系統(tǒng)存在的限制的一般示

3.4 表明已理解 AI 項(xiàng)目的風(fēng)險(xiǎn)

考生能夠:

3.4.1 舉出至少一個(gè)關(guān)于 AI 風(fēng)險(xiǎn)的一般示例

3.4.2 具體描述典型的 AI 項(xiàng)目團(tuán)隊(duì)

3.4.3 描述什么是領(lǐng)域?qū)＜?span>

3.4.4 描述什么是“符合目標(biāo)”（fit-of-purpose）。

3.4.5 描述瀑布項(xiàng)目和敏捷項(xiàng)目之間的區(qū)別

3.5 列舉 AI 的機(jī)遇

識(shí)別典型的 AI 項(xiàng)目資金來源，并理解什么是美國宇航局技術(shù)就緒水平

（TRL）

如何從創(chuàng)建ML工具箱開始 AI 項(xiàng)目 - 理論和實(shí)踐

4.1 講解如何通過數(shù)據(jù) - 功能、軟件和硬件學(xué)習(xí)

考生能夠:

4.1.1 列舉常見的開源 ML 功能、軟件和硬件。

4.1.2 描述 ML 的基礎(chǔ)理論

4.1.3 描述準(zhǔn)備數(shù)據(jù)過程中的典型任務(wù)

4.1.4 描述典型的 ML 算法類型

4.1.5 描述數(shù)據(jù)可視化的典型方法。

4.2 回顧哪個(gè)典型的狹義 AI 對 ML 有用，以及 AI 智能體的功能

人類和機(jī)器的管理、作用和責(zé)任

5.1 表明已理解 AI（特別是 ML）將促使人類和機(jī)器協(xié)同工作

5.2 列舉人類與機(jī)器協(xié)同工作的未來方向

5.3 說明項(xiàng)目中采用的“從經(jīng)驗(yàn)中學(xué)習(xí)”的敏捷方法

考生能夠:

5.3.1 說明敏捷項(xiàng)目所需的團(tuán)隊(duì)成員類型。