機器學習與深度學習培訓

Day1初識機器學習

上午

概述入門

數據預處理

概述（第一天——1）

1、 概念與術語（人工智能、數據挖掘、機器學習）

2、 數據挖掘的對象

3、 數據挖掘的關鍵技術

4、 知識的表達

5、 Python的安裝

數據預處理（第一天——2）

1、 數據清理

2、 規范化

3、 模糊集

4、 粗糙集

5、 無標簽時：PCA

6、 有標簽時：Fisher線性判別

數據壓縮（DFT、小波變換）

案例實踐：

1、 python安裝

2、 Tensorflow安裝

3、 PCA的實驗

4、 DFT的實驗

Day1初識機器學習

下午

回歸與時序分析

決策樹

回歸與時序分析 （第一天——3）

1、 線性回歸

2、 非線性回歸

3、 logistics回歸

4、 平穩性、截尾與拖尾

5、 ARIMA

決策樹（第一天——4）

1、 分類和預測

2、 熵減過程與貪心法

3、 ID3

4、 C4.5

5、 其他改進方法

決策樹剪枝

案例實踐：

1、 回歸的實驗

2、 ARIMA預測實驗

3、 決策樹的實驗

Day2機器學習中的典型算法

上午

聚類

關聯規則

樸素貝葉斯與KNN

聚類（第二天——1）

1、 監督學習與無監督學習

2、 K-means與k-medoids

3、 層次的方法

4、 基于密度的方法

5、 基于網格的方法

6、 孤立點分析

關聯規則（第二天——2）

1、 頻繁項集

2、 支持度與置信度

3、 提升度

4、 Apriori性質

5、 連接與剪枝

樸素貝葉斯與KNN（第二天——3）

1、 KNN

2、 概率論基礎：條件概率、聯合概率、分布、共軛先驗。

3、 “概率派”與“貝葉斯派”

4、 樸素貝葉斯模型

案例實踐：

1、 鳶尾花數據的聚類

2、 超市購物籃——關聯規則分析

3、 樸素貝葉斯案例：皮馬印第安人患糖尿病的風險

Day2機器學習中的典型算法

下午

極大似然估計與EM算法

性能評價指標

極大似然估計與EM算法（第二天——4）

1、 極大似然估計

2、 對數似然函數

3、 EM算法

性能評價指標（第二天——5）

1、 準確率；精確率、召回率；F1

2、 真陽性率、假陽性率

3、 混淆矩陣

4、 ROC與AUC

5、 對數損失

6、 Kappa系數

7、 回歸：平均絕對誤差、平均平方誤差

8、 聚類：蘭德指數、互信息

9、 k折驗證

案例實踐：

1、 正態分析的參數估計

2、 EM算法應用案例：雙正態分布的參數估計

3、 繪制ROC并計算AUC、F1

4、 繪制擬合曲線，計算擬合優度

Day3神經網絡專題

上午

BP神經網絡

模擬退火算法與其他神經網絡

BP神經網絡   （第三天——1）

1、 人工神經元及感知機模型

2、 前向神經網絡

3、 sigmoid

4、 徑向基函數神經網絡

5、 誤差反向傳播

模擬退火算法與其他神經網絡 （第三天——2）

1、 模擬退火算法

2、 Hopfield網絡

3、 自組織特征映射神經網絡（SOM）

4、 受限布爾茲曼機

案例實踐：

1、 可以手算的神經網絡

2、 神經網絡模擬一個圓錐曲面

3、 “貨郎擔”問題（模擬退火算法）

4、 識別破損的字母（Hopfield網絡）

5、 聚類的另一種解法（SOM）

Day3神經網絡專題

下午

機器學習中的最優化方法

遺傳算法

機器學習中的最優化方法（第三天——3）

1、 參數學習方法

2、 損失函數（或目標函數）

3、 梯度下降

4、 隨機梯度下降

5、 牛頓法

6、 擬牛頓法

遺傳算法 （第三天——4）

1、 種群、適應性度量

2、 交叉、選擇、變異

3、 基本算法

案例實踐：

1、 隨機梯度下降的例子

2、 牛頓法求Rosenbrock(香蕉函數)的極值

3、 “同宿舍”問題：遺傳算法

Day4機器學習進階

上午

支持向量機

隱馬爾科夫模型

支持向量機 （第四天——1）

1、 統計學習問題

2、 支持向量機

3、 核函數