一：緒論
人工智慧：使一部機器人像人一樣進行感知、認知、決策、執行的人工程式或系統。
標誌事件表：

人工智慧誕生：1956年的達特茅斯會議
三個層面：目前處於第二個

分類：

三起兩落：

其中第一次是感知機的出現，第二次是BP的出現，第三次是包括是三個，分別是：逐層預訓練演算法、深度學習演算法在ImageNet以及2016年的AlphaGo。
一些重要人物：





二：基礎知識

1. 機器學習三要素：模型、學習準則、優化演算法。
   模型：對映函式。
   學習準則：經驗風險最小化。
   優化演算法：梯度下降。

2. 神經網路
   一般是非凸函式

3. 梯度下降
   隨機梯度下降—SGD
   批量梯度下降
   小批量梯度下降

4. 範數
   向量：
   L1範數：各個元素的絕對值之和。
   L2範數：每個數的平方的和，然後再開方。
   L無窮：向量中最大值。
   矩陣：
   L範數:每個數的p次方，然後累加，然後再開p次方

5. 感知機
   階躍啟用函式，沒有隱藏層。算機器學習的一個第一個階段。