深度學習介紹

AI 地圖

X 軸：不同的模式（越往右時間越新）

• 符號學
• 概率模型：統(tǒng)計學模型
• 機器學習

Y 軸：問題領域（先要了解一個東西，然后通過推理形成知識，最后做規(guī)劃）

• 感知：所能看到的物體
• 推理：根據(jù)所看到的東西想象未來可能會發(fā)生什么
• 知識：根據(jù)所看到的數(shù)據(jù)或者是現(xiàn)象形成自己的知識
• 規(guī)劃：在知道所有東西的情況下能夠進行一個比較長遠的規(guī)劃

自然語言處理：雖然取得了很大的進展，但是還是停留在最簡單的感知上

• 自然語言處理中機器翻譯用的比較多
• 人任何幾秒鐘之內能夠反映過來的行為都可以認為是感知的范圍
• 自然語言處理最早是符號學，因為語言是一種符號，接下來才是概率模型和機器學習

計算機視覺：能夠在一些圖片中進行推理

• 圖片都是由像素組成的，很難用符號學來解釋，所以計算機視覺大部分使用概率模型和機器學習

深度學習：機器學習的一種

過去八年中最熱門的大方向是自然語言處理、計算機視覺和深度學習三者的結合

深度學習在應用上的突破：

圖片分類

• ImageNet 數(shù)據(jù)集是一個比較大的圖片分類數(shù)據(jù)集，包含1000類的自然物體的圖片，大約有100萬張圖片

• 上圖表示了從 2010 年到 2017 年的 ImageNet 分類的錯誤率
• X軸表示時間
• Y軸表示錯誤率
• 圖中的點表示一些工作的錯誤率
• 在2012年的時候錯誤率有一個比較大的下降，也是深度學習的開始，在接下來的5年中，深度學習將整個圖片分類的誤差已經(jīng)降到非常低了，2017年的時候，基本上所有的團隊都能將錯誤率達到 5% 以內，基本上可以達到人類對圖片識別的精度，因此，深度學習在圖片分類上已經(jīng)做的非常好了

物體檢測和分割

• 當不僅僅希望知道圖片中有什么內容，還想要知道是什么、在什么地方，這就需要物體檢測
• 物體分割是想要知道每一個像素是屬于哪一個物體

樣式遷移

• 將樣式圖片和內容圖片進行合成，也可以認為就是濾鏡，這樣的好處是只要找到某一種樣式的圖片就可以把內容圖片換成任意所想要的形式

人臉合成

• 圖中所有的人臉都是假的，是通過算法隨機合成的照片

文字生成圖片

• 通過描述性的文字來生成對應的圖片

文字生成

無人駕駛

案例研究：廣告點擊

• 問題：給定用戶輸入，如何推送合適的廣告

大致可以分為以下三個階段：

1、觸發(fā)

• 在輸入關鍵詞之后，立即找到一些相應的廣告

2、點擊率預估

• 建議一個預測模型，預測用戶在看到廣告之后的點擊情況，p表示用戶點擊廣告的概率

3、排序

• 跟據(jù)廣告的點擊率和每次用戶點擊之后廣告主所付的報酬，利用用戶點擊率*競價作為廣告排序的依據(jù)，數(shù)值越大的排名越靠前，排名較低的可能會進行舍棄

上述三個階段中最重要的是預測用戶點擊率的機器學習模型，步驟如下圖所示：

1、在看到一個廣告之后，首先需要進行特征提?。?strong>廣告主、產品描述信息、產品圖片

2、將上述特征放入預測模型之后就能夠得到點擊率的預測

3、另外，可以將過去所有用戶的廣告點擊數(shù)據(jù)存下來，然后將其作為用戶真實的點擊行為進行特征提取，然后對模型進行訓練

• 領域專家：對應用領域有非常深的了解，并且了解機器學習，關注點在機器學習的模型對產品的影響
• 數(shù)據(jù)科學家：將原始數(shù)據(jù)變成機器學習模型所能理解的數(shù)據(jù)，然后進行訓練
• AI專家：關注某幾個點進行進一步精度和性能提升

Q&A

• 1、在機器學習的可解釋性，也就是機器學習在圖片分割領域為什么有效，目前有沒有定論？
  ?

  深度學習介紹 QA P2 - 00:16

  ?

• 2、領域專家是什么意思？
  ?

  深度學習介紹 QA P2 - 01:56

  ?

• 3、MXNET安裝GPU版本必須需要卸載CPU版本的MXNET嗎？
  ?

  深度學習介紹 QA P2 - 03:05

  ?

• 4、深度學習無法用數(shù)學規(guī)范表述，只能從直覺上理解是嗎？
  ?

  深度學習介紹 QA P2 - 03:24

  ?

• 5、符號學可以和機器學習融合起來嗎？
  ?

  深度學習介紹 QA P2 - 03:51

  ?

• 6、數(shù)據(jù)科學家和AI專家的主要區(qū)別在哪里？
  ?

  深度學習介紹 QA P2 - 04:22

  ?

• 7、Mac是不是可以支持pytorch？
  ?

  深度學習介紹 QA P2 - 05:34

  ?

• 8、自然語言僅僅在感知層面似乎不太合適，因為語言的理解和感知不僅僅涉及感知，也涉及到語言知識和世界的知識，也涉及到規(guī)劃
  ?

  深度學習介紹 QA P2 - 05:52

  ?

• 9、請問老師有考慮講一講如何尋找自己領域的paper的經(jīng)驗嗎？
  ?

  深度學習介紹 QA P2 - 06:44

  ?

• 10、以無人駕駛的環(huán)境識別為例，誤判率在不斷下降，但是誤判帶來的影響可能是很嚴重的，有可能從已有的判斷case得到修正從而完全避免這樣的錯誤嗎？
  ?

  深度學習介紹 QA P2 - 07:56

  ?

----end----

其他參考：

1、《動手學深度學習》，課程PPT，https://courses.d2l.ai/zh-v2/assets/pdfs/part-0_2.pdf