深度學習學習心得-1 - HackMD

深度學習心得第一篇--- ! ... 深度學習 :eye-in-speech-bubble: 屬於機器學習的一種; 模擬腦神經網路的學習方式; 應用領域廣; 有一個很潮的名字-Deep learning. 深度學習心得 第一篇 ---   --- BeginnersGuide --- Ifyouareatotalbeginnertothis,starthere! 1.DownloadAnacinda&keras 2.Openit!(Idoallthecodeinjuypternotebook) 3.Chooseacomfortablechair:kissing_heart: 4.Startlearning! ---- ##基礎知識1 深度學習:eye-in-speech-bubble: 1.屬於機器學習的一種 2.模擬腦神經網路的學習方式 3.應用領域廣 4.有一個很潮的名字-Deeplearning ---- ##基礎知識2 1.1958年:TheconceptofPreceptron(分類器)被提出 2.1969年:分類器發展遇到瓶頸(坦克辨識事件) 3.1980年:multi-layerperceptron(similartoDNN) 4.2006年:RBMinitialization(深度學習開端) =>技術複雜,至今無人使用 5.2009年:GPU開始崛起有助於DeepLearing ---- 深度學習發展 --- 1.2012年:Alex-netwintheImageNet 2.GoogleNet/Resent50... 3.某些項目的辨識率已經超過人類 :::info 目前有些深度學習model 可以直接用matlab快速套用 ver2019b ::: --- 深度學習流程 --- 1.Defineasetfunction 2.Goodnessoffunction 函數與數據的擬合程度 3.Pickthebestfunction 4.就像是把大象放進冰箱一樣  ---- 步驟1.Defineasetfunction --- 1.決定神經網路的架構並間彼此相連(下圖是FNN) 2.連接方式有很多種,如:CNN/FNN/ANN  ---- FNN --- 1. FullyConnectedFeedforwardNetwork 若參數都已知:一個network=一個function 若有未知參數:一個network=functionset :::info **Inputlayer(1)->hiddenlayers(many)->outputlayer(1) Morehiddenlayers=moredeep!!!** ::: ---- 不同model的layers數 --- **以下均使用CNN** 1.AlexNet:8layers 2.GoogleNet:22layers 3.ResNet:152layers 4.SeNet:154layers --- ActivateFunctions --- 1.ReLu(推薦使用:smile:) 2.Sigmoid 3.tanh >ReLu:計算量小不涉及除法,一部分神經元的輸出為0造成了網路的稀疏性，並且減少了參數的相互依存關係，緩解了過擬合問題的發生，而且不會有非線性發生的梯度消失的問題。

缺點則在於屏蔽太多，可能導致模型無法學習到有效特徵。

---- 基本流程(大致上是矩陣運算) --- 1.輸入X*W1(firstlayerweightmatrix)+bias=newinputX2 2.newinputX2*W2(secondlayerweightmatrix)+bias=newinputX3 3.Andsoonuntiltheoutputlayer  ---- OutputLayer --- 1.OutputLayer=multi-classclassifier 2.常用的函數:softmaxfunction 3.放入一張數字圖要判斷是哪個數字(0~9) 輸出層=10維,可以看成是每個元素都是其對應數字的機率 > [0.1,0.2,0.1……]^T= > [1的機率,2的機率,3的機率…]^T 找到機率最大的數字=> machine說這張圖是這個數字 ---- 決定深度學習好壞的因素 --- 1.有一個好的functionset 2.trailanderror 3.intution(直覺)or好運氣 >補充(可以跳過) [李弘毅老師另一堂課](http://speech.ee.ntu.edu.tw/~tlkagk/courses_MLDS18.html) [啾啾鞋-AI捉迷藏](https://www.youtube.com/watch?v=Z6fjTZAtziQ&list=LLyC9gn3BUiX1Jokk19-5Ilg&index=36&t=0s) --- ##NextLesson... 1.Backpropagation > ######tags:`Deeplearning``beginner``python``keras``tutorial` {"title":"深度學習學習心得-1","disqus":"hackmd"}