還有你】「AI 教父」Hinton 與深度學習40 年的奇幻旅程

【為什麼我們要挑選這篇文章】沒人知道的AI 教父Geoff Hinton，用了他的一生，堅持他的信仰。

如此的他，竟默默地改變了人工智慧的進程。

他與深度學習 ... Share 【為什麼我們要挑選這篇文章】沒人知道的AI教父GeoffHinton，用了他的一生，堅持他的信仰。

如此的他，竟默默地改變了人工智慧的進程。

他與深度學習的故事即將開始。

（責任編輯：陳伯安） 堅持你所相信的，直到世界追上你的腳步。

因為傷了背，GeoffHinton 已經站著工作了 12 年，似乎巧合地迎合了現在「站立工作」的這股風潮。

「我領先於潮流，」Hinton 說。

不僅僅是這一點，Hinton 更廣為人知的「領先於潮流」，是在深度學習領域。

在所有人都不看好神經網絡的年頭，是他，將這一技術帶進了主流學術界。

Bloomberg 近日為這位「深度學習教父」拍攝了一段特寫紀錄片，用短短 8 分鐘，講述了這位「有點皮」的教授關於神經網絡的 40 年傳奇經歷。

影片來源：Youtube AI圈沒人聽過的AI教父，全靠一篇「深度網絡」的論文 今天，混 AI 圈的人鮮有人沒聽過 GeoffHinton。

他是谷歌大腦研究小組的負責人，多倫多大學的榮譽教授。

而奠定了他在今天人工智慧圈「教父」地位的，是他在多層神經網絡技術的貢獻。

Hinton 對 AI 的貢獻有多大呢？ 學術點說，Hinton 在 1986 年提出的通過反向傳播來訓練深度網絡理論，標誌著深度學習發展的一大轉機，為近年來人工智慧的發展奠定了基礎。

更實際點說，今天谷歌中通過語音識別進行圖片檢索、在手機上把語音轉化為文字的技術的實現，大部分功勞要歸於 Hinton 博士的研究。

他的研究，徹底改變了人工智慧，乃至整個人類發展的軌跡。

想了解大腦，就做一個出來，咦？ GeoffHinton 出生在英國一家「書香門第」，家人多是數學家和經濟學家，這樣的「學霸爸媽」顯然讓 Hinton 的童年不太好過，正如他自己所說：「我大概在 7 歲的時候就意識到，不讀博士不行了（微笑臉）。

」 而最初把 Hinton 引上人工智慧這條路的，是他對人腦的好奇。

Hinton 很早就沈迷於大腦如何工作的問題。

於是，他開始進入生理學，解剖大腦以瞭解其工作方式。

不滿足於此，他又開始學習心理學。

最後，他決定更多地使用計算機科學的方法來模擬大腦，並進入人工智慧領域，開始了他近 40 年的研究生涯。

「我認為，如果你真的想瞭解一個非常複雜的裝置，比如大腦，那你就製作一個。

」 大家都不認可時，為什麼不放棄？因為堅信「其他人都錯了」 儘管現在已經成為了人工智慧的主流研究方法，神經網絡在最初問世時，命途多舛。

1956 年，美國認知心理學家弗蘭克・羅森布拉特（FrankRosenblatt）基於神經元的理論發明瞭一種模擬神經元的方法。

它的基本點是一個被稱為神經元的小單位的集合。

這些集合都是小的計算單元，但可以模擬人腦計算的方式。

和我們從感官中獲取數據一樣，這些神經元可以獲取傳入數據並進行學習，所以神經網絡可以隨著時間的推移做出決定。

但是，Rosenblatt 的學習算法當時對於多層結構的神經網絡不起作用。

人工智慧學者們也因此放棄了學習式軟件的想法。

他們轉而使用邏輯來產生智能 —— 比如下棋的能力。

幾乎沒人再相信神經網絡的前景，也沒人再研究神經網絡。

除了 Hinton。

「大腦是一個巨大的神經網絡，因此，神經網絡必須也是可以工作的，因為它在我們的大腦中起作用。

」Hinton 說。

「那是什麼支持著你不放棄？」 「其他人都錯了（everyoneelseiswrong）。

」 不滿意自己的研究用在「非善意」的東西上，毅然決然搬到加拿大 為了找到一個支持他研究神經網絡的棲身之處，Hinton 在美國輾轉多地。

但是，當時大部分的學術研究都是受到國防部支持。

而 Hinton 對於這樣拿到自己的研究經費並不滿意：「我不希望我的研究成果被用在一些不善意的目標上。

」 的確，深度學習從誕生之日起，就與國防部的一些軍事目的有著不可分割的淵源。

甚至直至今天依然如此 —— 今年 3 月谷歌被曝光正參與 Maven 項目，向美國軍方提供 TensorFlowAPIs 和無人機圖像識別技術，引起巨大爭議和眾多抗議，6 月谷歌不得不承諾不將 AI 用於武器。

這場聲勢浩大的爭論甚至將戰火燃到了李飛飛身上。

而關於 AI 倫理和技術人員責任的爭論也從來沒有停止過。

近兩年，將算法用來自動識別一起犯罪是否屬於團伙犯罪，或識別一個人是否是同性戀的研究屢見不鮮，算法的締造者是否應該在研究之外分出心力，瞭解自己研究背後更深的影響呢？ 在 40 年前，Hinton 的選擇或許已經給出了他的答案。

為了避免為五角大樓服務，Hinton 最終落腳在加拿大的多倫多大學。

這個國家歡迎他，也支持他的神經網絡研究。

「去這個文明的小鎮繼續研究對我來說非常有吸引力。

」 而 HIinton 也沒有讓加拿大失望。

正因為 Hinton 和他的學生的研究，加拿大現在已經成為人工智慧研究的重要力量之一，多家人工智慧巨頭都將他們的研究中心開在了多倫多，各種前沿人才為了追隨 Hinton 的腳步，絡繹不絕地來到這座北方國度：「Hinton 將加拿大拉入了 AI 超級大國的版圖。

」 當你的理想被質疑時，請溫柔的給世界一點時間趕上 在多倫多，Hinton 和他的團隊研究出了更深度的神經網絡，以解決更複雜的問題。

他們共同開發了一個多層神經網絡，這個深度神經網絡也被應用於多個方面。

比如有人用它在 80 年代就打造了一輛無人車並且開上了路。

而現在已經是深度學習的另一位領袖人物、Facebook 的 AI 實驗室負責人 YannLeCun 則利用深度神經網絡建立了一個可以識別手寫數字的系統。

這一系統最終實現了商用。

在當時，深度神經網絡的前景似乎一片大好，但是，現實中的故事往往沒有這麼簡單。

Hinton 的研究再次遇到了瓶頸。

「我們當時並沒有足夠的數據，也沒有足夠的計算機運行能力，AI 和計算機科學的從業者認為神經網絡是一廂情願的想法。

」 但 Hinton 始終堅持著，儘管完全不被重視。

他坐在房間的最角落里參加學術會議，在大牛雲集的人工智慧會議上完全不被重視。

甚至他自己也開始產生了懷疑：「有很多次我都覺得我不會繼續這項工作了」。

直到這個世界開始慢慢追上他的腳步。

2006 年，計算機的運行速度有了巨大的提高，超快速芯片的到來以及互聯網上產生的大量數據使得 Hinton 的算法變得非常神奇。

突然之間，計算機開始可以識別圖像中的內容，可以識別語音，可以將一種語言翻譯成另一種語言。

2012 年，GeoffryHinton 和他的團隊帶著AlexNet 參加了那一年的 ImageNetILSVRC挑戰賽，以驚人的優勢獲勝（錯誤率比第二名低了足足10%）。

這篇被NIPS2012收錄的論文被認為是深度學習熱的開啓。

同年，「神經網絡」和「機器學習」等詞彙也開始在紐約時報的頭版出現。

「人們終於理解了這個概念，我感到很欣慰。

」Hinton 這樣說。

2017年用膠囊網絡，自己推翻自己 儘管已經成為了深度學習的領袖人物，Hinton 的腳步卻從沒有停歇。

2017 年 10 月 26 日，Hinton 發表了一篇在 AI 圈掀起軒然大波的論文——CapsuleNetworks（膠囊網絡）。

Hinton 高喊，「卷積神經網絡（CNN）的時代已經過去了！」，將他過去幾十年的研究翻了過去。

感興趣的讀者可以查看論文。

儘管膠囊網絡現在仍然處在嬰兒期，在訓練龐大的數據集時，仍可能會遇到問題，但在未來，Hinton 相信它還有發展的巨大潛力。

也許，這位深度學習教父還將再次改寫深度學習的發展歷程。

（本文經合作夥伴 大數據文摘授權轉載，並同意TechOrange編寫導讀與修訂標題，原文標題為〈AI教父GeoffHinton和深度学习的40年 〉，首圖來源：Youtube。

） 延伸閱讀 年僅25歲！這個打敗AlphaGo的男人，是怎麼CONNECTwithAI？ 一場世足賽，讓經濟學者找出AI與商業創新模式的關聯 台灣中學教育別歪樓，說要設立「AI專班」的官員真的知道自己在講啥嗎？ Share 馬上訂閱CONNECT▼ NowReading 【沒人信我時，還有你】「AI教父」Hinton與深度學習40年的奇幻旅程 4minread 最新文章 雲端運算人工智慧 雲端服務 數位轉型應用 資訊安全 資訊科技 未來生活電動車 智慧城市 新零售 數位金融 數位行銷 通訊科技5G/6G 太空 低軌道衛星 電信通訊 新科技 供應鏈智慧製造 半導體 能源創新 ESG IoT Web3.0元宇宙 區塊鏈 虛擬貨幣 NFT 主題特展2022高薪職涯攻略 2022智慧大工廠趨勢 0% ✕ Close 徵才 Web3、AI創業趨勢論壇 最新文章 Podcast 主題特展 2022高薪職涯攻略 2022智慧大工廠趨勢 雲端運算 人工智慧 雲端服務 數位轉型應用 資訊安全 資訊科技 未來生活 電動車 智慧城市 新零售 數位金融 數位行銷 通訊科技 5G/6G 太空 低軌道衛星 電信通訊 新科技 供應鏈 智慧製造 半導體 能源創新 ESG IoT Web3.0 元宇宙 區塊鏈 虛擬貨幣 NFT 投資創新 新投資 新人才 數位醫療 創業故事 公共服務 線上學習 數位政府與未來治理 網路民主與公民 品牌簡介 ABOUTUS 聯絡我們 ✕ 徵才 最新文章 Podcast 主題特展 2022高薪職涯攻略 2022智慧大工廠趨勢 雲端運算 人工智慧 雲端服務 數位轉型應用 資訊安全 資訊科技 未來生活 電動車 智慧城市 新零售 數位金融 數位行銷 通訊科技 5G/6G 太空 低軌道衛星 電信通訊 新科技 供應鏈 智慧製造 半導體 能源創新 ESG IoT Web3.0 元宇宙 區塊鏈 虛擬貨幣 NFT 投資創新 新投資 新人才 創業故事 公共服務 數位醫療 線上學習 數位政府與未來治理 網路民主與公民 品牌簡介 ABOUTUS 聯絡我們 LatestPosts 曾為奇異帶來巨大收益！這家子公司為何反將奇異推向難以挽回的危機？ 20世紀的管理典範，卻是21世紀的失敗教案！奇異的負債危機，是怎麼發生的？ 新創請做好最糟的打算！景氣寒冬來臨，矽谷加速器YC列10點警告 掌握數據等同掌控未來？解構數據時代關鍵職位，資料科學家、分析師成未來趨勢！ 越來越開放的Windows來了！微軟直接為Windows11提供Android子系統 為提供您更好的網站服務，本網站會使用Cookies及其他相關技術優化用戶體驗，繼續瀏覽本網站即表示您同意上述聲明了解隱私權政策同意並關閉視窗Manageconsent Close PrivacyOverview Thiswebsiteusescookiestoimproveyourexperiencewhileyounavigatethroughthewebsite.Outofthese,thecookiesthatarecategorizedasnecessaryarestoredonyourbrowserastheyareessentialfortheworkingofbasicfunctionalitiesofthewebsite.Wealsousethird-partycookiesthathelpusanalyzeandunderstandhowyouusethiswebsite.Thesecookieswillbestoredinyourbrowseronlywithyourconsent.Youalsohavetheoptiontoopt-outofthesecookies.Butoptingoutofsomeofthesecookiesmayaffectyourbrowsingexperience. Necessary Necessary AlwaysEnabled Necessarycookiesareabsolutelyessentialforthewebsitetofunctionproperly.Thesecookiesensurebasicfunctionalitiesandsecurityfeaturesofthewebsite,anonymously. CookieDurationDescriptioncookielawinfo-checkbox-analytics11monthsThiscookieissetbyGDPRCookieConsentplugin.Thecookieisusedtostoretheuserconsentforthecookiesinthecategory"Analytics".cookielawinfo-checkbox-functional11monthsThecookieissetbyGDPRcookieconsenttorecordtheuserconsentforthecookiesinthecategory"Functional".cookielawinfo-checkbox-necessary11monthsThiscookieissetbyGDPRCookieConsentplugin.Thecookiesisusedtostoretheuserconsentforthecookiesinthecategory"Necessary".cookielawinfo-checkbox-others11monthsThiscookieissetbyGDPRCookieConsentplugin.Thecookieisusedtostoretheuserconsentforthecookiesinthecategory"Other.cookielawinfo-checkbox-performance11monthsThiscookieissetbyGDPRCookieConsentplugin.Thecookieisusedtostoretheuserconsentforthecookiesinthecategory"Performance".viewed_cookie_policy11monthsThecookieissetbytheGDPRCookieConsentpluginandisusedtostorewhetherornotuserhasconsentedtotheuseofcookies.Itdoesnotstoreanypersonaldata. Functional Functional Functionalcookieshelptoperformcertainfunctionalitieslikesharingthecontentofthewebsiteonsocialmediaplatforms,collectfeedbacks,andotherthird-partyfeatures. Performance Performance Performancecookiesareusedtounderstandandanalyzethekeyperformanceindexesofthewebsitewhichhelpsindeliveringabetteruserexperienceforthevisitors. Analytics Analytics Analyticalcookiesareusedtounderstandhowvisitorsinteractwiththewebsite.Thesecookieshelpprovideinformationonmetricsthenumberofvisitors,bouncerate,trafficsource,etc. Advertisement Advertisement Advertisementcookiesareusedtoprovidevisitorswithrelevantadsandmarketingcampaigns.Thesecookiestrackvisitorsacrosswebsitesandcollectinformationtoprovidecustomizedads. Others Others Otheruncategorizedcookiesarethosethatarebeinganalyzedandhavenotbeenclassifiedintoacategoryasyet. SAVE&ACCEPT