世界公認的「深度學習之父」,為什麼也跑來加拿大? - 天下雜誌
文章推薦指數: 80 %
2011年辛頓的團隊和史丹佛教授、Google Brain創辦人之一吳恩達,一起在Google成立了深度學習專案。
辛頓這個超級團隊做出來的深度學習技術,贏遍了AI競賽, ...
回首頁
English
免費訂閱電子報
天下APP免費下載
搜尋
頻道分類
財經
理財五角課
貿易戰
財經焦點
財經週報
投資理財
產業
製造
服務
金融
科技
國際
國際週報
兩岸四地
東南亞
亞洲
歐洲
美洲
非洲
紐澳
管理
管理
行銷
創新創業
人才
職場競爭力
環境
永續發展
氣候變遷
環境
能源
教育
教育趨勢
創新教育
親子教養
人物
大師觀點
CEO觀點
人物特寫
政治社會
政治
政策
社會現場
調查排行
2000大調查
兩岸三地1000大
快速成長企業100強
天下永續公民獎
標竿企業
金牌服務業調查
縣市調查
2000大調查資料庫
健康關係
健康醫療
兩性關係
心靈成長
時尚品味
時尚精品
旅行
設計
藝文
影視
運動生活
運動
生活
重磅外媒
經濟學人
BBCNews中文
日經中文
德國之聲
路透社
專欄作者
多媒體
數位專輯
互動專題
深度專題
品牌專區
數據圖表
資料新聞
數字說話
圖表動畫
調查報導
聽天下
重磅封面
財經週報
國際聚焦
天下好讀
記者開講
好主管的12樣禮物
創新突圍軍師
四端看天下
大數據,熱品牌
天下書房
天下影音
雜誌
策展
Fast100
傳承接班
創新突圍
數位轉型
經營管理
永續責任
Fast100
Off學
風格
文化
旅行
美食
特色頻道
未來城市@天下
[email protected]天下
獨立評論@天下
創新學院
天下學習
我讀網
換日線
天下影音
微笑台灣
粉絲專頁
官方instagram
官方Line
天下財經週報
外銷訂單驟減 台灣景氣擴張力道減緩中
人物
人物特寫
世界公認的「深度學習之父」,為什麼也跑來加拿大?
加拿大如何成為媲美美國「矽谷」的AI科技重鎮「楓谷」,讓讚譽全球的AI「深度學習之父」辛頓遠離家鄉英國,落腳多倫多;甚至Google、臉書、微軟、輝達等科技龍頭也不惜砸重金來投資?
9861瀏覽數
加拿大擁抱世界人才,AI「深度學習之父」辛頓雖為英國人,也在多倫多發展其研究。
圖片來源:邱劍英
分享
其他
文
黃亦筠
天下雜誌636期
發布時間:2017-11-20
9861瀏覽數
國土面積廣大,物產富饒的加拿大,是已開發國家中,少數經濟仰賴天然資源的國家。
但近十年,它卻以人工智慧抓住了全球目光。
從加拿大國家級AI研究中心,到全球科技大廠Google的AI研發,有一個交集的核心——辛頓(GeoffreyHinton)。
提到這個名字,許多AI圈高手立刻豎起大拇指。
這位現任多倫多大學榮譽教授、GoogleBrain研發副總裁的論文引用率最高,超過排在他後面三位AI研究人員的總和。
1986年辛頓和同事聯合發表了一篇論文介紹「反向傳播」(backpropagation)技術,被定義為現今所有深度學習技術的基礎。
辛頓發現,反向傳播技術可用來訓練兩到三層以上的深度神經網絡。
之後經過26年,到2012年他和多倫多大學的學生發表一篇論文,將反向傳播訓練的深度神經網絡,用在視覺識別領域。
在視覺辨識競賽中打敗當時最先進的系統,「深度學習」終於正式浮上檯面。
走進Google位在多倫多市中心的辦公室,一件格子衫、一雙大布鞋,69歲的辛頓正「站」在一間小小的實驗室桌前,凝神盯著電腦。
背後白板寫滿一般人看不懂的數學程式。
這間一年前還不存在的實驗室,專為辛頓成立,裡頭只有高腳桌卻沒有一張椅子。
曾是學術界的邊緣人
「我從2005年起就沒坐下來工作過,」這位世界公認的「深度學習之父」,邊吃著記者帶給他的台灣鳳梨酥,邊消遣自己的背疾。
他2005年後就再也沒搭過飛機,離不開加拿大。
他說,如果要到亞洲,他說可能要搭船才行,先前他的確搭船回倫敦領獎。
辛頓是英國溫布頓人,在劍橋和愛丁堡大學念書,研究領域就是神經網絡。
「我對大腦如何運作有高度的興趣,」辛頓說。
當時,他打定主意想好好理解,這些傳遞訊息的神經如何學習或運作來產生智慧。
當時傳統人工智慧學者都無法解答這個問題。
他在AI領域地位崇高,為何沒有留在家鄉英國,或到科技研發重鎮美國矽谷,而選擇落腳加拿大?(延伸閱讀:幫瑪丹娜作秀、為好萊塢做電影,人才都想來這裡)
「我研究神經網絡,當時的英國學界沒人要雇用我,」辛頓語出驚人。
整整60年代到90年代,神經網絡理論都只是AI研究的邊緣。
辛頓的論文曾被深度學習研討會拒收,主流人工智慧圈根本不把神經網絡的研究放在眼裡。
廣告
但辛頓不放棄。
他來到美國繼續做博士後研究,進入卡內基美隆大學研究中心。
「我卻發現,當時AI研究經費多來自軍事機構,我很不喜歡,」辛頓說,他毅然北漂到加拿大。
辛頓在Google的多倫多辦公室很小,沒有椅子只有桌子,他身後的白板寫滿運算程式。
加拿大注資,度過研究寒冬
90年代到2004年初,即便辛頓已提出反向傳播技術進行深度學習二十多年了,但因運算能力仍不足,無法處理神經網路所需的大數據量。
「老實說當時連我自己都非常失望,」辛頓坦言。
熟悉AI進程的人都知道,AI曾歷經兩次寒冬,直到近期AlphaGo的出現,大大推進AI研究及世界的關注。
歷經過兩次寒冬的辛頓,守的是冷門中的冷門研究。
但這位頭髮花白的AI教父最大的優點就是固執。
廣告
2004年,從學生時代一路堅守神經網絡研究的辛頓,獲得一個契機。
那年,加拿大先進研究所(CIFAR)提供資金,供辛頓做神經網路研究,且不限制研究員一定要在CIFAR裡做研究。
辛頓獲得了另外兩名AI教父級高手的支持,一位是在紐約大學的路肯(YannLeCun),以及蒙特婁大學的本吉奧(YoshuaBengio)。
有了高手相助,他組成了深度學習專案團隊,親自挑選研究員,著手創造一套系統,能像大腦一樣在大量的影像、聲音及文字間轉換、理解分析並回應。
重點是他們強化了深度學習演算法,能處理更多資料。
加拿大有優良的大學教育系統,校風自由開放,吸引不少國際人才。
2011年辛頓的團隊和史丹佛教授、GoogleBrain創辦人之一吳恩達,一起在Google成立了深度學習專案。
辛頓這個超級團隊做出來的深度學習技術,贏遍了AI競賽,技術辨識能力達3%,精準度高於人眼辨識的五%。
Google更大量用神經網絡的技術來做語音辨識和圖片辨識。
廣告
這個以多倫多為中心的加拿大深度學習專案團隊,引起矽谷科技大咖注意。
辛頓2006年一篇論文的共同作者瑟拉庫吉那(RuslanSalakhutdinov)後來領導蘋果的AI團隊;辛頓多倫多大學數名研究生和他一起加入Google;法國人路肯加入臉書。
另一位法國人本吉奧擔任顧問的AI新創公司Maluuba則被微軟買了,本吉奧也成了微軟的顧問。
「開放」軟實力換高投資報酬
「CIFAR一年只有50萬美元,辛頓的團隊卻回饋了難以計算的財富給經濟體系,加拿大和整個世界的投資報酬率很巨大,」CIFAR副總裁賽倫在《Wired》上說。
拉到國家層次來看,加拿大這種開放資源與平台,網羅各國好手的策略,看似鬆散且不容易評估投資對本國的回報率,「但充分展現加拿大的軟實力,」《經濟學人》分析。
廣告
至今,包括Google、臉書、三星、微軟等,陸續到加拿大多倫多、蒙特婁等地設AI實驗室。
今年9月連亞馬遜也傳出要到加拿大設第二總部。
讓加拿大成為美國矽谷往北,名副其實的「楓谷」(MapleValley)。
(見下表)
AI再推進,幫醫生看病
加拿大政府也借重辛頓的研發能量和人脈,在今年秋天成立了向量研究中心(VectorInstitute)。
將AI應用到醫療領域更是重中之重。
辛頓近期不斷跑多倫多附近的醫療機構,對醫療人員、新創公司演說,積極把深度學習結合到醫療應用上。
「醫療領域是重點,五年之後,深度學習、視覺辨識技術的進展,可以預測腫瘤、可以知道如何預測病人未來病況,」辛頓很興奮地表示,醫生們都十分感興趣,因為對醫療診斷將是助力。
廣告
「很多的數據,人們不知道怎麼使用,但深度學習可以預測結果,」辛頓說。
從邊緣到核心,昔日排斥美國國防部經費的固執學者,怎麼樣也想不到,他會成為加拿大對全球「致命的吸引力」,在高速飛行中的AI研究裡,扮演推進器。
(責任編輯:賴品潔)
辛頓
出生:1947年
現職:GoogleBrain研發副總裁、多倫多大學榮譽教授、加拿大向量研究中心首席科學家
學歷:劍橋大學學士、愛丁堡大學博士
【延伸閱讀】
「加拿大夢」為何能取代「美國夢」?
不要純白人政府加拿大為何能把移民當自己人?
台灣同志:我和我的伴,在這裡有保障
史上第一批台裔省議員:加拿大政府,需要我們當橋梁
外交官:我是韓裔,我信猶太教,我是加拿大人
● 更多內容,請見天下雜誌636期《【加拿大 包容的競爭力》>>
相關熱門主題
訂閱天下電子報(每週五發送)
天下新聞室精選最具時效性、最重要的深度內容,每週五發送
訂閱天下電子報
精選當週熱文,週五寄送
訂閱
感謝您的訂閱!
請查看您的信箱,我們將寄送驗證信給您,確保未來信件會送到您的信箱
#AI
#深度學習
#辛頓
#Google
#臉書
#微軟
#多倫多
#蒙特婁
你可能有興趣
企業永續發展,康舒科技40週年迎接新里程碑|廣編企劃
最新訊息
領取首訂優惠3個月$399(原價$699)
訂閱天下雜誌電子報
天下雜誌當期內容的精華與延伸,每周三發送最具時效性的深度內容
立即訂閱
您已成功收藏此文章
您已成功取消收藏此文章
請先登入或註冊登入會員後,即可收藏文章
註冊
登入
請先登入天下雜誌會員
文章PDF檔案下載為全閱讀專屬功能,若您還不是天下全閱讀訂戶,請先訂閱。
您還不是天下全閱讀訂戶
文章PDF檔案下載為全閱讀專屬功能,若您還不是天下全閱讀訂戶,請先訂閱。
電子報訂閱服務
電子報為會員獨享服務,您將在登入註冊後完成訂閱
這篇文章在出現在
世界公認的「深度學習之父」,為什麼也跑來加拿大?
分享到臉書
此網頁已閒置超過5分鐘,請點擊透明黑底或X鈕繼續閱讀
延伸文章資訊
- 1當年曾花12 億與百度爭奪「深度學習之父」 - 報橘
【我們為什麼挑選這篇文章】人稱「深度學習之父」的Geoffrey Hinton 早在1986 年便提出神經網路概念,成為現今人工智慧的發展根基。
- 2“深度學習之父”Geoffrey Hinton:深度學習可完全複製人類的智能
「深度學習之父」Geoffrey Hinton:深度學習可完全複製人類的智能 ... 作為谷歌研究員與向量人工智慧研究所聯合創始人的辛頓,斷斷續續寫下了自己的想法,並 ...
- 3想法比世界領先20 年的AI 深度學習之父Geoffrey Hinton
在20 年前已經提出以反向傳播算法來訓練人工智能的AI 教父Geoffrey Hinton ,是深度學習的創始者。隨著電腦運行速度及互聯網的出現,他的理論近年終於得到 ...
- 4深度學習之父Hinton是怎麼讓一度衰頹的類神經網路重迎曙光的 ...
又由於神經網路的研究在過去被棄置已久,故Hinton 教授又將深度神經網路重新換上「深度學習」(Deep Learning) 的名字捲土重來,Hinton也因此被稱為「深度 ...
- 5傑佛瑞.辛頓Geoffrey Hinton(1947-) - 國立臺灣大學科學 ...
2018年,Hinton與曾追隨自己的博士後研究員LeCun,以及好友Yoshua Bengio(1964-),因對深度學習的貢獻,三人共同獲頒杜林獎。 撰文/陳裕銘|編輯/高 ...