讓Google AI 夢成真的深度學習元老：Geoffrey Hinton

Hinton 在加拿大多倫多大學當教授精進理論之餘，也在Google 兼職，在那裡他利用深度學習改善了語音識別、影像標籤和其他數不清的網路工具。

LeCun 也在 ... 集團資訊 關於我們 集團介紹 我們的團隊 旗下媒體 關鍵評論網 everylittled. INSIDE 運動視界 Cool3c 電影神搜 未來大人物 歐搜哇 旗下節目 多元服務 Ad2 Taketla拿票趣 關鍵議題研究中心 Cr.ED ShareParty 達思智能科技 士奇傳播 與我們合作 內容行銷與廣告業務 異業合作 原創內容暨內容媒體業者合作 加入我們 新聞中心 趨勢 讓GoogleAI夢成真的深度學習元老：GeoffreyHinton 2016/06/14 WIRED Facebook 、Google 、科技 、網路 、趨勢快訊 、人工智慧 、AI 、GeoffreyHinton GeoffreyHinton在高中的時候，一位朋友告訴他，腦袋的運作原理就像全息投影一樣。

要創造這種3D影像，你要記錄無數的光線在物品表面的反射情形，然後將這些散佈在廣大資料庫中的零碎資訊儲存起來。

評論 評論 原文來自WIRED《MeettheManGoogleHiredtoMakeAIaReality》作者 DanielaHernandez。

台灣康泰納仕集團授權提供/InsideMia編譯。

GeoffreyHinton在高中的時候，一位朋友告訴他，腦袋的運作原理就像全息投影一樣。

要創造這種3D影像，你要記錄無數的光線在物品表面的反射情形，然後將這些散佈在廣大資料庫中的零碎資訊儲存起來。

1960年在英國讀高中的時候，他就深深被這個想法吸引。

腦袋把資訊散佈到龐大的神經網路上，而非把所有訊息存在同一個地方。

這看起來可能微不足道的啟發，對Hinton來說卻是重要的關鍵時刻。

「我聽到這個想法的時候非常興奮，」他回憶道，「這是我第一次對大腦的運作著迷。

」而這也帶來了極大的影響。

受到高中那段對話的啟發，Hinton繼續到劍橋及蘇格蘭愛丁堡大學鑽研類神經網路。

到了80年代末，他參與了一場野心勃勃的長征，開啟了現在稱之為「深度學習」的技術，用電腦軟體和硬體來模仿大腦。

整整三十年，深度學習都只是學術界的邊緣領域，但現在Hinton和紐約大學的YannLeCun、蒙特婁大學的YoshuaBengio組成的深度學習團隊，獲得了網路巨擘的注意。

Hinton在加拿大多倫多大學當教授精進理論之餘，也在Google兼職，在那裡他利用深度學習改善了語音識別、影像標籤和其他數不清的網路工具。

LeCun也在Facebook從事類似的工作。

然後人工智慧一夕之間就成了微軟、IBM、百度和許許多多公司追逐的熱潮。

在劍橋讀心理學的時候，Hinton了解到科學家還沒完全弄懂大腦，頓時大受鼓舞。

他們不太能掌握數十億神經細胞的互動，是怎麼產生智慧的。

他們可以解釋電子訊號在像電纜一樣連接神經元的神經突觸間傳遞的路徑，但他們無法解釋設些神經如何學習或運算。

對Hinton來說，這些是相當重大的問題，這問題的解答將能實現1950年代以來，人工智慧研究者的終極夢想。

他自己也還沒找到全部的解答，但至少離答案找到更近了一點。

他讓類神經網路能模仿大腦的部分面向。

「當我們發現讓類神經網路變得更好的方法，而且這個方法和腦袋的運作方式高度相關的時候，我非常興奮。

」他熱情地說，充滿青春活力。

在Hinton的世界裡，神經網路本質就是在多重層級上運作的軟體。

他和他的手下打造出來的類神經網路，軟體內部連結的方式就是參考處理視覺、語言等複雜資訊的大腦皮質神經排列。

這些類神經網路可以搜集資訊並做出反應。

它們能建立並理解某物聽起來或看起來的樣子。

它們愈來愈懂得分辨一組字放在一起產生的意義，不再需要像以前的機器學習工具一樣，透過人類為物件、概念和單字下標籤。

隨著人工智慧的發展，這些神經網路變得快速、敏捷、又有效率。

它們成功擴展到大量成長的機器設備中，並且能完成愈來愈多的工作。

而這些只花了大約30年。

瘋狂的核心在80年代早期Hinton和同事剛開始研究這個想法的時候，電腦還沒有強到能處理神經網路所需的大量資料。

他們的成功有限，而人工智慧圈子則放棄他們，轉而研究類似大腦的行為表現，而非模仿大腦運作的原理。

但少數研究者堅持繼續下去，根據Hinton和LeCun，當時處境相當艱難。

就算到了2004，據他們開發最初的「倒傳遞」演算法已經20年，學界絕大部分還是不感興趣。

不過那年，加拿大高級研究所(CanadianInstituteforAdvancedResearch，CIFAR)提供了些許資金，再加上 LeCun和Bengio的支持，Hinton建立了神經計算與響應式感知（NeuralComputationandAdaptivePerception ）專案。

這是一個邀請制，並且由電腦科學家、生物學家、電子工程學家、神經學家、物理學家及心理學家組成的團體。

Hinton親自挑選這些研究成員，而他的目標便是打造一個世界級的科學團隊，來創造能模仿有機智慧的電腦系統。

至少達到我們認知中的有機智慧：就像大腦一樣在豐富的影像和聲音、文字線索之間切換，理解並回應這個環境。

Hinton相信這個團隊能能刺激AI的創新，或甚至改變世界看待這項成就的方式。

而他是對的。

▲YoshuaBengio，蒙特婁大學的教授暨AI研究員(PhotoCredit:JoshValcarcel/WIRED)在2000至2010間，他們獲得了所需的計算技術，並實現了早期的許多想法。

在擁有了共同的固定工作室後，實驗更是突飛猛進。

他們製作了更強大的深度學習演算法，能夠處理更多的數據。

在過去十年中，他們橫掃全球的AI競賽。

而一邁入這個十年，網路巨人便開始注意到他們了。

2011年，一位NCAP研究員就和史丹佛教授AndrewNg一起在Google創立了一個深度學習專案，之後Google便大量利用神經網路技術來辨識語音指令和標籤Google+上面分享的圖片。

為了把讓成果更進一步，去年Geoffrey及其他多倫多大學的教授也加入了Google。

同時，百度緊接著在矽谷及中國設立AI實驗室。

微軟也在自己的語音辨識研究加入了深度學習技術。

Facebook則是延攬了 LeCun，探索新方法來鎖定目標廣告和相片影片中的臉孔及物品辨識。

▲YannLeCun，紐約大學的人工智慧研究者，目前在Facebook工作( PhotoCredit:JoshValcarcel/WIRED)NCAP的另一位成員 TerrySejnowski則正在協助歐巴馬的1億美元BRAIN倡議專案，這個專案的目標是開發各種新工具來描繪神經迴路。

早在1980年代Sejnowski在與Hinton共事時，就曾發明了最早的神經網路之一，波爾茲曼機。

CIFAR一年只有50萬美元的資金，Hinton的智庫集團卻回饋了數不清的財富給經濟體系。

這在Google已經是現在進行式。

加拿大和整個世界的投資報酬率相當巨大，CIFAR研究與合夥副總裁Denis Therien說。

在過程中，Hinton和NACP改變了那個一度屏棄他們的社群。

大學生開始捨棄傳統的機器學習專案，轉而研究深度學習，阿姆斯特丹大學的電腦科學家MaxWelling說。

「這些資訊一點一滴從發源地擴散到了遙遠的荷蘭課堂。

學生們都有聽過，也了解這項技術，」他說。

「這對我來說就是深度學習已經傳遍各處最有力的證明。

」「我們敗於邊緣化的瘋狂，」Hinton說。

「現在我們成了瘋狂的核心。

」Hinton看未來去年秋天NCAP成員在舊金山市區的 SirFrancisDrake飯店聚會。

他們每年都會聚會一次，在為期兩天的工作坊之後，接著便是AI的年度重頭戲神經資訊處理系統進展大會（NeuralInformationProcessingSystems，NIPS）。

工作坊將探討廣大結合神經科學和機器學習並受益的技術，比如計算平面設計（computationalgraphicdesign）、臉部識別和動作偵測等。

在簡報活動中，Hinton安靜地站在房間前方的角落。

大部分的時候他都安靜地聽，但偶爾會蹦出幾個一針見血的問題，或鼓勵他智庫的成員問問題並提出討論。

NACP成員說，他安靜、謙遜又公正的領導風格創造了開放且高度協作的環境，而這直接加速了全世界的AI發展，更堅定了他們為這領域創造改變的決心。

▲NACP12月在舊金山SirFrancisDrake飯店的工作坊（PhotoCredit:JoshValcarcel/WIRED）他們說，深度學習革命是必然的，但像微軟、Google、Yahoo和其他網路巨頭採用的語音識別和人工視覺系統能提早到來，就要歸功於NCAP，特別是Hinton。

「我覺得這就是維持正向能量的來源，也是Geoff致力創造的目標，而大家也都向Geoff看齊。

」加州柏克萊大學紅木理論神經科學中心（RedwoodCenterforTheoreticalNeuroscience）總監，同時也是NCAP成員的BrunoOlshausen說。

「你會想：『Geoff在聽，我一定也要認真聽。

』」組織外的其他人也同意這點。

「過去20到30年，他一直在推動神經網路和深度學習前進，」百度深度學習學院總監KaiYu說。

「我們從來沒有見過機器學習和人工智慧靜這麼快在產業產生影響。

這真的很了不起。

」Hinton還環遊世界，發表深度學習的演講，他也會指導多倫多大學研究所以上的學生。

Welling說他習慣突然大喊：「我現在知道大腦是怎麼運作的了！」而且相當有感染力。

「他每週都會這樣，」Welling說。

「你很難跟他比。

」Hinton透過NCAP和CIFAR舉辦了夏日學院，讓學生能向NCAP的成員學習，藉此培養下一代的AI研究員。

現在有愈來愈多商業公司進入這塊領域，教育也變得格外重要。

並非只有科技巨頭參與這項運動，我們已經看到一波深度學習的新創團隊潮流，像是Ersatz、ExpetLabs和Declara。

下一代的研究員會把深度學習運動帶往何方？巨大的可能性就潛藏在我們網路上的發文中：近況更新、推特、即時訊息和留言。

而這些訊息數量夠Facebook、Google、Yahoo忙上好一段時間了。

目標是讓這些服務能夠不用透過其他人類，就實際了解使用者在說什麼。

「我們希望把AI和CIFAR帶到新的美好境地，」Hinton說，「去到沒有任何人、學生、計畫到過的境界。

」(PhotoCredit:JoshValcarcel/WIRED)歡迎加入「Inside」Line官方帳號，關注最新創業、科技、網路、工作訊息   分享文章或觀看評論 評論 WIRED Wired是份瞭解、讀懂未來的媒體，是在不斷變化的世界中，找尋訊息、思想的重要來源。

從文化到商業、從科學到設計，Wired闡明了科技是如何改變我們生活的每一部分。

藉由Wired所觀察的突破和創新，將為讀者帶來新思維、新溝通和新產業。

品牌 開發者享受CI/CD價值！運用AmazonEKS整合GitLab創建自動化部署 2022/05/18 廣編企劃 雲端 、工程師 、AWS 、開發者 、Gitlab 、中小企業 、數位轉型 、AmazonEKS 企業如何在AmazonEKS（ElasticKubernetesServices）上使用GitLab創建自動化部署，減輕人力負擔，提升專案服務運作效率？ 評論 SPONSORED 評論 所謂現代化智慧IT，所有工程師最希望的境界，莫過於只要輕鬆點幾下設定，系統就會自動跑起來，管理者再也不用隨時待命在機台旁邊，從此工作悠哉又快樂！儘管這樣情境還沒到來，但隨著敏捷式開發的流行，除了DevOps人員，有越來越多開發者將CI/CD概念融入到工作流程當中，例如從buildcode、執行unittest、到部署應用程式。

打造第一個在AWS上的應用程式上述種種反覆步驟自動化執行，也就能提昇服務品質、主動通知開發人員以減輕人力負擔，讓專案服務能持續運作。

其中，GitLab是執行CI/CD常用的工具之一，也是開發者使用程式碼儲存庫的地方。

為了讓GitLabRunner在雲端快速實踐CI/CD，《AWS開發者系列》透過影片分享，如何在AmazonEKS（ElasticKubernetesServices）上使用GitLab創建自動化部署。

以下節錄工作坊影音內容，幫助開發者快速理解如何運用AmazonEKS的高可用性且安全的叢集，將修補、部署節點、更新等關鍵任務，全部做到自動化設定。

同時影片也會示範AmazonEKS搭配GitLab如何展開自動部署，幫助工程團隊實踐CI/CD價值。

AmazonEKS對容器管理輕鬆簡單、維運省時省力容器化服務越來越興盛，當容器（Container）越來越多，在複雜的微服務（Microservice）系統環境之下，運維團隊的管理成本可能相對會增加不少，為了有效調度容器部署，導入Kubernetes無疑是近年企業熱門的話題之一。

建構KubernetesCluster流主要可區分兩大塊，一是安排容器調度的ControlPlane、另一則是容器運行時需要用到的WorkerNode。

ControlPlane裡面涵蓋有儲存狀態的ETCD、CoControllermanager、Scheduler的調度管理、甚至是操作時進行互動的APIServer，若是自己創建的KubernetesCluster，需要自己安裝這些元件，後續仍需要對ControlPlane進行相關管理、維護、升級工作。

為了減少上述Components的繁複維護，在透過AWSEKS代管的KuberneteControlPlane部可以獲得以下三大好處。

透過AWS增加雲端技能在組織發揮影響力AmazonEKS一鍵式部署，展現三大優勢第一，AmazonEKS代管的ControlPlane實踐了跨AZ的高可用部署，使用者不需要擔心單一節點故障的風險。

第二，AmazonEKS支持至少四個Kubernetes版本，持續跟進每季CNCF的發佈，同時EKS也完全符合上游CNCF規範。

第三，部署AmazonEKS之後，可直接使用AWS平台上現成的服務工具，在安全性管理、網路設定方面，可以做到無縫整合。

最後AWS台灣解決方案架構師也提到，若想在容器環境進行CI/CD及應用程式的管理，可以進一步透過IaC整合部署AmazonEKS叢集，透過使用Console、把EKS變成Cloudformation的模板、使用AWS所開發出來的eksctl.io、或指令是採用AWSCDK可以讓開發者用自身熟悉的語言，在AWS平台整合CI/CD工具進行維運及部署EKS。

了解AmazonEKS整合GitLab，獲得三面向價值對開發者而言，想把AmazonEKS整合到CI/CD工具之一的GitLab平台上，可以看到那些實際的優勢？在DevOps開發者示範工作坊當中，GitLab資深解決方案架構師指出，GitLab使用到Kubernetes技術，主要有三種搭配方法，包含GitLabServer、GitLabRunner、以及創建DeploymentEnvironment。

本次示範教學會主要聚焦在GitLabRunner如何採取Auto-scaled方式進行Build、Test、PackageApps；以及在DeploymentEnvironment運用Kubernetes技術，做到AutoDeploy、ReviewApp。

正因為AmazonEKS能夠在DevOps過程提供所需要的彈性計算資源，幫助開發者在GitLab平台上面獲得以下三個層次的優勢：在GitLab內建的部署工作流程當中，自動生成整套CI/CD最佳實踐腳本。

ReviewApp過程，從MergeRequest中可直接訪問應用程式/App的UI介面，並且根據Gitbranch名稱、專案名稱，自動生成ReviewApp的URL，以及在Merge前的最後防線進行Approval檢查。

加速CI/CD流水線，GitLabRunner運行時候還可藉由AmazonEKSCluster進行Auto-scaled的支援。

AmazonEKS整合GitLab，需要兩大流程影片最後，GitLab資深解決方案架構師示範如何把AmazonEKS整合至GitLab執行AutoDeploy，主要可分為兩大區塊流程，第一部分聚焦在AmazonEKScluster的設置，第二部分則執行AutoDeploy設置。

第一塊可拆分為四個階段，首先教學怎麼創建EC2節點的EKScluster，第二階段示範把EKSCluster連接到開發者的GitLabInstance、Group或Project，下一步則使用ClusterManagementProjectTemplate創建一個ClusterManagementProject，以及最後一階段透過ClusterManagementProject自帶的HelmChart，安裝在Cluster所需要的內建App。

第二塊執行AutoDeploy設置，針對需要部署的App創建一個GitLabProject，接著再把gitlab-ci.yml添加到Project，並從WebIDE選擇及導入AutoDeploy的CI模版，讓GitLab自動生成最佳實踐的整套流水線。

幫助開發者更了解AmazonEKS整合GitLab的QA系列Q：使用AmazonEKS之後，如何更有效率或優化資源去配置WorkerNode的機器數量，以及如何有效空管開發維運的成本？A：Kubernetes除了本身有HPA（HorizontalPodAutoscaling）可根據使用程度自動調整資源流量，另外也能延伸使用AWSAutoScaling方案，針對可擴展資源去設定自動擴展管理。

另外在成本管控，雖然AmazonEKS會收取額外管理費用，但可透過AWS平台的Calculator計算每個EKS的價格，你會發現自動化部署及管理的費用，相對工程師人力的成本更加便宜。

Q：越來越多客戶考慮把現有Application變成容器部署，大多是爲了加快部署的效率，那麼變成容器模式之後，對CI/CD的工作流程有什麽影響嗎？A：運用容器技術最直接的效果，可以讓應用程式的環境更一致化，例如testing環節、stageproduction，讓容器避開一些差異問題。

至於CD部分要delivery一些usage不太一樣的時候，容器會幫忙做配置，所以CI/CD對容器的效益是相輔相成的。

Q：客戶在開發流程漸漸會把Infrastructure變成代碼或文檔，是不是可以把程式碼跟現有的應用程式的CI/CD流水線整合在一起，達到一套完整的CI/CD部署流程？A：觀察目前市場作法，主要分成兩個階段去做整體部署。

如果規模比較小的團隊，會把Infrastructure代碼跟App代碼分開，在管理上會比較靈活；如果企業規模比較大，會有另外一個Infrastructure團隊來控制部署事情，這種情况之下，APP的項目會生成一個APPpackage，主要做到delivery這個階段爲止。

而Infrastructure的項目會指定把需要版本的文檔，部署到他們的KubernetesCluster。

填寫表單找到適合的快速上雲服務與工具！ 分享文章或觀看評論 評論 廣編企劃 由關鍵評論網媒體集團《業務團隊》製作，由各品牌單位贊助。

業務與行銷相關合作，歡迎與我們聯繫。