谷歌Alphago強勢進軍區塊鏈
1. 谷歌alphago機器人為什麼引起轟動
許多方面突破過去記錄，在人類領先領域戰勝人類
2. 谷歌AlphaGo擊敗職業圍棋手意味著啥
首先，說明機器學習有很大的潛力，來對付足夠復雜的實際問題。
其次，科技的發展和進步，是必然的趨勢，這個說明機器學習的演算法在一定程度上取得了成功，當然圍棋的規則畢竟有限，
並不能說明機器就打敗了人類，只能說是某些方面，實現了模仿甚至超越了人的部分思維模式。
3. 評谷歌AlphaGo：是「人工智慧」還是「人工
AlphaGo算是人工智慧，其具體工作原理說白了就是一個窮舉的過程，一個不斷迭代的過程。人一生之中也就能下幾千盤高質量的棋局，但是AlphaGo一天能下幾萬甚至幾十萬盤棋局。而且AlphaGo就像聖鬥士，同樣的錯誤不會犯第二次。就像象棋很久前就被完全破解了，圍棋現在只能算被部分破解，但是隨著計算速度的提升，按照CPU半年到一年更新一代，大概五年左右圍棋就很有可能被完全破解。這是一個必然的過程。
4. 谷歌轉型的背後，是時代發展的需要，還是與其他軟體的較量
憑借功能的強大，繁多的收錄內容，時代在改變，各個企業都在技術進步。
5. 如何看待谷歌AlphaGo首次戰勝人類圍棋高手
一個月前，DeepMind創始人Demis Hassabis曾說道很快會有關於圍棋研究的驚喜，而1月28日的《Nature》雜志即將以封面論文的形式介紹Google旗下人工智慧公司DeepMind開發的一款名為AlphaGo的人工智慧，它已經擊敗了歐洲圍棋冠軍，並將於3月與世界冠軍李世乭對戰。該程序採用了兩個深度神經網路，policy network與value network，極大地降低了需要考慮的搜索空間的復雜度，前者降低搜索的廣度，後者降低搜索的深度，很像人腦在下圍棋時憑直覺快速鎖定策略的思維。
這么說起給一點時間,巔峰的吳清源,李昌鎬這類人物(即使不斷學習)也是下不過電腦的了? (我指的電腦就是2015一台中等配置的PC這樣,不是伺服器集群,類似普通電腦跑Pocket Fritz 4)
今天(3-12-2016) AlphaGo 已經3:0領先Lee Sedol了
這個並不是太出人意料。我記得十年前就有人說，十年內這個問題可以解決。可能那時候他就已經有點思路了吧。
這個問題能解決到這個程度，Google的確做出了很大的貢獻，我想很多同樣看上去很難的問題也並不是不能解決，而是我們願不願意解決，願意花多大的精力在上面。我覺得這點啟發非常重要，尤其是在深度網路這類新技術出現的時候，有很多地方簡單地應用一下就能有新的突破。
老實說，我看了AlphaGo的思路，跟我之前的思路差不了太多，我在2015年1月份就看過一篇利用卷積神經網路來下棋的論文（神經網路可能終將在圍棋上打敗人類），並且有種豁然開朗的感覺，還想出了改進的思路（論文中的程序實際上有比較明顯的缺陷，而去掉其中的缺陷就是一條更為完善的思路），真正的理論層面的突破是那篇論文，那篇論文寫出來，就決定了今天只用了一年左右的時間AlphaGo能達到這個程度，Google的貢獻在於將理論更好地改進和實踐了，他們更有實力來解決這樣的問題，不是像那篇論文里的程序，使用比較純粹的神經網路，那樣想要達到頂尖水準很有難度。
值得反省的是，為什麼圍棋作為東方人的游戲，卻不是我們自己來解決這個問題？我覺得國內一定有人看到解決思路了，既然我這種業余愛好者都能看出點眉目。
6. 谷歌打造AlphaGo需要怎樣的硬體配置
剛剛，Deepmind在Reddit的Machine Learning板塊舉辦了在線答疑活動AMA，Deepmind強化學習組負責人David Silver和其同事熱情地回答了網友們提出的各種問題。由於在AMA前一天Deepmind剛剛發表了《Mastering the game of Go without human knowledge》(不使用人類知識掌握圍棋)的論文，相關的提問和討論也異常熱烈。
什麼是AMA?
AMA(Ask Me Anything)是由Reddit的特色欄目，你也可以將其理解為在線的「真心話大冒險」。AMA一般會約定一個時間，並提前若干天在Reddit上收集問題，回答者統一解答。
本次Deepmind AMA的回答人是：
David Silver：Deepmind強化學習組負責人，AlphaGo首席研究員。David Silver1997年畢業於劍橋大學，獲得艾迪生威斯利獎。David於2004年在阿爾伯塔大學獲得計算機博士學位，2013年加盟DeepMind，是AlphaGo項目的主要技術負責人。
Julian Schrittwieser：Deepmind高級軟體工程師。
此前有多位機器學習界的大牛/公司在Reddit Machine Learning版塊開設AMA，包括：Google Brain Team、OpenAI Research Team 、Andrew Ng and Adam Coates、Jürgen Schmidhuber、Geoffrey Hinton、Michael Jordan 、Yann LeCun、Yoshua Bengio等。
我們從今天Deepmind的AMA中選取了一些代表性的問題，整理如下：
關於論文與技術細節
Q: Deepmind Zero的訓練為什麼如此穩定?深層次的增強學習是不穩定和容易遺忘的，自我對局也是不穩定和容易遺忘的，如果沒有一個好的基於模仿的初始化狀態和歷史檢查點，二者結合在一起應該是一個災難...但Zero從零開始，我沒有看到論文中有這部分的內容，你們是怎麼做到的呢?
David Silver：在深層增強學習上，AlphaGo Zero與典型的無模式演算法(如策略梯度或者Q學習)採用的是完全不同的演算法。通過使用AlphaGo搜索，我們可以極大改進策略和自我對局的結果，然後我們會用簡單的、基於梯度的更新來訓練下一個策略及價值網路。比起基於簡便的基於梯度的策略改進，這樣的做法會更加穩定。
Q：我注意到ELO等級分增長的數據只與到第40天，是否是因為論文截稿的原因?或者說之後AlphaGo的數據不再顯著改善?
David Silver：AlphaGo已經退役了!這意味著我們將人員和硬體資源轉移到其他AI問題中，我們還有很長的路要走吶。
Q:關於論文的兩個問題：
Q1：您能解釋為什麼AlphaGo的殘差塊輸入尺寸為19x19x17嗎?我不知道為什麼每個對局者需要用8個堆疊的二進制特徵層來描述?我覺得1、2個層就夠了啊。雖然我不是100%理解圍棋的規則，但8個層看起來也多了點吧?
Q2：由於整個通道使用自我對局與最近的/最好的模型進行比較，你們覺得這對於採用參數空間的特定SGD驅動軌跡對否會有過擬合的風險?
David Silver：說起來使用表徵可能比現在用的8層堆疊的做法更好!但我們使用堆疊的方式觀察歷史數據有三個原因：1)它與其他領域的常見輸入一致;2)我們需要一些歷史狀態來表示被KO;3)如果有一些歷史數據，我們可以更好地猜測對手最近下的位置，這可以作為一種關注機制(註：在圍棋中，這叫「敵之要點即我之要點」)，而第17層用於標注我們現在究竟是執黑子還是白子，因為要考慮貼目的關系。
Q：有了強大的棋類引擎，我們可以給玩家一個評級——例如Elo圍棋等級分就是通過棋手對局的分析逐步得出的，那麼AlphaGo是否可以對過去有等級分前的棋手的實力進行分析?這可能為研究人類的認知提供一個平台。
Julian Schrittwieser：感謝分享，這個主意很棒!
我認為在圍棋中這完全可以做到，或許可以用最佳應對和實際應對的價值差異或者政策網路給每一手位置評估得到的概率來進行?我有空的時候試一下。
Q: 既然AlphaGo已經退役了，是否有將其開源的計劃?這將對圍棋社區和機器學習研究產生巨大的影響。還有，Hassabis在烏鎮宣稱的圍棋工具將會什麼時候發布?
David Silver：現在這個工具正在准備中。不久後你就能看到新的消息。
Q：AlphaGo開發過程中，在系統架構上遇到的最大障礙是什麼?
David Silver：我們遇到的一個重大挑戰是在和李世石比賽的時候，當時我們意識到AlphaGo偶爾會受到我們所謂的「妄想」的影響，也就是說，程序可能會錯誤理解當前盤面局勢，並在錯誤的方向上持續許多步。我們嘗試了許多方案，包括引入更多的圍棋知識或人類元知識來解決這個問題。但最終我們取得了成功，從AlphaGo本身解決了這個問題，更多地依靠強化學習的力量來獲得更高質量的解決方案。
圍棋愛好者的問題
Q：1846年，在十四世本因坊跡目秀策與十一世井上幻庵因碩的一盤對局中，秀策下的第127手讓幻庵因碩一時驚急兩耳發赤，該手成為扭轉敗局的「耳赤一手」。如果是AlphaGo，是否也會下出相同的一首棋?
Julian Schrittwieser：我問了樊麾，他的回答是這樣的：
當時的圍棋不貼目，而AlphaGo的對局中，黑棋需貼7.5目。貼目情況不同造成了古今棋局的差異，如果讓AlphaGo穿越到當年下那一手，很有可能下的是不同的另一個地方。
Q：從已發布的AlphaGo相互對局看，執白子的時間更為充裕，因而不少人猜測，7.5目的貼目太高了(註：現代圍棋的貼目數也在不斷變化，如在30年前，當時通行的是黑子貼白子5.5目)。
如果分析更大的數據集，是否可以對圍棋的規則得出一些有趣的結論?(例如，執黑或者執白誰更有優勢，貼目應該更高還是更低)
Julian Schrittwieser：從我的經驗和運行的結果看，7.5目的貼目對雙方來說是均勢的，黑子的勝率略高一些(55%左右)。
Q：你能給我們講一下第一手的選擇嗎?ALphaGo是否會下出我們前所未見的開局方式?比如說，第一手下在天元或者目外，甚至更奇怪的地方?如果不是，這是否是一種「習慣」，或者說AlphaGo有強烈的「信念」認為星位、小目、三三是更好的選擇?
David Silver：在訓練中我們看到ALphaGo嘗試過不同方式的開局——甚至剛開始訓練的時候有過第一手下在一一!
即便在訓練後期，我們仍然能看到四、六位超高目的開局，但很快就恢復到小目等正常的開局了。
Q：作為AlphaGo的超級粉絲，有一個問題一直在我心中：AlphaGo可以讓職業棋手多少子?從論文中我們知道AlphaGo可以下讓子棋，我也知道AlphaGo恐怕讓不了柯潔兩子，但我想你們一定很好奇，你們是否有做內部測試?
David Silver：我們沒有和人類棋手下讓子棋。當然，我們在測試不同版本的時候下過讓子棋，在AlphaGo Master>AlphaGo Lee>ALphaGo Fan這三個版本中，後一個版本均可讓三子擊敗前一個版本。但是，因為AlphaGo是自我訓練的，所以尤其擅長打敗自己的較弱的前一版本，因此我們不認為這些訓練方式可以推廣到和人類選手的讓子棋中。
Q：你們有沒有想過使用生成對抗網路(GAN)?
David Sliver：從某種意義來講，自我對弈就是對抗的過程。每一次結果的迭代都是在試圖找到之前版本的「反向策略」。
傳言終結者
Q：我聽說AlphaGo在開發初期被引導在某一個具體的方向訓練以解決對弈中展現出的弱點。現在它的能力已經超過了人類，是否需要另外的機制來進一步突破?你們有做了什麼樣的工作?
David Silver：實際上，我們從未引導過AlphaGo來解決具體的弱點。我們始終專注於基礎的機器學習演算法，讓AlphaGo可以學習修復自己的弱點。
當然你不可能達到100%的完美，所以缺點總會存在。 在實踐中，我們需要通過正確的方法來確保訓練不會落入局部最優的陷阱，但是我們從未使用過人為的推動。
關於DeepMind公司
Q：我這里有幾個問題：在DeepMind工作是什麼感受?AlphaGo團隊成員都有誰?你能介紹一下AlphaGo團隊工作分配的情況嗎?下一個重大挑戰是什麼?
David Silver：在DeepMind工作感覺好極了:)——這不是一個招聘廣告，但我感覺每天可以在這里做我喜歡的事實在是太幸運了。有很多(多到忙不過來!:))很酷的項目去參與。
我們很幸運有許多大牛在AlphaGo工作。您可以通過查看相應的作者列表來獲取更詳細的信息。
Q: 你覺得本科生是否可以在人工智慧領域取得成功?
Julian Schrittwiese：當然。我本人就只有計算機科學學士學位，這一領域變化迅速，我認為您可以從閱讀最新的論文和試驗中來進行自學。另外，去那些做過機器學習項目的公司實習也是很有幫助的。
關於演算法的擴展和其他項目
Q：Hassabis今年三月份在劍橋的一個演講中表示，AlphaGo項目未來目標之一是對神經網路進行解釋。我的問題是：ALphaGo在神經網路結構上取得了什麼樣的進展，或者說，對AlphaGo，神經網路仍然是神秘的黑盒子?
David Silver：不僅僅是ALphaGo，可解釋性是我們所有項目的一個非常有意思的課題。Deepmind內部有多個團隊從不同方式來探索我們的系統，最近有團隊發表了基於認知心理學技術去嘗試破譯匹配網路內部發生了什麼，效果非常不錯!
Q: 很高興看到AlphaGo Zero的好成績。我們的一篇NIPS論文中也提到了對於深度學習和搜索樹之間效率的相似問題，因此我對於在更長的訓練過程中的行為尤其感興趣。
AlphaGo的訓練過程中，創建學習目標的蒙特卡洛樹搜索的貪心演算法、策略網路的貪心演算法、以及在訓練過程中價值功能變化的貪心演算法之間的相對表現如何?這種自我對局學習的方法是否可以應用在最近的星際爭霸 II API中?
David Silver：感謝介紹您的論文!真不敢相信這篇論文在我們4月7日投稿的時候已經發布了。事實上，它與我們的學習演算法的策略組件非常相似(盡管我們也有一個值組件)，您可以參考我們的方法和強化學習中的討論，也很高興看到在其他游戲中使用類似方法。
Q：為什麼早期版本的AlphaGo沒有嘗試自我對弈?或者說，AlphaGo之前也嘗試過自我對弈但效果不好?
我對這個領域的發展和進步程度感到好奇。相比起今天，在兩年前在設計一個自主訓練的AlphaGo的瓶頸在哪裡?今天我們見到的「機器學習直覺」又是經歷了什麼樣的系統迭代過程?
David Silver：創建一個可以完全從自我學習的系統一直是加強學習的一個開放性問題。 我們最初的嘗試包括你能查到的許多類似的演算法，是相當不穩定的。 我們做了很多嘗試，最終AlphaGo Zero演算法是最有效的，而且似乎已經破解了這個特定的問題。
Q：你認為機器人什麼時候能夠有效解決現實世界關於高度、尺寸方面的問題(例如，自己學習如何抓取任何形狀、尺寸、位置垃圾的設備)?策略梯度方法是否是實現這一目標的關鍵點?
Julian Schrittwieser：這主要是由於價值/政策網路上的雙重改進，包括更好的訓練和更好的架構。具體參見論文圖4對不同網路架構的比較。
Q：據說擊敗柯潔的ALphaGo Master的功耗只是擊敗李世石的AlphaGo Lee的1/10。你們做了什麼樣的優化呢?
Julian Schrittwieser：這主要是由於價值/政策網路上的雙重改進，包括更好的訓練和更好的架構。具體參見論文圖4對不同網路架構的比較。(你確認不是上一個問題的答案嗎)
Q：看起來在增強學習中使用或模擬Agent的長期記憶是一個很大的障礙。 展望未來，您覺得我們是否能以一種新的思維方式解決這一點? 還是說需要等待我們技術可以實現一個超級網路?
Julian Schrittwieser：是的，長期記憶可能是一個重要的因子，例如在「星際爭霸」游戲中，你可能已經做出了上千個動作，但你還要記住你派出的偵察兵。
我認為現在已經有了令人振奮的組件(神經圖靈機!)，但是我認為我們在這方面仍有很大的改進空間。
Q：David，我看過你的演講視頻，你提到增強學習可以用於金融交易， 你有沒有真實世界的例子? 你會如何處理黑天鵝事件(過去沒有遇到過的情況)?
David Silver：已經發表增強學慣用於現實世界的財務演算法的論文非常少見，但有一些經典論文值得一看，例如Nevmyvaka、Kearns在2006寫的那篇和Moody、Safell在2001年寫的那篇。
Q：你們和Facebook幾乎同時研究圍棋問題，你們能更快獲得大師級表現的優勢是什麼?
對於那些無法獲得像AlphaGo如此多的訓練數據的領域如何開展機器學習或者增強學習?
David_Silver：Facebook更側重於監督學習，我們選擇更多地關注強化學習，因為我們認為AlphaGo最終將超越人類的知識。 我們最近的結果實際上表明，監督學習方法可以讓人大吃一驚，但強化學習絕對是遠遠超出人類水平的關鍵之處。
7. AlphaGo是什麼 谷歌AlphaGo全解讀
AlphaGo一般指阿爾法圍棋
阿爾法圍棋（AlphaGo）是第一個擊敗人類職業圍棋選手、第一個戰勝圍棋世界冠軍的人工智慧程序。
其主要工作原理是「深度學習」。
阿爾法圍棋（AlphaGo）是一款圍棋人工智慧程序。其主要工作原理是「深度學習」。「深度學習」是指多層的人工神經網路和訓練它的方法。一層神經網路會把大量矩陣數字作為輸入，通過非線性激活方法取權重，再產生另一個數據集合作為輸出。這就像生物神經大腦的工作機理一樣，通過合適的矩陣數量，多層組織鏈接一起，形成神經網路「大腦」進行精準復雜的處理，就像人們識別物體標注圖片一樣。
8. 面對谷歌的alphago，人類真的會卸掉最後一點驕傲嗎
機器再厲害，還不是人造的...
9. alphago 贏這盤棋，谷歌砸了多少錢
谷歌研發支出全球第一，遠超蘋果和 IBMqwS南陽事網
阿爾法狗這樣的高科技，是錢砸出來的；有錢不一定能做的出，沒錢是一定做不出。qwS南陽事網
麵包財經翻查了中美各大科技公司的財報發現，谷歌 2015 年在研發上的投入位列榜首，摺合 809 億人民幣以上，緊隨其後的是英特爾和微軟，分別摺合 793 和 748 億人民幣；而蘋果的研發費用則僅為 516 億人民幣。以下是在美國上市的各大科技公司 2015 財年研發費用支出情況。
10. 谷歌為何要做人工智慧圍棋程序AlphaGo
圍棋對計算機來說是最困難的，其復雜程度讓窮舉搜索都難以解決。
對機器來說，圍棋的困難主要在兩方面：一是，機器無法寫出評估程序來決定誰贏了；二是，圍棋是一種直覺性的比賽。
輸贏的判斷對比賽來說非常重要，但是圍棋不像象棋，吃掉對方的「帥」或者「將」即可獲勝，這也導致圍棋的搜索空間非常龐大。
圍棋更像是一個築防游戲，每走一步都需要盤算整個棋局，而象棋是所有棋子都擺在盤上。另外，圍棋選手都是依靠直覺在下棋，且圍棋中沒有等級概念，所有的棋子都一樣，小小的一子，就可以影響全局。
正因如此，AlphaGo在圍棋上取得的成績，確實得來不易。哈薩比斯也說，戰勝李世石，讓他們整個團隊都很激動。為這一刻，等了十年。