首個被機器擊敗的象棋大師 卡斯帕羅夫：人類應該是AI的「牧羊人」
「對於AlphaZero和未來的機器，我將人類的角色描述為『牧羊人』。我們只需將正確的機器放在正確的空間來執行正確的任務即可。」
國際象棋大師卡斯帕羅夫是歷史上最偉大的棋手之一。在1985年成為世界冠軍後的近20年裡，他經常采取大膽棄子、疾進反擊的策略贏得比賽，幾乎成為這項棋牌運動的主宰者。
然而，在國際象棋世界之外，卡斯帕羅夫最出名的地方是輸給了機器。1997年，在職業生涯的巔峰時期，卡斯帕羅夫被名為「深藍」(Deep Blue) 的IBM超級計算機擊敗。這場失利在世界各地掀起了軒然大波，似乎預示著一個機器駕馭人類的新時代即將到來。
網上圖片
隨著智能手機現在能夠運行像深藍那樣強大的國際象棋引擎以及其他應用程序，個人電腦的功能已經大大增強。更重要的是，由於人工智能（AI）最近取得的進步，機器們正在自我學習和探索這個游戲。
深藍遵循手工編碼的下棋規則。相比之下，Alphabet子公司DeepMind在2017年推出的AlphaZero程序，只需一遍又一遍的練習，就能自學出特級大師的水平。最值得注意的是，AlphaZero發現了令國際象棋專家眼花繚亂的游戲新方法。
卡斯帕羅夫最近回到了他被深藍擊敗的現場，即紐約一家酒店的宴會廳，與AI促進會組織的AI專家進行辯論。他在那裡接受雜誌資深作家Will Knight的採訪，兩人討論了國際象棋、AI能力以及領先於機器的戰略。
問：回到你輸給深藍的現場是什麼感覺？
卡斯帕羅夫：我已經可以平靜地接受這場失敗。歸根結底，那場比賽不是詛咒，而是祝福，因為我參加了一項非常重要的歷史進程。23年前，我會有不同的想法。但事情總會發生，我們都會犯錯，都會有失敗的時候。重要的是，我們如何對待這些錯誤和負面經歷。
網上圖片
1997年是一次不愉快的經歷，但它幫助我理解了人機協作的未來。我們自認為在國際象棋以及圍棋上是不可戰勝的，然而所有這些游戲，它們都逐漸被日益強大的AI程序所主宰。但這並不意味著生活就結束了，我們必須找出如何才能把它變成我們優勢的方法。
我總是說，我是第一個工作受到機器威脅的知識型工人。但這有助於我向公眾傳達一個信息。因為，你知道，沒人會懷疑我是電腦的堅定支持者。
問：關於AI的影響，你想給人們提供哪些信息？
卡斯帕羅夫：我認為人們認識到必然性的因素是很重要的。當我聽到強烈的抗議，說AI正在湧入並摧毀我們的生活時，我卻不這樣認為，我認為它進步的速度依然太慢。
每項技術在大量創造工作機會之前都會破壞就業。當你查看統計數據時，你會發現美國只有4%的工作需要人類的創造力。這意味著96%的工作，我稱之為「僵屍工作」。它們實際上已經進入「僵死狀態」，只是人們沒注意到而已。
幾十年來，我們始終在訓練人們像計算機一樣行事，現在我們抱怨這些工作處於危險之中。我們必須尋找機會創造那些能夠凸顯我們優勢的就業機會，技術正是這麼多人仍然抱怨技術的主要原因，這就是一枚硬幣的兩面。我認為重要的是，與其抱怨，不如看看如何才能更快地前進。
當這些就業機會開始消失時，我們需要新的產業，我們需要建立將會有所幫助的基礎。也許這需要普遍基本收入，但我們需要為那些落在後面的人創造財務緩衝。現在這是非常被動的反應，無論是來自普通公眾還是來自大型公司的首席執行官，他們都在關注AI，並表示它可以幫助提高利潤，但它仍是個黑匣子。我認為，我們仍在努力理解AI將如何適應。
網上圖片
問：很多人將不得不與AI接管部分工作的前景作鬥爭，你對他們有什麼建議？
卡斯帕羅夫：有很多不同的機器，也有人類需要承擔的角色，准確地理解這些機器需要做什麼才能做到最好。歸根結底，這是關於如何組合的問題。以放射學為例，如果有強大的AI系統，我寧願要個有經驗的護士，而不是使用它的頂尖水平的教授。一個知識淵博的人會明白，他或她需要添加更多知識。但是，醫學界的大明星會喜歡挑戰機器，這會破壞交流。
人們問我：「你能做些什麼來幫助另一個國際象棋引擎對抗AlphaZero呢？」我可以看看AlphaZero主宰的游戲，了解其中的潛在弱點。而且我認為它做出了些不准確的預估，這是很自然的。例如，它更看重主教而不是騎士。
AlphaZero觀看了超過6000萬場比賽，從統計上看，你知道，主教在更多的比賽中占據主導地位。所以我認為它在數量上給主教增加了太多的優勢。所以你應該做的是，你應該試著把你的引擎調到AlphaZero會犯不可避免的錯誤的位置。
我經常用這個例子。想像一下，你有一把威力很大的槍，可以射擊距離你1600米遠的目標。現在，方向改變1毫米可能會導致1600米外高達10米的差異。因為槍的威力如此之大，一個小小的改變實際上可以產生很大的不同。這就是人機協作的未來。
對於AlphaZero和未來的機器，我將人類的角色描述為「牧羊人」。你只需推動這群智能算法就行了。只要把它們推向一個或另一個方向，他們就會完成剩下的工作。我們只需將正確的機器放在正確的空間來執行正確的任務即可。
問：你認為我們在人類水平的AI方面取得了多大進展？
卡斯帕羅夫：我們還不太知道智力到底是什麼。即使是最好的計算機專家，處於計算機科學領域前沿的人，他們仍然對我們到底在做什麼持懷疑態度。
我們今天所理解的是，AI仍然是一種工具。我們習慣於機器讓我們變得更快更強，但是會更聰明嗎？這是某種人類的恐懼。同時，有什麼不同呢？我們一直在發明幫助我們增強不同能力的機器。我認為AI只是一個偉大的工具，可以實現10、20年前不可能實現的事情。
我不知道它將如何發展。但我不相信AGI(人工通用智能)。我不相信機器能夠將知識從一個開放式系統轉移到另一個開放式系統。因此，機器將在封閉的系統中占據主導地位，無論是游戲還是任何其他由人類設計的世界。
大衛·西爾弗(AlphaZero的創建者)還沒有回答我關於機器是否可以設定自己的目標的問題。他談到了子目標，但那是不一樣的。這在他對智力的定義中存在差距。我們設定目標，並尋找實現這些目標的方法。機器只能做第二部分。
網上圖片
到目前為止，我們幾乎看不到機器可以在這些條件之外實際操作的證據，這顯然是人類智能的標志。比方說你在一場比賽中積累了知識，機器能將這些知識轉移到另一個可能相似但不相同的游戲中嗎？人類可以。但對於計算機來說，在大多數情況下，它們必須從頭開始。
問：讓我們來談談AI的倫理問題。你認為這項技術如何會被用於監視或武器？
卡斯帕羅夫：我們從歷史中知道，進步是不可阻擋的，所以我們肯定會遇到些我們不能阻止的事情。如果你在歐洲或美國完全限制AI，它只會給其他人帶來優勢。但是，我認為我們確實需要對Facebook、谷歌和其他產生如此多數據的公司進行更多的公開控制。
人們說，哦，我們需要制造符合倫理標准的AI。真是胡說八道，人類仍然壟斷著邪惡。問題不在於AI，而在於人類使用新技術來傷害其他人類。
AI就像一面鏡子，它放大了好的和壞的方面。我們必須真正看一看，了解我們如何才能修復它，而不是說「哦，我們可以創造出比我們更好的AI。」我們不知何故被困在兩個極端之間，它不是魔杖或終結者，也不是烏托邦或反烏托邦的先兆。它只是一種獨特的工具，因為它可以增強我們的思維，但它仍是工具。不幸的是，我們在自由世界內外都有足夠的政治問題，如果錯誤使用AI，這些問題可能會變得更加嚴重。
問：回到國際象棋上，你對AlphaZero的策略有什麼看法？
卡斯帕羅夫：我看了它在游戲中的表現，並在一篇文章中提到國際象棋就像是「推理的果蠅」。現在每個電腦玩家對人類來說都太強大了，但我們實際上可以更多地了解我們的游戲。我可以看到AlphaGo在練習過程中玩的數百萬個游戲，以及它們是如何產生某些有用知識的。
認為如果我們研制出功能強大的國際象棋機器，游戲就會變得很乏味，會有很多平局、策略，或者一場游戲會有1800步、1900步，沒有人可以突破，這種想法是錯誤的。AlphaZero則完全相反。
對我來說，這是互補的，因為它更像是卡斯帕羅夫在下棋，而不是阿納托利·卡爾波夫(Anatoly Karpov，卡斯帕羅夫的長期競爭對手)！它會發現，它實際上可以犧牲某些棋子來采取咄咄逼人的行動，但這不是創造，它只是看到了模式或機率。但這實際上使國際象棋更具攻擊性，更具吸引力。
現任國際象棋世界冠軍馬格努斯·卡爾森(Magnus Carlsen)曾說，他研究過AlphaZero的游戲策略，發現了這個游戲的某些元素和某些聯系。他本可以考慮采取行動，但從來不敢真正那樣做，現在我們都知道它奏效了。
問：當你輸給深藍的時候，有些人認為國際象棋不再有趣了。為什麼你認為人們仍然對卡爾森感興趣？
卡斯帕羅夫：你自己已經回答了這個問題，我們仍然對人感興趣。汽車開得比人還快，但那又怎麼樣呢？人類競爭的因素仍然存在，因為我們想知道我們的球隊，我們的人，他或她是世界上最好的。
事實是，即使計算機主導了游戲，但它們依然為人類所有。它制造了一種不安的感覺，但另一方面，它擴大了人們對國際象棋的興趣。這不像30年前，卡斯帕羅夫扮演卡爾波夫，即使我們犯了錯誤，也沒有人敢批評我們。現在你可以看著屏幕，機器會告訴你發生了什麼。因此，不知何故，機器把很多人帶進了這個游戲。他們能聽懂，這不是他們聽不懂的語言。AI就像一個界面，一個解釋器。
