人工智能已經「自學成才」了，人怎麼辦？

http://big5.ftchinese.com/story/001074842

人工智能已經「自學成才」了，人怎麼辦？

阿胡賈：科技思想家們並不是在模擬人類智慧打造機器，而是每日鑽研如何讓人類智慧變得無關緊要。

更新於2017年10月30日 06:54 英國《金融時報》 安賈娜•阿胡賈

埃隆•馬斯克(Elon Musk)曾說，人類在人工智能(AI)領域取得的巨大進步如同在「召喚惡魔」。小哥，惡魔可不會下圍棋。

人工智能公司DeepMind最近宣布，其已研發出了一種擅長玩這種古老的中國棋盤遊戲的算法。最牛的是，這款叫做AlphaGo Zero (AGZ)的算法完全是「自學成才」的。研究人員只給它輸入了下圍棋的規則，而沒有輸入任何人類知識和經驗。

該算法的前身AlphaGo使用人類棋手玩過的數千盤棋所積累起來的數據培訓過。兩種算法對弈，結果AGZ以100比零取勝。這樣說來，完全不藉助人類智慧，AGZ自己就可以成為頂尖的棋藝高手。

雖說DeepMind最有可能害得馬斯克噩夢不斷，但在其他地方，機器自主方面的研究也取得了很大進展。今年1月，卡耐基梅隆大學(Carnegie Mellon University)的研究人員公布了一種能夠打敗人類頂級撲克玩家的算法。在與頂級專業玩家進行「單挑無限下注德州撲克」（一種極具挑戰性的牌類遊戲）比賽時，這台叫做Libratus的機器贏了將近200萬美元籌碼。人類玩家稱，被一台機器詐唬住真叫人「灰心喪氣」。同樣，Libratus也是通過發覺自身弱點並加以彌補來提高技藝，而不是藉助於人類直觀知識。

AGZ和Libratus都只有「一技之長」，但技術人員還渴望開發出具備多種能力的機器。例如，DeepMind就宣布，希望研發出「能夠自主地在多個最具挑戰性的領域實現超越人類能力的算法」。一旦高速、深奧的算法完全不受遲鈍、淺薄、令人失望的人類智慧的桎梏，它們可能開始處理我們這個平庸的物種從未面對過的問題。頂尖的科技思想家並不是在模擬人類智慧打造機器，而是每日鑽研如何讓人類智慧變得無關緊要。

假如未來有一天我們回首今日，我們可能會覺得AGZ和Libratus就像是人工智能邁向「奇點」(Singularity)過程中的蹣跚學步。奇點假說引起了很多爭論，它是指人工智能發展成為超級智能、能夠在不依靠人類干預的情況下控制自己命運的階段。最具有反烏托邦色彩的情景是人工智能威脅到人類生存。

2017全球展望

史维学：是时候重新思考教育模式了，应将其视为一个终身过程。我们不能再奖励死记硬背，而应该鼓励好奇心。

假設超級智能機器為了實現被程序設定的目標，計算出最佳做法是研製更加聰明的下一代機器。一個失控的循環由此形成，從而飛速地進入怪誕的計算領域。

有一天，這些由目標驅動的生產力模範可能還會算出，在沒有威脅的情況下，它們可以通過消滅人類來最好地完成任務。有人就開過這樣的玩笑，要戰勝癌症，最冷酷的合理方法就是消滅罹患癌症的器官。全球飢荒和氣候變化也是類似情況。

這些都是「回形針思想實驗」之類的想法，提出這個實驗的哲學家尼克•博斯特羅姆(Nick Bostrom如今在牛津大學(Oxford University)人類未來研究所(Future of Humanity Institute)工作。如果不負有道德責任的超級智能機器被設定的唯一目標是最大化地生產回形針，它最終可能霸佔一切可用的原子來實現這一目標。對人類來說，肯定沒有哪種死亡比被做成辦公用品更悲慘。博斯特羅姆教授的警告清晰地表明了「能力謹慎性原則」(capability caution principle)，這條原則在機器人技術領域廣受認同，即我們不一定能承受人工智能提高能力的後果。

擔心工作被取代是很實際的：包括本文作者在內，我們很多人都是通過完成有限範圍的任務來獲得薪水。我們即將迎來自動化。但只有傻瓜才會在想到更遙遠的未來時無憂無慮——那時機器的智力可能會以我們現在想象不到的方式超越人類。

本文作者是科學評論員

譯者/馬柯斯