2017年11月2日 星期四

人工智能已經「自學成才」了,人怎麼辦?



人工智能已經「自學成才」了,人怎麼辦?
阿胡賈:科技思想家們並不是在模擬人類智慧打造機器,而是每日鑽研如何讓人類智慧變得無關緊要。
更新於20171030 06:54 英國《金融時報》 安賈娜阿胡賈
埃隆馬斯克(Elon Musk)曾說,人類在人工智能(AI)領域取得的巨大進步如同在「召喚惡魔」。小哥,惡魔可不會下圍棋。



人工智能公司DeepMind最近宣布,其已研發出了一種擅長玩這種古老的中國棋盤遊戲的算法。最牛的是,這款叫做AlphaGo Zero (AGZ)的算法完全是「自學成才」的。研究人員只給它輸入了下圍棋的規則,而沒有輸入任何人類知識和經驗。
該算法的前身AlphaGo使用人類棋手玩過的數千盤棋所積累起來的數據培訓過。兩種算法對弈,結果AGZ100比零取勝。這樣說來,完全不藉助人類智慧,AGZ自己就可以成為頂尖的棋藝高手。
雖說DeepMind最有可能害得馬斯克噩夢不斷,但在其他地方,機器自主方面的研究也取得了很大進展。今年1月,卡耐基梅隆大學(Carnegie Mellon University)的研究人員公布了一種能夠打敗人類頂級撲克玩家的算法。在與頂級專業玩家進行「單挑無限下注德州撲克」(一種極具挑戰性的牌類遊戲)比賽時,這台叫做Libratus的機器贏了將近200萬美元籌碼。人類玩家稱,被一台機器詐唬住真叫人「灰心喪氣」。同樣,Libratus也是通過發覺自身弱點並加以彌補來提高技藝,而不是藉助於人類直觀知識。
AGZLibratus都只有「一技之長」,但技術人員還渴望開發出具備多種能力的機器。例如,DeepMind就宣布,希望研發出「能夠自主地在多個最具挑戰性的領域實現超越人類能力的算法」。一旦高速、深奧的算法完全不受遲鈍、淺薄、令人失望的人類智慧的桎梏,它們可能開始處理我們這個平庸的物種從未面對過的問題。頂尖的科技思想家並不是在模擬人類智慧打造機器,而是每日鑽研如何讓人類智慧變得無關緊要。
假如未來有一天我們回首今日,我們可能會覺得AGZLibratus就像是人工智能邁向「奇點」(Singularity)過程中的蹣跚學步。奇點假說引起了很多爭論,它是指人工智能發展成為超級智能、能夠在不依靠人類干預的情況下控制自己命運的階段。最具有反烏托邦色彩的情景是人工智能威脅到人類生存。
2017全球展望
史维学:是时候重新思考教育模式了,应将其视为一个终身过程。我们不能再奖励死记硬背,而应该鼓励好奇心。
假設超級智能機器為了實現被程序設定的目標,計算出最佳做法是研製更加聰明的下一代機器。一個失控的循環由此形成,從而飛速地進入怪誕的計算領域。
有一天,這些由目標驅動的生產力模範可能還會算出,在沒有威脅的情況下,它們可以通過消滅人類來最好地完成任務。有人就開過這樣的玩笑,要戰勝癌症,最冷酷的合理方法就是消滅罹患癌症的器官。全球飢荒和氣候變化也是類似情況。
這些都是「回形針思想實驗」之類的想法,提出這個實驗的哲學家尼克博斯特羅姆(Nick Bostrom如今在牛津大學(Oxford University)人類未來研究所(Future of Humanity Institute)工作。如果不負有道德責任的超級智能機器被設定的唯一目標是最大化地生產回形針,它最終可能霸佔一切可用的原子來實現這一目標。對人類來說,肯定沒有哪種死亡比被做成辦公用品更悲慘。博斯特羅姆教授的警告清晰地表明了「能力謹慎性原則」(capability caution principle),這條原則在機器人技術領域廣受認同,即我們不一定能承受人工智能提高能力的後果。
擔心工作被取代是很實際的:包括本文作者在內,我們很多人都是通過完成有限範圍的任務來獲得薪水。我們即將迎來自動化。但只有傻瓜才會在想到更遙遠的未來時無憂無慮——那時機器的智力可能會以我們現在想象不到的方式超越人類。
本文作者是科學評論員
譯者/馬柯斯


5 則留言:

  1. By SuSan
    類神經網路可以實現被程序設定的目標(已知輸出),計算出最佳做法(最佳輸入).
    真實的世界裡還有許多未知的多元輸入需要計算出輸出的情況. 例如多元決策模型,還存在著目標的不可預知性.
    AlphaGO可以不用人類的思考模式和圍棋高手對奕,因為棋法已定,如果輸入與輸出都不是很明確,AI能發展出類似人類的自主語意嗎?
    Google 的翻譯系統正在想辦法探索這個問題.語境遠比圍棋複雜,兩三年後從Google 的翻譯系統應該可以看出一些端倪.

    回覆刪除
    回覆
    1. 嘿嘿,真有趣!

      科學好似最終目的是在證明感情的不存在。也只有感情可以完全被數位化,量化,那時才能真正把機器人徹底人性化啦!

      刪除

  2. 機器人是屬於資方所有。當機器人完全取代勞務時,誰能販售自身勞務賺得薪資以供消費?只有機器人無法取代的勞務,才來能生存下來,如長照、藝術設計、文藝創作 - - - 。

    當資方剝削勞方到完全榨盡榨乾的地步時,有誰能消費呢?所以資方的新經濟概念,遲早一定走向:刺激並維持勞方大眾不停消費。只有大眾永續消費,資方才有永續生財。

    回覆刪除
  3. By SuSan
    椰仔大說得沒錯,有消費才有生產. 經濟停滯,原因固然很多,軍公教待遇大幅提高後,台灣的薪資結構開始反轉.1974年我在民營企業月薪4500,同學在大學當助教1500.現在的大學畢業生,養活自己都很困難,怎有餘力繳稅支付老師的薪資? 傳統軍公教的消費能力是偏低的.某些公務員有承包商代付,某些老師有弟子家長服其勞.一般說來要讓公教人員口袋拿出錢來刺激消費頗不容易.M型收入,物價上漲,購買力下降,舉世皆然.只是台灣停滯現況比較嚴重,要翻轉經濟,不從政治司法改革下手, 也是徒勞.
    至於AI機器人,和複製人一樣,即使市場不大,金字塔頂端也足以支持研發經費.再加上人類的好奇心,看來是停不下了.未來的世界,變化之大,恐怕無法想像.

    回覆刪除
  4. 人類會有視覺誤判的錯覺,AI也會發生。
    雖然大部分時候AI極具效率,但是如果在某些重要工作發生誤判,造成生命財產損失。
    不知道責任該如何歸咎與修正?
    https://unwire.hk/2017/11/04/mit-students-trick-ai-object-recognition/fun-tech/

    回覆刪除

發表意見者,請留稱呼。用匿名不留稱呼者,一律自動刪除。