專家談人機圍棋大戰：技術群體戰勝了天賦個人

 

記者劉功虎

 

連日來，“阿爾法圍棋”（AlphaGo）與韓國棋手李世石的圍棋人機大戰，引起全世界“圍觀”。截至13日，4場較量，前3場“阿爾法圍棋”連勝，第4場李世石扳回一城。五局系列賽，勝負已分。

 

人機圍棋大戰，應如何看待輸贏？人工智能最終會向何處去？人類最具顛覆性的技術發展到底是人工智能，還是其他？13日，中山大學人機互聯實驗室主任翟振明接受長江日報記者專訪，談他眼中的“人機大戰”。

 

阿爾法圍棋讓一些人感受到了危機

 

讀+：人機對決，反響熱烈，有人為之興奮，有人焦慮。你怎麼看這種輸贏？

 

翟振明：“阿爾法圍棋”橫掃李世石，或者二者互有輸贏，我不覺得有什麼特別的不同。無論如何，我們都可以説，人工智能博弈領域的技術取得了長足進步。

 

但對一些人來説，也許這意味著某種危機的開始。機器人可能接管腦力勞動。他們感覺到了分分鐘被淘汰的危險。

 

其實人類的價值，並不在於多麼會幹活，體力或腦力勞動都是為了解決我們自己給自己設定的任務。有了這種設定，才知道什麼是該幹的活，什麼是有效勞動。下棋一類智力活動，屬於高級遊戲活動，有工具之外的意義。這場人機大賽，讓一部分人們感覺到一種自我認同上的危機，産生了將被機器人淘汰的焦慮。

 

在我看來，強大智慧機器的發明，你説是了不起的里程碑也可以，但這並不是人工智能技術的斷裂性突破。

 

讀+：是否可以認為，這種人機大戰，人設計的機器戰勝真人棋手，實際還是人和人之間的大戰？

 

翟振明：這説法還算靠譜。但是我不太想用戰爭隱喻來刻畫這個事件。換句話説，這只説明瞭，在單一的抽象博弈智慧方面，技術群體戰勝了天賦極高的自然個體。

 

機器沒有獨立的意志。最終説來，“輸”與“贏”的説法，都是我們人類單方面的投射，與機器“自己”無關。“阿爾法圍棋”根本就沒有所謂的“自己”。沒有獨立的意志，怎麼和人發生“大戰”呢？

 

讀+：一個流行的説法是，“最可怕的不是‘阿爾法圍棋’戰勝李世石，而在於它能贏卻故意輸掉”。對此你怎麼看？

 

翟振明：這話雖然原本只是玩笑，但其內涵可以非常深刻，涉及到人們常説的“強人工智能”與“弱人工智能”的根本差別的問題。什麼叫“故意”輸掉？“阿爾法圍棋”並沒有自我意識啊，沒有自由意志啊，如何談得上“故意”？“故意”可是一種截然不同的能力，是強人工智能技術所追求的境界。目前還見不到端倪。

 

人工智能屬於漸進發展的常規技術

 

讀+：難道“阿爾法圍棋”系統就沒有什麼值得誇耀的地方？

 

翟振明：當然有。首先，這裡比較容易引起混亂的是所謂“阿爾法圍棋”已經獲得“學習功能”的説法。其實，這是基於一種模倣人腦神經元的網狀連接結構的軟體運行時的符號累積迭代過程。這種神經網絡演算法裝在高速計算機上，使得這個機器棋手可以永不疲倦地練習對弈，所有人類“棋聖”合起來的練棋次數與之相比都只是零頭。

 

再加上巨大數據庫和無與倫比的推演速度，絲毫不受情緒影響的“阿爾法圍棋”不贏才怪。在我看來，人工智能到現在才開始贏倒有點兒難以理解。畢竟，美國科學家首次提出神經元網絡數學模型至今已經70多年。

 

與當年擊敗世界國際象棋冠軍的深藍不同，基於“阿爾法圍棋”同種原理的人工智能系統，可以學習把握醫療數據，掌握治療方法，幫助人們解除病痛。它可以讓人類從純功利性質的腦力勞動中解放出來，給我們的生活帶來極大便利。“深度心智”團隊的新目標，據説是開發出可以從零開始的參與所有博弈競賽的通用學習型人工智能。

 

讀+：比起人腦，“阿爾法圍棋”最大的缺陷是什麼？

 

翟振明：“阿爾法圍棋”表現出了強大的計算功能，但與人相比，它沒有感官系統、沒有主體可體驗內容、沒有主觀意向、沒有情緒涌動。“阿爾法圍棋”或類似的人工智能系統再強大，也是在馮諾依曼框架下的改進。沒有超出這個框架，也就只能是工具型的沒有第一人稱世界的機器。

 

讀+：為什麼那麼多人關注這次人機對決？

 

翟振明：關注可以，但是沒有必要過於興奮或焦慮。至於人們這次空前的關注度，是否可以這樣理解，就像一百年前小説家講述的科學怪人“弗蘭肯斯坦”那樣，他創造了怪物，最後自己又被怪物控制。這故事確實讓我們覺得，與一般的自然災難相比，我們人類會自造怪物而“失控”，回過頭來對付我們，的確讓人懊惱。

 

但是，目前這種人工智能，再怎麼自動學習、自我改善，都不會有“征服”的意志，也不會有“利益”訴求和“權利”意識。在我看來，當前，無論從緊迫性上看，還是從終極可能性上看，人工智能問題都屬常規性問題，並且是漸進呈現的，我們不必過於興奮或擔憂。我們有更值得擔心、警醒、緊迫的事情要去做。

 

“強人工智能”才有人格，可視為人類後代

 

讀+：人類因自造怪物而“失控”，甚至被消滅——在你看來，這份警醒是多餘的？

 

翟振明：這種擔心可以理解，但是並沒有理性根據。我們要看到，所有的人造機器，包括“阿爾法圍棋”，都是在某些方面的能力高於人類。這本來就是人造機器的目的，很正常。在現有條件下，它不會失控，即使以後真的失控，也與我們對飛機、高鐵、大壩之類的失控屬同類性質。

 

“阿爾法圍棋”具有的説到底仍是一種工具能力，是那種“弱人工智能”。這種“弱人工智能”很可能通過圖靈測試，但與人的意向性及主體感受能力不相干。

 

讀+：什麼樣的人工智能才是根本性的突破？

 

翟振明：“強人工智能”相對“弱人工智能”，聽起來好像只有程度強弱，實際存在其間的是一條鴻溝。所謂“強”，指的是超越工具型智慧，達到第一人稱主體世界，意向性、命題態度、愛恨情感乃至自由意志統統發生。

 

很多科學家和哲學家認為，按照現在這種思路來搞人工智能，搞出來的東西不可能有自我意識和意志。按照量子力學的基本構架來進行，倒有點可能。

 

最近，美國量子物理學家斯塔普、英國物理學家彭羅斯、美國基因工程科學家蘭策都提出了人類意識的量子假設，中國清華大學副校長施一公院士、中科大副校長潘建偉院士等也大膽猜測，人類智慧的底層機理就是量子效應。對於這個問題，我幾十年前就開始探索研究，同樣的看法日漸增強。

 

“強人工智能”實現以後，這種造物就不能被當作純粹的工具，因為它們具有人格結構，人類成員所擁有的權利地位、道德地位、社會尊嚴等等，他們應該平等擁有。與我們平起平坐的具有獨立人格的“機器人”，還是機器人嗎？

 

不是了！這才是真正的突破。

 

讀+：“強人工智能”會不會與人類對抗，最終毀滅人類？

 

翟振明：要理解這種擔憂的實質，我們需要好好反思：我們對人工智能的敵對情懷究竟從何而來？我們設計製造了這種新型主體，不就等於以新的途徑創生了我們自身的後代嗎？長江後浪推前浪、青出於藍而勝於藍，人類過往的歷史不都是這樣的、或至少是我們所希望是的嗎？一旦做到了，為何又恐懼了呢？

 

就算真的有“征服”發生，那也是新人類征服了舊人類，而不是人類的末日。對新技術可能引發的後果，我們切忌葉公好龍。

 

讀+：你説的更值得擔心和警醒、更加緊迫的事情，是指什麼？

 

翟振明：今年被很多人稱為“虛擬現實元年”。不出幾年，我們都會見證虛擬現實的驚人威力和魅力，你們大夥準備好了沒有啊？

 

三問“虛擬現實”

 

什麼是“虛擬現實”

 

記者劉功虎

 

翟振明：你看過電影《王牌特工》吧，英國頂尖的特工分佈於世界各地，他們要湊到一起開會怎麼辦？不用每個人都飛去倫敦，一人戴副眼鏡，就可以湊到一間“會議室”裏開會，如同身臨其境。

 

微信的領頭人張小龍不經意説過，“希望五年後大家開會不用出門，戴上一副眼鏡，全都和在現場一模一樣”。到時候，我們的微信群就不是一個頭像、一個昵稱湊一起了，而是共同進入一個與現實世界無可分別的虛擬會所，面對面互動交流。

 

我弄的人機互聯實驗室在6樓，你戴上我改裝過的頭盔，再加上其他輔助器件，開著一輛電瓶車，就可以無縫穿越到北京。回到廣州，回到我所在的大樓，你自己先覺得在1樓，可以和現實中的保安打招呼。轉悠一會，回到6樓，摘下頭盔一看，還是實驗室。

 

物聯網建成後，會有很多彼此分離的人機互動介面被連成一體，虛擬現實將成為擴展的現實。

 

要不了多少年，全世界共同進入網絡化的虛擬世界。我之所以認為它比別的高科技更重要，更值得重視，因為它將完全顛覆人類的生活形態和實質。可以説：人工智能是讓人類生活的勞作性內容越來越少，而虛擬現實、擴展現實是讓人類生存生活的創造性意義大規模擴充。

 

翟振明：如果“機器人”有真愛的能力，就不再是“機器”，而是“人”。既然是人與人之間的情感，就不存在顛覆性，按人類既有的倫理道德對待就行了。

 

我所提到的“虛擬現實”，是人與人之間的空間距離關係被完全打亂重整，人際交往的物理障礙幾乎全都不復存在，而人的非工具性的創造力的發揮有了極大的空間。人工智能貌似是我們把機器變成“都教授”，而虛擬現實是把我們自己變成神仙。

 

“虛擬現實”將引發人類的倫理觀念的巨大變革。駭客帝國不是虛構，就要降臨到我們的日常生活中，這些似乎馬上就要發生了。虛擬世界將是我們現實生活的翻倍，並與真實生活糾纏不清。它將完全改變每個人的生活方式、生活觀念，改變人自身。這是全新的、徹底的技術革命。如果説人類曾經是被造物主創造出來的，那麼虛擬現實則是由人一手創造的。人將充當虛擬世界的造物主，制定其全部的遊戲規則和倫理體系。

 

虛擬現實是純人工構建、創立的世界，我們當然要事先預想、防範可能出現的侵犯人的尊嚴和權利的問題。比如説國界問題，把主從機器人、物聯網整在一起後，假設你的自然身體在中國，但在美國訂了一個替身，並連接上了。就像電影《阿凡達》看到的那樣，你在這裡一動，它在美國同時做一樣的動作。到時候，你這個人算是出國了沒有？你到底是在中國，還是在美國？你如果指揮你的替身在美國殺了人，那麼算誰殺的？法律上怎麼定義你在哪，又怎麼定義“你”？該由哪個政府部門管轄？所以構建虛擬現實的倫理秩序非常重要。

 

另外，總有一些權力欲、控制欲爆棚的人，他們很可能把人及其虛擬替身變成物聯網的附屬，服務他們的權力意志。擴展的虛擬現實如果向這個方向發展，將是人類的災難。所以我們要未雨綢繆。

 

翟振明：可以發揮作用，也可以不依賴它。作為人類的便捷工具，人類當然不排斥用它在擴展現實中做一些複雜而枯燥重復的工作，並且結合大數據，可以在人不上線的時候冒充在線與其他人繼續交流。

 

也就是説，在虛擬世界裏也可以有數碼版的機器人，我將其稱為“人偶”。但這種“弱人工智能”不是虛擬現實的主要元素。如果虛擬現實進一步與物聯網整合成“擴展現實”，主從機器人被大量部署，人們在虛擬世界中就可以完成幾乎所有工具性的體力和腦力勞動。但是，主從機器人，基本上屬於無智慧的機器人。

 

等到量子計算機進入實用階段，也許“強人工智能”時代就到了，那又是另一番景象啦，我們的想像力現時也許都達不到呢。到時，我們的後裔還會下圍棋嗎？“阿爾法圍棋”將真的會像搖尾巴的寵物狗一樣吧。

 

“虛擬現實”會引發倫理問題嗎

 

玩穿越的哲學家

 

記者劉功虎

 

【人物】

 

翟振明在國內學理工科，在美國改學哲學，主攻英美倫理學、現象學、認知哲學和政治哲學，持續關注“虛擬現實”技術領域的進展。獲哲學博士學位後在美國多所大學任教，還兼職寫過軟體代碼。

 

1998年他出版探討虛擬現實技術和哲學的英文專著，在多個領域産生影響。書中思想實驗派生出來的技術已獲專利一項，另有16項正在申報中。翟振明自2000年任中山大學哲學系教授。他治學的特點是追求原創和系統性，以問題導向為中心，且不拘泥于哲學學科的內部分野。

 

近年，他利用學校專款，獨立創建一間“人機互聯實驗室”，把人和機器連接起來，利用特製的硬體和軟體，隨時可以體驗“穿越”的感覺。他的實驗室通過了沙盤測試，目前正在升級改造中。

 

翟振明熱心科普，從事藝術創作，與網友互動頻繁。他在理論方面的貢獻，加上對虛擬現實技術的熱心實踐，讓他得到了騰訊、天涯等公司的支持。

 

人工智能在“虛擬現實”可發揮作用嗎

 

翟振明 本人供圖