全球頂尖專家雲集上科大 介紹人工智能新進展

　　原標題：全球頂尖專家雲集上科大，介紹人工智能最新進展探討發展方向———“溫度”有了，安全度如何提升

　　人工智能正日漸滲入人類生活各個領域。圖為上科大信息學院學生在試驗自己研發的無人機。(上科大信息學院供圖)

　　“人工智能所涉及的安全問題，已經到了不得不考慮的時候了。”昨天，在上海科技大學舉辦的信息科學及技術國際學術年會上，頂尖人工智能專家認為，人工智能正日漸滲入人類生活各個領域，它會更具有情感和溫度，但同時也將為人類社會帶來嚴峻的安全挑戰。

　　人工智能逐步深入情感體驗

　　人工智能將不再是冷冰冰的。計算機視覺和圖形學研究的世界級專家、美國工程院院士沈向洋介紹了微軟的一款聊天軟體“小冰”。目前市面上的人工智能對話軟體數量並不少，但“小冰”的特點是能夠感知對話者的情緒，所以可以更加深入地與人交流———甚至可以聊上兩三個小時，而不只是簡單完成指令。“過去六七年，科學家和工程師一直致力於將圖像、語言、知識等進行融合。”他説，如今人工智能已在實現“把思想變語言”的夢想。

　　曾有人説，計算機不可思議地迅速、精確，卻愚蠢;而人類不可思議地遲緩、不精確，卻聰明智慧;兩者的結合將會獲得超越現實的力量。這或許可以用來描述人工智能的發展方向。沈向洋説，如今的人工智能正在為計算機加入更多人性化的思維方式，比如，搜索“伊拉克的國土面積”，傳統搜索給出的結果是一個精確的多少平方千米的數值，而人工智能則會在後面加上一句:“相當於一個加利福尼亞州的面積。”

　　沈向洋説，“小冰”甚至可以理解到圖片中內容所表達的情感，並將它們變成詩句。有趣的是，它已經出版了一本名為《陽光失了玻璃窗》的詩集。

　　論壇上，當一些專家介紹著人工智能激動人心進展的同時，另一些專家則嚴肅地提出人工智能發展的瓶頸。美國工程院院士、“臉書”人工智能實驗室主任楊·勒丘恩提出，現在機器學習的瓶頸在於，只會學習監督式數據，也就是説還需要靠工程師“餵養”。他認為，今後應發展“非監督學習”，讓機器自動學習更多沒有被處理和標記過的數據，比如隨手拍下的照片等。這將會使機器的學習能力大大加強，也將解決機器不懂“人類常識”的弊病。

　　未來互聯網如果遭受攻擊，損失的可能是真實的生命

　　人工智能的發展，正不斷挑戰人們的想像力。當大家不時驚艷于它所帶來的各種應用時，很多專家卻警惕地提出了人工智能的安全問題———當由機器做決定的領域越來越多，它們是否會因為決斷錯誤，而給人類帶來傷害?如何防範人工智能系統被駭客攻破?美國加州大學伯克利分校電子工程與電腦科學系教授宋曉冬説，這些問題應該從人工智能發展之初就加以研究考慮，解決了安全問題，才能讓它更健康安全地發展。

　　最近，美國食品藥品監督管理局調整了審批規則，在批准新的醫療設備時，增加了對其軟體和通信系統的審查。宋曉冬説，這在以前是沒有的，因為有不少研究團隊已經發現，越來越智慧化的醫療設備中，存在不少安全漏洞，“這可能在今後造成不可想像的醫療事故，危及病人性命”。

　　“在人工智能系統中，有一個以前軟體所沒有的層級———機器學習系統。”宋曉冬解釋，這個系統究竟會出現怎樣的安全問題，幾乎還沒人可以説清。比如，這個系統做出判斷依賴於各種演算法，如何確保這些演算法不失誤?現在還遠遠沒有形成標準。又如，如果駭客攻擊人工智能系統，又會發生什麼?現在互聯網遭受攻擊，遭到的損失可能是金錢、數據，可未來損失的則可能是真實的生命。她舉例説，比如道路上有“停止”標記，在人眼看來沒任何問題，可駭客可以動手腳，讓無人駕駛汽車誤以為那是“通行”標識，就可能導致車禍。

　　“人工智能對人類社會提出的安全問題，與當年互聯網剛興起時十分相似。”宋曉冬説，系統安全的攻與防，猶如矛和盾，總是“道高一尺，魔高一丈”地相互較勁。好在有了互聯網發展的經驗，安全問題會在人工智能興起之初就得到重視。她的研究團隊目前已在構建一些具體的應用場景，模擬人工智能的學習架構，以此來尋找可能的安全問題，並加以解決。