“當(dāng)基于人工智能的機器人能夠真正感受到自我意識時，人工智能的安全和道德挑戰(zhàn)會更加復(fù)雜。屆時，他們應(yīng)該像人一樣對待嗎？”

9月18日，2018世界人工智能大會安全高端對話在上海舉行，峰橋集團公司總裁陳實在發(fā)表對人工智能安全倫理規(guī)范的幾點思考時問道。

陳實曾任通用汽車（中國）有限公司副總裁及通用汽車（中國）北京分部總經(jīng)理、微軟公司副總裁及大中華區(qū)法律及公司事務(wù)部總經(jīng)理，今年年初卸任了在微軟的職務(wù), 從事咨詢工作。會后，他接受了澎湃新聞（www.thepaper.cn）的專訪。

人工智能距離人的智慧還有很遠(yuǎn)

在演講中，陳實談到，現(xiàn)下流行的人工智能技術(shù)主要基于數(shù)據(jù)驅(qū)動的優(yōu)化方法來解決特定的具體問題，而不是一般問題。

“我們都對AI在國際象棋和圍棋等游戲中擊敗人類印象深刻。然而，游戲只代表一類智力活動，其中游戲的規(guī)則是確定的，獲勝目標(biāo)也是明確定義的。但在現(xiàn)實世界中，規(guī)則并不總是很明確確定，目標(biāo)也可以不斷變化?！?/span>

他告訴澎湃新聞，人工智能在游戲領(lǐng)域可以做到很“聰明”，但這是一種狹隘的“聰明”，“如果把這種智慧想象成為能做任何事情的話，我覺得夸大了?！?/span>

“機器可以玩游戲，可以玩得比人好，但是目前沒有哪一款受人歡迎的游戲是機器設(shè)計的。機器可以參加高考，并且考得很好，因為不管是數(shù)學(xué)題還是化學(xué)題，都有嚴(yán)格的規(guī)則和正確答案，但是有沒有高考題目是機器出的？”

他認(rèn)為，人之所以聰明，是因為不僅見多識廣，而且能夠融會貫通，不僅能學(xué)習(xí)知識，還能夠進(jìn)行抽象、總結(jié)，應(yīng)用到其他的領(lǐng)域。這種常人具有的智慧在機器上談何容易？

圖靈獎獲得者Raj Reddy在17日在世界人工智能大會主論壇的發(fā)言中表達(dá)了對人工智能的積極看法。面對AI，他看到的是積極和繁榮景象，縱觀過去幾百年的歷史，戰(zhàn)爭來源于每個人都想獲取別人的資源，而當(dāng)人工智能賦予全人類富足的資源，戰(zhàn)爭自然消弭于無形。

陳實對此表示贊同，“有很多人對AI的發(fā)展都有點擔(dān)憂，但我認(rèn)為AI就是一個十分有用的工具，用的好的話可以造福于人類的。”

他指出，人工智能不是萬能的，但它確實讓每個行業(yè)發(fā)生了改變，每個行業(yè)都要數(shù)字轉(zhuǎn)型，都要利用人工智能來提高效率、擴大服務(wù)功能，人工智能已經(jīng)帶來了一場革命。

對人工智能可能產(chǎn)生的安全道德問題還沒有好的答案

由于人工智能存在的局限性，隨之產(chǎn)生的安全和道德問題需要人們關(guān)注。

陳實在演講中談到，機器學(xué)習(xí)的結(jié)果會受到訓(xùn)練數(shù)據(jù)質(zhì)量和算法假設(shè)的影響，許多機器學(xué)習(xí)方法沒有成熟的自我糾錯機制。

譬如，誰應(yīng)對以下錯誤負(fù)責(zé)：基于人工智能的投資損失；基于人工智能的信用評估中出現(xiàn)貸款拒絕；基于AI的醫(yī)療診斷系統(tǒng)發(fā)生了醫(yī)療事故？

此外，算法建模的偏見和數(shù)據(jù)收集中的差錯可能導(dǎo)致決策偏見，不穩(wěn)定和易受操縱。這一點在數(shù)字營銷、政治選舉等事例中已經(jīng)時有發(fā)生。

在道德層面，人工智能開發(fā)團隊面臨的考驗更大。

可能產(chǎn)生的問題例如，人工智能可以大規(guī)模提高效率和生產(chǎn)力，但可能只會使少數(shù)人受益；人工智能可以操縱人類行為，例如游戲成癮、投票偏見、媒體炒作：人可能無法閱讀/查看想要讀到的客觀內(nèi)容，而閱讀到別人希望他閱讀的內(nèi)容。

人工智能開發(fā)人員可能會將他/她的意識形態(tài)、道德信仰、道德規(guī)范注入到算法中，這些算法在社會上可能無法被接受或認(rèn)定是道德合理的。

接下來的問題是，如果一個機器人有像人類一樣的感覺和意識，它是否具有像人類一樣的機器人權(quán)利？

“我們對這些問題沒有答案，至少是好的答案。這就是我們今天在這里討論人工智能安全和道德的原因?！彼f道。

傳統(tǒng)車企和軟件互聯(lián)網(wǎng)企業(yè)應(yīng)合作研制自動駕駛汽車

對于時下熱點，陳實也與澎湃新聞分享了他的看法。

兼有在通用汽車和微軟公司的工作經(jīng)歷，陳實認(rèn)為，傳統(tǒng)車企和軟件互聯(lián)網(wǎng)企業(yè)在研發(fā)制造自動駕駛汽車上，各有各的優(yōu)勢，最好兩方面合作。“完全搞互聯(lián)網(wǎng)的，不一定能夠做出一輛汽車，完全搞汽車的，也未必能做出自動駕駛的車?！?/span>

他認(rèn)為，人工智能不會像AR、VR或者區(qū)塊鏈一樣只是一個風(fēng)口，AR、VR、區(qū)塊鏈只是技術(shù)的某些應(yīng)用，但人工智能的實用范圍更加廣大，應(yīng)用無處不在。

“現(xiàn)在人工智能的智能化程度越來越高，機器人裝了傳感器，能夠感知環(huán)境，從而表現(xiàn)得更加智慧，應(yīng)用更加廣泛；在語音識別方面，它能夠聽懂人的話，然后進(jìn)行翻譯。從感知到語言，機器人就可以獲得知識，有了知識以后未來或許就能產(chǎn)生創(chuàng)造力?！彼麑Υ吮硎緲酚^。

對于人工智能進(jìn)一步的發(fā)展，陳實提出應(yīng)該加強跨學(xué)科合作。

“其實人工智能涉及的學(xué)科很多，如果是計算機科學(xué)、物理學(xué)、生物學(xué)、哲學(xué)、心理學(xué)、大腦科學(xué)等學(xué)科能夠在一起的話，我覺得可以研究出一些更具有一般智慧的廣泛應(yīng)用?！彼f。