在京舉行的世界機器人大會上，人工智能的倫理法律話題引熱議

　　機器與人 怎樣當好“合伙人”

　　15日，2018世界機器人大會在北京亦創國際會展中心開幕，展示全世界機器人產業的最新成果。為期3天的論壇上，由機器人發展引發的人工智能倫理和法律話題就是議題之一。

　　應當建立規范機器人及其使用行為的法律框架

　　在國際人工智能界，不少人認為人工智能會對人類產生巨大威脅，呼吁不要開發“人工智能自主武器”，警惕人工智能的潛在風險。他們討論的人工智能，通常指的是未來能自主進化、有類人意識的“強人工智能”，而當前應用的多是擅長單項任務、完成人類指令的“弱人工智能”。即便如此，人工智能的迅速發展帶來的挑戰已經逐漸顯現。

　　為保護隱私，人們發布照片或視頻時，會打上馬賽克覆蓋人臉，但美國一個研究小組開發了一套機器學習算法，通過訓練，神經網絡可以識別圖像或視頻中隱藏的信息。

　　時下，一些機器人應用到兒童和老人陪護中。中國社會科學院哲學研究所研究員段偉文認為，機器人與兒童對答、給老人喂飯等行為看似簡單，長期相處可能使人類對機器傾注感情、產生依賴，有必要設置防止過度依賴機器人的原則。此外，無人駕駛汽車發生交通事故怎么界定責任，醫療外科手術機器人出現意外怎樣處置……隨著智能機器人深入參與人類生活，專家認為，如何建立規范機器人及其使用行為的法律框架，成為人工智能和機器人產業發展無法回避的重要問題。

　　清華大學人工智能研究院院長、中科院院士張鈸曾表示，當前的人工智能與人類智能本質上是不同的。與人類相比，人工智能系統抗干擾能力差，推廣能力弱，甚至可能犯大錯。因此使用這樣的人工智能系統需要小心。

　　思考與智能機器的相處模式，控制不良影響

　　人工智能的發展幾經波折，也在不斷進化。

　　“人工智能及其智能化自動系統的普遍應用，不僅僅是一場結果未知的科技創新，更可能是人類文明史上影響深遠的社會倫理試驗。”段偉文說。

　　北京師范大學哲學學院教授田海平表示，機器深度學習和算法體系，使得智能體具有了一種準人格或擬主體的特性。當前，“阿爾法狗”、醫療機器人“沃森”和智能伴侶虛擬機器人微軟“小冰”仍屬于“弱人工智能”，離真正的智能主體還比較遠。即便如此，它們也已經呈現改變人類形態的發展趨勢。未來假若“強人工智能”出現，并深度介入人類事務，那么，“我們必須提前思考人類如何與之相處的問題，控制它的不良影響。”田海平說：“人工智能是否以及如何為自己的行為負責，這仍然且始終是技術難題。”

　　近年來，國際人工智能界日益重視人工智能中的倫理與法律問題，并推動相關技術標準及社會規范的研討和制定。2017年1月，一個國際學術會議制定并發布了人工智能23條倫理原則，其中包括，人工智能研究的目標應該建立有益的智能，而不是無向的智能；人工智能系統的設計和運作應符合人類尊嚴，權利，自由和文化多樣性的理念等。電氣和電子工程師協會（IEEE）也頒布了《人工智能設計的倫理準則》，試圖從工程設計和生產的角度，提出人工智能的倫理標準。

　　我國人工智能研究及實踐走在世界前列，但在相關機器倫理、立法研究和安全標準等方面起步相對較晚，近些年正在積極加強這些方面的研究。

　　有專家表示，人工智能倫理法律等涉及科學界、企業界、哲學、法學等多個領域，有必要成立應對人工智能發展的聯盟組織，吸納各方面的力量，共同推進相關研究。

　　運用算法，將人類道德規范體系嵌入智能機器

　　段偉文說，人工智能系統的“擬主體性”，使得它們的行為可以看作是與人類倫理行為類似的擬倫理行為。因此，人工智能界在探討能不能運用智能算法，將人類的價值觀和道德規范體系嵌入到智能機器中。有專家認為，這既是人工智能未來愿景，也是當前面臨的最大挑戰。

　　田海平說，把道德代碼嵌入機器，是人工智能發展的必然趨勢。缺少這一步，自動駕駛、無人機、助理機器人等智能體就不可能進入人類生活。機器在自主性上達到了人類高度后，它在做決策時，只有遵循道德算法，才能發展各種各樣的功能。

　　段偉文介紹，讓機器符合人類道德規范，學界大體有3種設想：一是自上而下，即在智能體中預設一套倫理規范，如自動駕駛汽車應將撞車對他人造成的傷害降到最低；二是自下而上，即機器通過數據驅動，學習人類的倫理德道規范；三是人機交互，即讓智能體用自然語言解釋其決策，使人類能把握其復雜的邏輯并及時糾正可能存在的問題。

　　“人工智能倫理研究目前沒有一套普遍原則，因此可以從應用中遇到的實例出發，找到價值沖突點，討論需要作哪些倫理考慮。”段偉文說，比如針對偏見，有必要追溯到機器學習的數據中，完善數據信息，并改進算法，讓人工智能判斷盡量客觀公正，符合人類的價值觀。

　　盡管人工智能發展存在許多潛在問題，但更多人對技術應用的前景表示樂觀。他們認為，人工智能能提供更安全、更智能的生活體驗，不能因為技術潛在的不足而因噎廢食，在提前布局，防范可能出現的挑戰的同時，也要利用新技術來應對風險。

　　以隱私安全為例，人工智能并不是隱私的天敵。北京大學信息科學技術學院教授郭耀說，利用人工智能技術能夠應對一些常規方法難以應對的安全問題。比如，基于行為分析，人工智能可以快速檢測出惡意軟件，通過機器學習還能及時檢測異常網絡流量行為，預警黑客入侵，從而提升網絡安全防御水平。

　　張鈸說，不管人工智能如何發展，基本理念應該不是用智能機器代替人，而是要協助人做好工作。人和機器各有優勢，要互相了解才能實現人機協作，但人還是人機關系的主導者。如此，才可能將人工智能引向人機合作的發展道路。

　　喻思南

【糾錯】

責任編輯： 郝多