(一)

　　2018年12月，歐盟人工智能高級專家組發布《可信賴的人工智能道德準則草案》。該準則草案提出了實現“可信賴人工智能”的兩個核心要素——道德目的、技術可靠。在此之前，學術界已經開始從技術角度探索防范人工智能潛在風險的“反人工智能”技術。2018年8月，加拿大學者公布了關于人臉檢測動態擾亂系統的研究成果，該技術能將人臉檢測準確率從接近100%大幅降低至0.5%。當前，人工智能尚處于“弱人工智能”階段，反人工智能的早早出現，既凸顯出人類對人工智能的潛在憂慮，也從技術角度提供了一條確保人工智能不會危及人類自身的新思路。因此，有必要梳理反人工智能技術的發展現狀與前景，并統籌考慮人工智能與反人工智能的協同發展，確保人工智能可控、可靠、可信地造福人類。

　　人工智能高速發展引發風險擔憂

　　人工智能引發的憂慮日漸增多

　　人臉檢測是當前人工智能領域最為成熟的技術之一，已經開始在多個領域應用推廣。但許多人認為，人臉檢測等人工智能技術在為人類提供便利的同時，也帶來了數據隱私泄露等安全隱患，有必要從各個角度開展防范策略研究，以防止用戶數據隱私泄露。事實上，在人工智能蓬勃發展的光環之下，其所引發的憂慮遠不止數據隱私泄露。當前，雖然各國大力倡導人工智能的應用推廣，但現階段的“弱人工智能”與真正的人腦智慧相差甚遠，缺乏自主認知意識與學習能力，十分依賴海量數據訓練，并且還無法學習形成人類的道德倫理觀念，這就意味著“弱人工智能”在應用過程中存在大量令人擔憂的隱患環節。

　　人工智能高速發展潛藏兩大風險

　　對人工智能的憂慮，主要源自人工智能的自身技術缺陷和技術潛在濫用兩方面。

　　在自身技術缺陷方面，第一，當前的機器學習本質上是一項黑盒技術，其訓練過程具有難以解釋、不可控制的特點，且隨著人工智能的應用復雜度、需求數據量的指數式增長，機器學習尤其是基于多層神經網絡的深度學習復雜程度愈發超出人類理解和控制范疇，在快速進化過程中極易偏離人類為其預設的軌跡。例如，微軟發布的人工智能機器人Tay在與網友聊天的過程中很快學會了臟話，甚至學會了種族歧視的言論，導致微軟被迫緊急下線該產品。第二，機器學習模型訓練過程完全依賴于海量數據，數據的好壞將直接決定人工智能技術效能，訓練數據的任何偏差都將在人工智能應用中如實反映。例如，由于用于模型訓練的簡歷具有男多女少的特點，因此，亞馬遜的智能簡歷篩選系統學會了性別歧視，一旦抓取到簡歷中“女”這一關鍵詞，便會降低應聘者的考核分數。

　　在技術濫用方面，隨著人工智能應用領域的快速延伸，人工智能技術觸及人類道德倫理底線，乃至威脅人類自身安全的事件不斷出現。例如，斯坦福大學的研究人員于2017年發布了一種依靠面部圖像識別來判斷性取向的算法，該算法判斷男同性戀和女同性戀的準確率分別高達91%和83%。因此，該應用只需提取人類上傳在社交網絡的照片即可判斷其性取向，這無疑是嚴重侵犯個人隱私的行為。而人工智能一旦在黑客網絡攻擊，甚至大規模殺傷性武器等方面濫用，將引發難以估量的嚴重后果。

　　防范人工智能風險已經“在路上”

　　隨著“AlphaGo戰勝李世石”等標志性事件接連出現，人工智能引發的憂慮隨之加深，人類開始從法律法規、道德準則、技術等多個角度探索防范人工智能潛在風險的手段。法律法規方面，2017年，歐美多個國家提出要積極開展人工智能相關的立法研究。例如，英、美分別在《人工智能：未來決策制定的機遇與影響》、《人工智能未來法案》中強調，要密切關注人工智能可能的負面影響，并提出要確保人工智能威脅的最小化。道德準則方面，2018年，谷歌因參與軍方人工智能項目而引發內部員工的強烈反對，最終被迫發布了11條運用人工智能技術的“不作惡”準則。2018年12月，歐盟發布人工智能道德指南草案，提出了規范人工智能應用的幾大問題。

　　此外，在技術方面，人臉檢測動態擾亂系統并非反人工智能的首次技術嘗試。此前，美國麻省理工學院(MIT)的研究人員就曾嘗試通過構建3D對抗樣本來欺騙圖像識別系統。此外，生成對抗網絡(GAN)的創造者伊恩·古德費洛曾在2017年牽頭組織對抗攻擊防御競賽，引導研究人員開展人工智能算法的攻防比拼，以期引起各方對反人工智能技術的關注和研究。

　　從某種意義上講，當人類出于自身福祉的考慮開發出的人工智能難免令人擔憂，而相關法律法規和技術倫理又大為滯后時，相比于法律道德的“防君子不防小人”，在技術層面實實在在地開發人工智能的對抗技術顯然更能讓人心安。因此，雖然現在的人工智能技術還很弱，但反人工智能的出現也是必然的。

　　反人工智能仍處于起步探索階段

　　反人工智能歷經兩大階段

　　截至目前，反人工智能技術的發展大致經歷了兩個階段。早期，反人工智能技術主要聚焦于通過污染訓練數據來攻擊機器學習模型。這是一種簡單直接的反制方法。但由于機器學習模型一般都在封閉環境中開展訓練，很難受到外部干擾，因此這類技術并未獲得進一步發展。2014年，伊恩·古德費洛提出的生成對抗網絡為反人工智能技術開辟了第二條技術路徑，研究人員可基于生成對抗網絡對源數據施加微擾，從而構造動態對抗數據，這一微擾難以被用戶感知，卻能使機器學習模型在檢測識別時做出錯誤判斷。該方法與人工智能技術相同，都基于機器學習算法。

　　反人工智能技術效能仍然較低

　　人工智能尚處于初級階段，而反人工智能在技術效能和應用領域等方面處于更加早期的階段。從技術效能看，構造對抗數據的方法易于被有效防御。只要在人工智能模型訓練初期利用已知的對抗性數據進行訓練，就能提升模型辨別良性、惡性數據的能力，進而抵御對抗性數據對模型系統的壓制。從應用領域看，由于反人工智能技術亦基于機器學習，因此與人工智能技術在圖像和語音識別領域發展類似，反人工智能技術也集中在這兩個領域。自然語言處理、認知推理等其他人工智能應用領域尚無可行的反人工智能解決方案。此外，此類方法只能在人工智能模型系統的推斷環節實施干擾，無法在訓練環節發揮作用。

　　反人工智能也須“三思而后用”

　　反人工智能技術的出現反映了人類對人工智能發展的憂慮，但該技術的發展與應用同樣需要審慎。本質上，人工智能和反人工智能都是基于機器學習算法的技術，只是在技術效能上構成相互對抗的關系，即以人工智能對抗人工智能。因此，反人工智能在某種程度上同樣具有不可靠性，也同樣面臨著不可控、被濫用的風險。例如，自動駕駛高度依賴人工智能的圖像識別技術，倘若反人工智能技術被非法地運用在自動駕駛領域，就可能導致自動駕駛汽車無法有效識別道路信息，從而引發災難性后果。因此，在人工智能演進路徑尚不清晰的情況下，要審慎思考人工智能與反人工智能的關系，綜合性、互補性地發展和運用人工智能與反人工智能技術，從而在最大程度上確保人工智能在造福人類時可控、可靠、可信。

　　對策建議

　　布局反人工智能技術研究

　　圍繞確保人工智能技術可控、可靠、可信的總體目標，加快推進反人工智能的基礎理論研究和應用技術研發，爭取未來技術的發展主動權。一是支持開展基于生成對抗網絡的反人工智能技術研發，提升反人工智能技術的抗干擾能力和實用性，防止其被人工智能技術“反對抗”。二是在開展圖像識別、語音識別領域反人工智能技術研發的同時，在自然語言處理、認知推理等其他人工智能應用領域積極開展反人工智能技術研究。三是支持開展針對人工智能機器學習模型訓練環節反人工智能技術的理論研究和技術開發。四是前瞻布局適用于反人工智能技術研發的基礎理論，探索機器學習以外的革新性技術路徑。

　　探索反人工智能應用場景

　　面向人工智能應用過程中潛在風險防控的現實需求，推動反人工智能技術的落地應用，積極探索人工智能與反人工智能的協同發展路徑。一是圍繞智能終端、云端軟件系統等各類人工智能應用模式，支持將反人工智能技術作為風險防控模塊，嵌入現有的人工智能產品服務，提升其可靠和可控程度。二是針對用戶隱私保護、敏感系統防護等特定場景，將反人工智能技術作為獨立產品，探索信息安全防護產品、服務的開發與應用。三是積極推動圖像識別對抗系統、語音識別對抗系統等相對成熟的反人工智能技術的商業化落地。

　　深化人工智能與反人工智能理論研究

　　從確保人工智能健康發展、造福人類的根本立場出發，在理論、倫理等層面上加強對人工智能、反人工智能的綜合性研究。一是前瞻布局腦科學、計算機科學、哲學等領域的跨領域基礎理論研究，探索人工智能發展的客觀規律和根本目標。二是積極開展關于人工智能的系統研究，提高對人工智能與反人工智能的本質及二者之間關系的認識，明確人工智能與反人工智能的研發標準、認證體系、應用范圍。三是積極參與國際合作，共同開展人工智能道德倫理準則研究，推進相關法律法規的研究制定，加快完善人工智能和反人工智能的管理規范和監管手段。

　　(二)

　　人工智能即服務的類型

　　人工智能的核心是可以采用機器完成人類所做的同樣事情。例如，人工智能包含可以查看和識別圖片中物體的計算機視覺技術;它還包括使系統能夠進行正常對話的自然語言處理技術;以及允許計算機在沒有明確編程的情況下開展學習的機器學習技術。

　　人工智能即服務產品可以將這些類型的人工智能技術作為云計算服務提供。目前市場上的人工智能即服務產品一般分為以下幾類：

　　機器人和數字助理：對于很多人來說，當他們聽到“人工智能”;時，首先想到的就是蘋果的Siri，微軟的Cortana，或亞馬遜的Alexa這樣的數字助理。這些工具使用自然語言處理技術與用戶進行對話，許多工具還使用機器學習來提高他們的技能。許多企業希望為其產品和網站添加類似的功能。事實上，2017年支出最多的人工智能用例是自動化的客戶服務代理。但從頭開始創建自己的機器人對于企業是一個艱巨的任務。作為替代方案，有一些廠商提供機器人平臺即服務。而用戶利用自己的數據對機器人進行培訓，然后通過機器人回答簡單的問題，而讓工作人員從重復工作中解脫出來，可以處理更加復雜的任務。

　　認知計算API：應用程序編程接口(API)使開發人員可以輕松地將技術或服務集成到正在構建的應用程序或產品中。領先的云供應商都提供各種各樣的API。例如，想要制作照片共享應用程序的開發人員可能會使用面部識別API為應用程序提供識別照片中個人的功能。得益于API，開發人員無需從頭開始編寫面部識別代碼，甚至無需徹底了解它的工作原理。工作人員使用API來允許應用程序訪問云中的這種功能。API可用于各種不同的用途，包括計算機視覺、計算機語音、自然語言處理、搜索、知識映射、翻譯和情感檢測。

　　機器學習框架：這些工具允許開發人員創建可隨時間推移而改進的應用程序。一般來說，他們需要開發人員或數據科學家構建模型，然后使用現有數據來訓練該模型。機器學習框架在與大數據分析相關的應用程序中尤其流行，但它們也可用于創建許多其他類型的應用程序。在云端訪問這些框架比為自己的機器學習任務設置自己的硬件和軟件更容易、成本也更低。

　　完全托管的機器學習服務：有時候組織機構想要將機器學習功能添加到應用程序中，但是他們的開發人員或數據科學家缺乏一些必要的技能或經驗。完全托管的機器學習服務使用模板、預建模型和/或拖放式開發工具來簡化和加速使用機器學習框架的過程。

　　人工智能即服務將創造一種通用的人工智能，可以作為云服務進行訪問。一般的人工智能是一種能夠以與人類相同的方式思考和溝通的計算機系統。大多數專家認為，研究人員創建這樣的人工智能技術還需要多年的努力。

　　人工智能即服務的好處

　　高級基礎設施：人工智能應用程序，特別是機器學習和深度學習應用程序，可以在具有多個并行運行工作負載的高速圖形處理單元(GPU)的服務器上執行最佳性能。但是，這些系統對于很多企業來說非常昂貴，無法為組織和用例提供更多的幫助。人工智能即服務使組織讓企業能夠以可承受的成本來應用這些超高速計算機。

　　低成本：人工智能即服務不僅不需要為昂貴的硬件支付費用，還可以讓組織只為他們所使用硬件支付費用。在云計算中。大多數人工智能工作負載被認為是“突發”的，也就是說.，他們需要很短的時間獲得大量的計算能力。人工智能即服務只向他們收取使用的服務費用，大大降低了成本。

　　可擴展性：與其他類型的云服務一樣，人工智能即服務使其非常容易擴展。組織通常從一個試點項目開始，讓他們看到人工智能如何有用。以人工智能即服務，他們可以快速將該試點項目轉化為全面生產，并隨著需求的增長而擴大規模。

　　可用性：一些最好的人工智能工具可用于開源許可證，雖然價格低廉，但這些開源人工智能工具并不總是很容易使用。云計算人工智能服務通常使開發人員更容易訪問人工智能功能，而無需他們成為這方面的技術專家。

　　人工智能即服務的缺點

　　人工智能即服務的兩個最大缺點也是所有云計算服務都面臨的兩個問題：安全性和合規性。

　　許多人工智能應用程序(尤其是結合機器學習功能的應用程序)依賴于大量的數據。如果這些數據將駐留在云中或轉移到云端，組織需要確保它們具有適當的安全措施，包括在空閑和傳輸時進行加密。

　　在某些情況下，法規可能會阻止某些行業的某些類型的敏感數據存儲在云中。其他法律要求某些數據仍在其所在國家的境內。在這些情況下，可能無法將人工智能用作這些特定用例的服務。

　　另一個潛在的缺點是人工智能即服務可能非常復雜。組織將不得不花費時間和精力來培訓或聘用具有人工智能和云計算技能的員工。然而，許多組織認為，這個障礙可以輕易克服，并且采用人工智能即服務將會得到長期的回報。

　　(三)

　　人工智能的核心是模擬人類思維

　　“在采訪我之前，也許你會覺得人工智能非常神秘、了不起，但是聽我講完后，也許你會感嘆‘原來人工智能這么傻呀，比我想象的差多了!’”王萬良笑著說，因為你原來了解的人工智能主要來源于科幻大片，而不是真正的科學技術。自人工智能開始真正發展的六十多年來，經歷了數次起落，人們也隨之興奮與懊惱，主要是因為人工智能的每次重大發展都被宣傳得太過于神化，甚至說人工智能將要威脅到人類的生存。

　　“實際上，人工智能離我們的想象還差很遠，遠不會威脅到人類的安全。人腦是由一千多億個神經元交織在一起的網狀結構，其中約有1000種類型的神經元，每個神經元大約與個其他神經元相連接，形成了極為錯綜復雜而又靈活多變的神經網絡，人的智能行為就是由如此高度復雜的組織產生的。在浩瀚的宇宙中，也許只有包含數千億顆星球的銀河系的復雜性能夠與我們的大腦相比。所以，我們只要關注如何使人工智能更好地服務于人類就可以了”，王萬良解釋說。

　　人工智能，簡單地說就是要研究如何使機器具有能聽、會說、能看、會寫、能思維、會學習、能適應環境、能模擬人的思維、技能來解決各種面臨的實際問題等功能的一項技術。王萬良解釋說：“就像駕駛汽車側方停車時，如果按照傳統的控制方法，需要建立汽車運動模型、計算輪胎的摩擦力及倒車角度，需要精確地控制才能成功停車，但是現實生活中，沒有哪個駕駛員是這樣停車的，他們既沒有算，也沒有分析，而是憑借簡單的規則、積累的經驗和預估能力停車入庫的。所以，怎么樣模擬人的思維去解決這些復雜的問題，是人工智能最核心的地方。”

　　但是，反過來，為什么向人學習，卻在有些方面超越了人類呢?王萬良認為，最主要是因為人工智能有強大的記憶與計算能力。例如下棋，不僅需要參賽者具有超凡的記憶能力、豐富的下棋經驗，而且要求有強大的思維能力，能對瞬息萬變的隨機情況迅速地做出反應，及時采取有效的措施，而人工智能因為存儲了人類的大量對戰經驗，以及人類無法匹敵的強大搜索、運算能力，短時間內可以做出精密的計算，這才出現Deep Blue戰勝國際象棋棋王卡斯帕羅夫，AlphaGo戰勝圍棋世界冠軍李世石。“但是，這不代表人工智能就超越了人類，李世石除了下圍棋，還有人類特有的創新能力和想象力，具有千萬種可能，但是AlphaGo只能專注于圍棋這一方面，只是在圍棋博弈這單項技能上超越人類。當然，人工智能研究博弈的目的并不是為了讓計算機與人進行下棋、打牌之類的游戲，而是通過對博弈的研究來檢驗某些人工智能技術是否能實現對人類智慧的模擬，從而促進人工智能技術進一步的研究。”

　　人工智能技術的產業應用

　　很多人認為，人工智能離我們很遙遠，只是出現在新聞中的新名詞而已。其實，人工智能中的多項技術早已廣泛應用于各類產業中。王萬良表示，工業領域的人工智能運用能對社會進步產生強大推動力，特別是在專業領域專家稀少，又或者工作環境惡劣的情況下。他斷言，人工智能將是未來產業的核心，“現在如果連人工智能都不重視，就像以前不重視互聯網，將會失去未來產業的制高點。”

　　機器視覺技術。其中最廣為人知的，應該是無人自動駕駛技術。谷歌的自動駕駛車，2009年曝光雛形至今的7年時間里，已經累計行駛了140多萬英里。今年2月，美國國家公路安全交通管理局聲明谷歌自動駕駛汽車內部的計算機可被視為“駕駛員”。

　　機器翻譯技術。眾所周知，人工的同聲翻譯價格昂貴，質量卻不能完全保證。20世紀50年代機器翻譯就是人工智能研究的重要領域，由于不斷的失敗也導致了當年人工智能研究跌入低谷。而2012年11月，微軟在天津公開演示了全自動的同聲傳譯系統：講演者用英文演講，后臺的計算機一氣呵成自動完成語音識別、英中機器翻譯，以及中文語音合成，效果非常流暢。“現在，機器翻譯已經可以做到實用化、商品化了。”王萬良說。

　　深度學習技術。深度學習技術包含構建能夠模仿人類大腦行為的神經網絡。這些多層次的神經網絡像人類大腦一樣，可以收集信息，逐漸對事物的外形和聲音進行感知和理解并產生相應的行為。2012年6月，《紐約時報》披露斯坦福大學AI實驗室主任吳恩達(Andrew Ng)領導的人工智能領域目標最遠大的項目Google大腦——Google Brain，使用 16000 臺CPU創造出 10 億個連接的“神經網絡”，讓機器系統學會自動識別貓，成為國際深度學習領域廣為人知的案例之一。“這是現在最受業界關注的技術之一，驅使谷歌、IBM、微軟、蘋果、百度等公司競相開發高級機器學習技術的原因，正是其背后蘊藏的巨大商業潛力。”王萬良舉例說，2013年1月，李彥宏宣布百度將建立公司歷史上首個前沿科學研究機構——深度學習研究院(IDL);隨后，在硅谷毗鄰谷歌總部設立人工智能實驗室，主要任務之一就是探索深度學習算法;2014年5月，百度又宣布人工智能領域最權威的學者之一——吳恩達正式加盟百度，擔任百度首席科學家，全面負責百度研究院。

　　專家系統技術。專家系統是基于知識的系統，用于在某種特定的領域中運用領域專家多年積累的經驗和專業知識，通過推理求解需要專家才能解決的困難問題。例如，診斷型專家系統能根據取得的現象、數據或事實推斷出系統是否有故障，并能找出產生故障的原因，給出排除故障的方案。這是目前開發、應用最多的一類專家系統，醫療診斷、機械故障診斷、計算機故障診斷等都是此類專家系統。又如預測型專家系統，可以根據過去和現在的數據和經驗信息推斷可能發生和出現的情況。王萬良說：“天氣預報專家系統就是其中的一種。我們在電視臺播放的天氣預報中看到的衛星云圖，只是為了讓民眾有更直觀的了解才放的，而真正的天氣預報實際上是積累了前期大量的氣象資料，然后通過氣象預報專家系統做了大量運算才得出的。”

　　智能控制技術。其中的模糊控制是以模糊數學為基礎，運用語言規則表示方法和先進的計算機技術，由模糊推理進行決策的一種高級計算機控制策略。比如，應用模糊控制技術的全自動洗衣機，能夠根據所洗衣服的數量、種類和臟的程度等自動確定水的多少、水流的強度和洗衣的時間等控制參數，以達到在洗干凈衣服的前提下盡量不損傷衣服、省電、省水、省時等目的。

　　智能制造技術。美國瓦德瓦教授曾提出，人工智能、機器人、數字制造技術相結合的智能制造，將會發生一場制造業的革命。智能制造過程的各個環節廣泛應用人工智能技術，實現制造過程智能化：專家系統用于工程設計、工藝設計、生產調度、故障診斷等;神經網絡和模糊控制等計算智能應用于產品配方，生產調度等;通過人與智能機器的合作共事，去擴大、延伸和部分地取代人類專家在制造過程中的腦力勞動。

　　中國發展人工智能要先做好推廣

　　王萬良特別提到，中國要發展人工智能，首先要從推廣這項技術入手，“別看現在炒得熱火朝天，但是其實真正了解人工智能的人還很少，尤其是企業家們，知道的更少，所以目前最重要的工作是大力普及人工智能技術，各大高校要注重人工智能教學。應用人工智能技術，先要做到‘想到’，之后才是‘做到’。”

　　何為“想到”?王萬良說：“我經常對學生說，我開人工智能的課程不是要讓你們現在能夠‘做到’，主要目的有兩個：一是讓你們以后面對一些復雜的工程問題時‘想到’應用什么人工智能技術來解決;二是為今后深入自學需要掌握的人工智能技術打下基礎。這比‘做到’更重要，因為只有‘想到’了，才可能逐步去‘做到’。師傅領進門，修行看個人，在學習了人工智能的基本理論與方法后，就有了自學能力，再進一步研究時就不會毫無頭緒，不得要領了。”

　　那么，已經做到了“想到”，也進行自我深度學習后，還是無法“做到”時又該怎么辦呢?王萬良說：“這樣的情況非常常見，作為企業老板甚至技術人員，并不代表什么都會，但是他們知道有‘人工智能’這項技術，世界上最先進的產品用的是什么技術，就可以聘請這方面的專家來解決問題。百度、谷歌等知名企業也是如此，所以，對于中國企業來說，推廣應用人工智能技術不可忽視。”

如果您現在遇到期刊選擇、論文內容改善、論文投稿周期長、難錄用、多次退修、多次被拒等問題，可以告訴學術顧問，解答疑問同時給出解決方案 。