內容摘要：當人工智能因深度學習而從他律系統轉化為自律系統，特別是在人工智能網絡之間的相互作用及其連鎖反應不斷進行的情況下，黑箱化和失控的風險會不斷增大。“透明社會”與“黑箱算法”，這是數據驅動社會的一對根本矛盾，對國家治理方式的改革提出了新的挑戰，也提供了新的機遇。為此，如何對人工智能進行適當的、合理的、充分的規制，確立人工智能開發的規則、倫理以及政策就勢必成為極其重要并非常緊迫的一項課題。國務院印發的2017年《新一代人工智能發展規劃》提出了人工智能發展的中國式制度安排以及九條主要原則，與國際社會已經形成的基本共識是相洽的;但在不同價值取向發生沖突時，怎樣決定取舍的元規則和優先順序還有待進一步明確。為了在甄別和防范風險的同時保護人工智能開發的積極性和創造性，有必要更多地采取軟法方式，而不是簡單地提高硬法的懲戒力度。

　　關鍵詞：數字驅動 風險社會 人工智能網絡化 軟法與硬法 數據格式標準化

　　《模式識別與人工智能》雜志級別：北大核心 科技統計源核心 CSCD，主辦單位：中華醫學會，周期：月刊，國內統一刊號：11-2338/R。

　　前言：人工智能的網絡化與互聯互通

　　“走得太快了，靈魂跟不上”——這是一個游牧部族的古訓，也可以用來描述人工智能開發在中國突飛猛進卻隱患頻仍、局部失序的現狀。〔1 〕

　　從自動駕駛的汽車到機器人運營的酒店，從電腦量刑到高頻度金融交易，人工智能已經滲透到經濟、政治、社會生活的各個方面，各種新奇事物層出不窮。〔2 〕但是，對由此產生的風險以及必要的對策和規制方式，我們還缺乏足夠的認識和深入研討。人工智能的開發和利用大都還處于高速增長階段，相關的制度條件尚不完備，在很多重要方面還沒有制定明確的、適當的、統一的倫理標準、法律原則、規則、規格以及政策。我們不能讓這樣的事態長期持續下去，否則將留下嚴重的后患。2017年7月21日由國務院印發的《新一代人工智能發展規劃》已經指出研究相關法律問題和建立問責制度的必要性，提出了一些重要舉措。當然，人工智能開發的具體規制方式和規范內容還有待進一步充實、完善。

　　實際上，艾薩克·阿西莫夫早在1942年發表的科幻短篇小說《轉圈跑》中，就曾經提出了關于防止機器人失控的三大定律，即機器人不得傷害人或者對人受到傷害袖手旁觀;機器人必須服從人的指令，除非該指令危害到人;在遵循上述兩條定律的前提條件下，機器人必須保護自己。〔3 〕后來，為了避免允許機器人劫法場之類的邏輯漏洞，他在《機器人與帝國》中又追加了一條零定律：“機器人不得加害于人類整體或者因為坐視危機而加害人類整體”。〔4 〕這些富于靈感和遠見的主張為人工智能開發的規制展現了基本思路和雛形，對后來的制度設計產生了深刻影響，但卻不能充分反映當今社會的嶄新狀況和需求。

　　為了正確把握人工智能在全世界的發展趨勢以及問題群，我們首先需要對產業革命的進程進行簡單的回顧。

　　迄今為止，人類社會經歷了四次重大產業革命，采取了不同的基本生產方式。首先是機械化生產方式，由蒸汽機和紡織機的發明而啟動，從18世紀后期持續到19世紀前期。其次是電氣化生產方式，因電力和石油以及高度分工引發，從19世紀后期持續到20世紀前期。接著以產業機器人的研發為契機，〔5 〕從20世紀60年代開始出現了自動化生產方式，其驅動力量是半導體、電腦以及互聯網。就在這個階段，人工智能的研究開始出現幾經起伏的熱潮。

　　初級的人工智能只不過是裝載了控制程序的家用電器，例如具有自動調節功能的洗衣機、冰箱以及電動剃須刀。較高級的人工智能則是裝載了知識數據庫的推理和探索系統，例如象棋程序、掃地機器人以及對話軟件。更高級的人工智能搭載檢索引擎，可以按照既定算法進行機械學習，包括各種實用的專家系統。〔6 〕現在我們通常所說的人工智能大多數就是指具有機械學習功能的計算機信息處理系統。

　　至此我們迎來了大數據時代，新的產業革命條件也開始日漸成熟。〔7 〕21世紀初由萬物互聯互通、大數據、人工智能引發的智網化生產方式，可謂第四次產業革命。正在進行中的這次產業社會的結構轉型是以數據驅動和人工智能網絡化為基本特征的。其主要構成因素有如下三項。

　　第一，物聯網(簡稱IOT)。物聯網導致數據的生成、流通、積蓄并不斷增大，通過數據合作實現最合理化的供應鏈，可以針對顧客個人需求進行產品和服務的創新。

　　第二，由物聯網形成和積累而成的大數據。對物聯網而言，大數據的收集和運用是關鍵，而大數據具有經濟價值，甚至被認為是一種新型通貨。大數據也使得個人生活狀態變得非常透明化，甚至可以說我們面對的是一個極端化的“透明社會”。

　　第三，人工智能。沒有人工智能，大數據的收集和運用都不可能實現，而基于大數據的機械學習和深度學習又給人工智能帶來質變，可以不斷開發新產品、新服務，并且大幅度提高效率和質量。

　　這三種因素互相作用、相輔相成，推動人工智能網絡化程度不斷加深，促進現實空間與虛擬空間之間互動和反饋的關系不斷增殖，形成一種具備控制力的信息實體交融系統(簡稱CPS)。在這樣的背景下，以多倫多大學開發的圖像識別系統Super Vision以及谷歌的貓臉識別項目為標志，人工智能也從2012年開始進入了能夠自己進行“特征表現學習”(深度學習)的嶄新時代，為歷史性突破提供了重要契機。〔8 〕

　　在人工智能的網絡化和萬物互聯互通的時代，阿西莫夫關于防止機器人失控的三大定律和零定律就顯得有些捉襟見肘了。從控制程序、知識數據庫到檢索引擎，人工智能都必須按照人給出的指令或算法來運行。在機械學習階段，即便有非常龐大的數據，人工智能也不會自動學習，需要有人來提供數據的特征量和規格化方式才能進行學習和預測;通過機械學習，人工智能可以提供更高的精確度，但卻很難對復雜的、模糊的問題進行判斷。然而當機械學習的數據輸入不間斷地高速進行時，對輸出的預測就會變得非常困難。而在深度學習的場合，人工智能系統不僅按照算法進行數據處理，還采取多層次腦神經網絡的模型和方法，能從大數據中發現和提取特征量，揭示迄今為止未知的問題、樣式、結構以及原理，從而具有更高的自主性，因而更類似具有條件反射能力的動物或者自由意志的人。