【摘要】 針對(duì)人工智能發(fā)展的現(xiàn)狀，著重分析如下問(wèn)題：第一,智能與人工智能的概念；第二，人工智能發(fā)展背后的哲學(xué)意義，其中包括人工智能發(fā)展的本體論與認(rèn)識(shí)論意義、人工智能發(fā)展面臨的倫理學(xué)和政治哲學(xué)問(wèn)題；第三，人工智能可能帶來(lái)的社會(huì)治理問(wèn)題，以及若干可以參考的治理建議。

【關(guān)鍵詞】人工智能 科學(xué)技術(shù)哲學(xué)  意義  治理建議

【中圖分類號(hào)】TP311                           【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2018.10.002

2016～2017年可以說(shuō)是“人工智能”年。在這近兩年的時(shí)間里，以阿爾法狗（AlphaGo）及其系列為代表的“人機(jī)大戰(zhàn)”開(kāi)啟了人工智能熱，從學(xué)術(shù)界到企業(yè)界，從精英到平民，大街小巷所談的大多是“人工智能”。其中，最主要的話題就是人工智能是否會(huì)超過(guò)人類，甚至?xí)纬?ldquo;人機(jī)雜合體”，從而變成新新人類，奴役或取代現(xiàn)在的人類。對(duì)于人工智能及其發(fā)展眾說(shuō)紛紜，其中既有深刻之見(jiàn)，也有淺陋之言，不管如何，討論背后都蘊(yùn)含著極為深刻的意義，如不深入揭示，則可能有意無(wú)意地產(chǎn)生某種遮蔽，因此有必要進(jìn)一步討論這個(gè)重大問(wèn)題。

關(guān)于人工智能的概念分析

人工智能，這個(gè)概念的內(nèi)涵與外延其實(shí)都非常豐富。

首先是智能（intelligence）概念。何為智能，眾說(shuō)紛紜：就內(nèi)涵而言，智能是一個(gè)歷史和心理測(cè)評(píng)概念，主要是比對(duì)整體人類智力發(fā)展水平，以及依據(jù)一定的問(wèn)題求解比對(duì)個(gè)體智力發(fā)展水平；智能概念是一種測(cè)評(píng)、手段性的概念，運(yùn)用最多的是以人類智力發(fā)展水平比對(duì)其他物種特別是靈長(zhǎng)類動(dòng)物的問(wèn)題求解能力如何；肖恩·萊格與胡特一起提出了對(duì)智能的理解——智能就是在各種各樣的紛繁復(fù)雜的環(huán)境中實(shí)現(xiàn)目標(biāo)的能力（集智俱樂(lè)部，2015：122）。實(shí)際上，以上對(duì)于“智能”的定義和理解，是一種功能意義或行為主義的理解。這讓智能的操作變得可能，但并沒(méi)有在根本上、實(shí)質(zhì)上理解何為“智能”。人類智能實(shí)際上包含了“邏輯思維”能力、“直覺(jué)”能力、自主學(xué)習(xí)能力，以及許多應(yīng)變策略甚至犯錯(cuò)誤糾錯(cuò)的能力，就這個(gè)意義上講，人類智能是一種通用的、歷史演化的智能。人類的能力，就單個(gè)方面而言，不如許多其他物種，例如大腦協(xié)調(diào)小腦進(jìn)行奔跑及其改變路線的能力不如捕殺獵物的豹子，視覺(jué)辨別的能力（它也需要大腦的思考與理解）不如空中盤(pán)旋搜尋的鷹隼。就歷史演化而言，早期生活在野外的人類感知能力可能強(qiáng)過(guò)現(xiàn)代都市的人們的感知能力，例如，卡西爾在其著名的《人論》中就講述過(guò)原始先民對(duì)于空間的感受是一種行動(dòng)空間的感受，這種感受明顯強(qiáng)于現(xiàn)代人類，然而，他們卻沒(méi)有幾何空間或邏輯空間的理解能力；而現(xiàn)代人建立的空間概念，明顯是歐式幾何的空間，是邏輯的空間（如百度地圖，或高德地圖）。有鑒于此，下述對(duì)于智能概念的理解似乎不錯(cuò)：

1）一個(gè)人的智能就是他理解和學(xué)習(xí)事物的能力（Someone's intelligence is their ability to understand and learn things）；

2）智能是一種思考和理解的能力，而不是依賴本能或無(wú)意識(shí)地做事（Intelligence is the ability to think and understand instead of doing things by instinct or automatically，Essential English Dictionary, Collins, 1990，轉(zhuǎn)引自M. Negnevitsky，2005：1）。

其次是人工智能（Artificial Intelligence, AI）概念。自第一臺(tái)電腦誕生，人們就開(kāi)始?jí)粝胫圃煲慌_(tái)像人腦一樣會(huì)思考的機(jī)器。由于這個(gè)概念是將機(jī)器類比于人類，單指被人類建造的機(jī)器具有智力水平，具備智能，即人類建造的類似具有人之智能的機(jī)器，所以在概念上被稱為“人工智能”。一般的人工智能概念是一種測(cè)試和操作意義的概念，最典型的測(cè)試是圖靈測(cè)試。一般認(rèn)為通過(guò)了圖靈測(cè)試的人工實(shí)體是具有智能的（R. Neapolitan & X. Jiang, 2012: 2）。從功能上看，人工智能就是讓計(jì)算機(jī)完成人類心智能做的各種事情（瑪格麗特·博登，2017: 3）。

在學(xué)科技術(shù)種類上，人工智能是計(jì)算機(jī)科學(xué)的一個(gè)分支，是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門(mén)新的技術(shù)科學(xué)。它企圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器，該領(lǐng)域的研究主要包括機(jī)器人、語(yǔ)言識(shí)別、圖像識(shí)別、自然語(yǔ)言處理和專家系統(tǒng)等。人工智能從誕生以來(lái)，理論和技術(shù)日益成熟，應(yīng)用領(lǐng)域也不斷擴(kuò)大，可以設(shè)想，未來(lái)的人工智能，將會(huì)是人類智慧的“容器”，也可能超過(guò)人的智能。例如，有“現(xiàn)實(shí)版鋼鐵俠”之稱的SpaceX公司，其創(chuàng)始人埃隆·馬斯克（Elon Musk）提出“人工智能威脅論”，聲稱AI將很可能引發(fā)第三次世界大戰(zhàn)。長(zhǎng)久以來(lái)，對(duì)人工智能發(fā)動(dòng)戰(zhàn)爭(zhēng)的恐懼一直是馬斯克在公共場(chǎng)合發(fā)表言論的主論調(diào)。2017年8月，他與其他一百多人聯(lián)名簽署了一封建議信，呼吁聯(lián)合國(guó)禁止研發(fā)“機(jī)器人殺手”（能致人死亡的自動(dòng)武器）（埃隆·馬斯克，2017）。

在研究發(fā)展分類上，人工智能研究有兩類：通用人工智能（Artificial General Intelligence, AGI）研究與類腦智能（Brain-Like Intelligence, BI）研究。這是完全不同的兩類人工智能研究。

通用人工智能特別強(qiáng)調(diào)兩個(gè)特征，即強(qiáng)調(diào)與專用領(lǐng)域無(wú)關(guān)的通用性智能，強(qiáng)調(diào)具有多功能協(xié)同的整體性智能；但通用人工智能并不否認(rèn)專用人工智能的價(jià)值。目前，通用人工智能的進(jìn)展很慢，水平很低，離具有人類智能的目標(biāo)還有很長(zhǎng)的路要走。

而類腦智能主要指，“受腦啟發(fā)，以計(jì)算建模為手段，通過(guò)軟硬件協(xié)同實(shí)現(xiàn)信息處理機(jī)制上類腦、認(rèn)知行為和智能水平上類人的機(jī)器智能。目標(biāo)是使機(jī)器以類腦的方式實(shí)現(xiàn)各種人類具有的認(rèn)知能力及其協(xié)同機(jī)制，最終達(dá)到通用智能”（中科院曾毅研究員語(yǔ)）。類腦智能的進(jìn)展目前也并不是很大，用目前居于前沿的研究人員的話說(shuō)，只是萬(wàn)里長(zhǎng)征邁出了小小的半步。

就人工智能發(fā)展的階段或目標(biāo)而言，有三個(gè)。

第一，狹義人工智能（Artificial Narrow Intelligence, ANI）階段，ANI的特征：一是僅具備某項(xiàng)認(rèn)知能力，實(shí)現(xiàn)某項(xiàng)技能；二是無(wú)法推廣至實(shí)現(xiàn)其他功能。所以，狹義人工智能又稱“弱人工智能”。例如，AlphaGo圍棋程序這種人工智能，就是典型的狹義人工智能。即便是后來(lái)全新的強(qiáng)化學(xué)習(xí)算法阿爾法元——可以從零開(kāi)始，通過(guò)自我對(duì)弈精通棋藝，堪稱“通用棋類AI”——也是狹義的人工智能。凡是具有特定、專門(mén)用途的機(jī)器人，都屬于狹義人工智能，如語(yǔ)音/面孔識(shí)別、人工智能翻譯系統(tǒng)、無(wú)人機(jī)、自動(dòng)駕駛汽車、工業(yè)機(jī)器人、家用掃地機(jī)器人，等等。目前這個(gè)領(lǐng)域的人工智能發(fā)展最為迅猛，而且有望在各個(gè)領(lǐng)域獲得廣泛應(yīng)用。2016～2017年引起社會(huì)轟動(dòng)的也主要是這個(gè)方面，這也是人工智能界發(fā)展的主流目標(biāo)。

第二，通用人工智能階段，又稱為強(qiáng)人工智能階段，即指具有人類水平的人工智能。它的主要特征：一是具備所有的人類認(rèn)知能力；二是可以由同一智能系統(tǒng)執(zhí)行不同的認(rèn)知功能。這個(gè)階段的研究正在展開(kāi)，但是目前遠(yuǎn)未達(dá)到其愿景目標(biāo)。

第三，超級(jí)人工智能（Artificial Super Intelligence, ASI）階段，其預(yù)期的主要特征：一是在所有領(lǐng)域超過(guò)人類；二是所有的認(rèn)知效率超過(guò)人類認(rèn)知。這個(gè)階段還遠(yuǎn)未到來(lái)，是一種遙遠(yuǎn)的未來(lái)預(yù)期。而且，究竟是否需要把人工智能發(fā)展到此階段，目前存在重大爭(zhēng)議。

人們對(duì)人工智能的爭(zhēng)論恰好就處于這樣的境地：身處人工智能發(fā)展的第一階段、初級(jí)階段，即狹義人工智能階段，而思想已經(jīng)飛躍到第三階段，即超級(jí)人工智能階段，想象著這種強(qiáng)大無(wú)比的人工智能是否會(huì)取代人類，或奴役人類。人們既想發(fā)展人工智能代替人力勞作與思考，又擔(dān)憂有一天強(qiáng)大的人工智能把人類作為自己的奴隸而奴役。大多數(shù)人工智能專家不主張發(fā)展強(qiáng)人工智能，當(dāng)然也會(huì)有人工智能專家認(rèn)為應(yīng)該發(fā)展，不用擔(dān)憂。

關(guān)于人工智能發(fā)展背后的深刻哲學(xué)意義

人工智能發(fā)展的本體論與認(rèn)識(shí)論意義。人工智能，是人類創(chuàng)造的機(jī)器智能，首先仍涉及這個(gè)智能為何種智能的認(rèn)識(shí)論問(wèn)題——是類似人的智能還是非人的機(jī)器或其他類型的智能。這涉及發(fā)展人工智能是否必須依賴于人類智能，或者必須仿造人類智能而去“克隆”機(jī)器。其次，人類能否發(fā)展非人的“其他人工智能”？假如我們不是按照本體論的意義定義人工智能，而是從功能角度定義人工智能，那么，比人解決問(wèn)題更為快速、更為清晰和更為強(qiáng)大的智能就是我們需要的智能，狹義的人工智能是可以實(shí)現(xiàn)這一目標(biāo)的。智能的核心是意識(shí)，是心智，讓人工智能具有類似人的意識(shí)，或者非人的意識(shí)，或者超人的意識(shí)，實(shí)在是一個(gè)極為深刻但又極難的問(wèn)題。類腦人工智能走的道路是發(fā)展類似人類的智能，但是其他人工智能研究走的路線不一定是類人的路線，就功能主義而言，其他人工智能解決某種類型問(wèn)題的能力，可以肯定的說(shuō)，必然超越人類；因?yàn)?，人工智能在可形式化的、可表征化的?shù)據(jù)處理方面，的確大大地強(qiáng)于人類，而且這種優(yōu)勢(shì)仍然在不斷地?cái)U(kuò)大。這在本體論意義上并不可怕，可怕的是其社會(huì)學(xué)意義，這意味著它替代了人類許多行業(yè)，可能引起大規(guī)模失業(yè)。而事實(shí)上，人工智能之所以能夠讓大量的人失業(yè)，是因?yàn)樗_實(shí)在各個(gè)產(chǎn)業(yè)內(nèi)巨幅降低成本，從而增加更大利潤(rùn)空間。在這個(gè)意義上說(shuō)，引起大規(guī)模失業(yè)，問(wèn)題不在人工智能本身，而在資本的利益驅(qū)使。這類問(wèn)題是社會(huì)如何預(yù)先應(yīng)對(duì)失業(yè)和風(fēng)險(xiǎn)、管控資本的野心的問(wèn)題，而不是產(chǎn)生新的“物種”可以奴役人類的問(wèn)題。

人工智能專家試圖在本體論上解決此類問(wèn)題的研究進(jìn)路，即類腦人工智能研究進(jìn)路。所謂類腦，就是讓人工智能在結(jié)構(gòu)機(jī)理上與人腦相似；在實(shí)現(xiàn)機(jī)理上全部采用類腦神經(jīng)網(wǎng)絡(luò)，使之在網(wǎng)絡(luò)結(jié)構(gòu)、腦區(qū)、神經(jīng)環(huán)路、神經(jīng)元功能和計(jì)算模式上接近人腦，而且從單任務(wù)態(tài)向多任務(wù)、多通道、多腦區(qū)協(xié)同處理發(fā)展。此外，類腦還表現(xiàn)在認(rèn)知行為上類人，即能感知現(xiàn)實(shí)世界，并對(duì)環(huán)境做出實(shí)時(shí)反應(yīng)，自適應(yīng)能力不斷增強(qiáng)；能對(duì)不同類型的問(wèn)題進(jìn)行識(shí)別，設(shè)計(jì)問(wèn)題求解步驟，自行解決問(wèn)題；從自主學(xué)習(xí)過(guò)程上模仿人，包括學(xué)習(xí)人類動(dòng)作。通過(guò)類人的智能行為實(shí)現(xiàn)與現(xiàn)實(shí)世界人—機(jī)—物的持續(xù)交互、不斷地自主學(xué)習(xí)、自主地智能生長(zhǎng)與演化。所以，從哲學(xué)上看，類腦人工智能的科學(xué)發(fā)展方向就是通過(guò)類腦機(jī)理研究達(dá)到類人行為上的強(qiáng)人工智能；其他人工智能研究，包括通用人工智能，基本上是一種功能主義的研究，即人工智能在解決問(wèn)題的領(lǐng)域足以和人類一樣聰明，或比人類更強(qiáng)。問(wèn)題在于，我們?nèi)祟愒诿鎸?duì)未來(lái)時(shí)，是否會(huì)滿足于有一個(gè)只在功能主義意義上解決問(wèn)題的“伙伴”，這個(gè)答案分析起來(lái)其實(shí)也是極其復(fù)雜的。我們手里握有一個(gè)智能手機(jī)時(shí)，通常會(huì)滿足于它是一個(gè)功能主義的“工具”，是為我所用的工具。但是我們對(duì)面有一個(gè)“人”，它是你的智能助手，或是在未來(lái)社會(huì)里（假定實(shí)現(xiàn)了通用人工智能）你偶遇的一個(gè)聊得開(kāi)心的“人”，你想要判斷它是人還是非人嗎？這是否是一個(gè)問(wèn)題呢？是否是一個(gè)極其重要的先決條件呢？人工智能所涉及的認(rèn)識(shí)論或本體論問(wèn)題，就是它是否具有人的意識(shí)與身體。近年來(lái)，反對(duì)人工智能一定要具有人之意識(shí)的人，從認(rèn)知科學(xué)哲學(xué)角度提出涉身認(rèn)知觀點(diǎn)，認(rèn)為機(jī)器不可能具有人之肉身，因此機(jī)器永遠(yuǎn)不可能有人的意識(shí)與智慧。但是如果意識(shí)如同軟件可以上載到不同硬件上的觀點(diǎn)可以成立的話，那么，機(jī)器意識(shí)依然是可能的。

由于有上述擔(dān)心，所以有人提出一種解決方案，即以實(shí)施人機(jī)結(jié)合的方式，如腦機(jī)接口，生成某種半人—半機(jī)器的“人”（賽博格），這被稱為“人機(jī)協(xié)同的混合增強(qiáng)智能”。在某個(gè)微信公眾號(hào)上關(guān)于該不該研究強(qiáng)人工智能的爭(zhēng)論中，有學(xué)者認(rèn)為，人機(jī)融合可以讓人的智能和機(jī)器的智能協(xié)同發(fā)揮作用。人有知識(shí)，機(jī)器長(zhǎng)于采集數(shù)據(jù)；人有經(jīng)驗(yàn)和常識(shí)，機(jī)器則長(zhǎng)于進(jìn)行公理推理；人有直覺(jué)，而機(jī)器長(zhǎng)于邏輯。當(dāng)人和機(jī)器有了足夠的默契，人能理解機(jī)器如何看待世界，而機(jī)器也能熟悉人的所思所想，未來(lái)的機(jī)器也可以有一些特殊特定的意向性（彌補(bǔ)人類認(rèn)知的不足），而當(dāng)兩者成為搭檔甚至知己時(shí)，強(qiáng)人工智能也就到來(lái)了。“人機(jī)協(xié)同的混合增強(qiáng)智能”作為人工智能2.0的一個(gè)重要方向，旨在通過(guò)人機(jī)交互和協(xié)同，提升人工智能系統(tǒng)的性能，使人工智能成為人類智能的自然延伸和拓展；通過(guò)人機(jī)協(xié)同更加高效地解決復(fù)雜問(wèn)題，具有深刻的科學(xué)意義和巨大的產(chǎn)業(yè)化前景。人機(jī)融合還受到了開(kāi)始于2000年的四大融合技術(shù)（納米技術(shù)[Nanotechnology]、生物科技[Biotechnology]、認(rèn)知科學(xué)[Cognitive Science]和信息技術(shù)[Information Technology]）觀念發(fā)展的支持。但是，在本體論和認(rèn)識(shí)論上，這種方案仍然有一些需要討論的問(wèn)題。首先，如何融合？是一種松散地聯(lián)合還是在硬件上緊密地融合？其次，融合中誰(shuí)起主導(dǎo)作用，是“人的部分”指揮“機(jī)器的部分”，還是相反？（Weld D.S.; Mausam C.H.L. and Bragg J., 2015: 89）

由此可見(jiàn)，人工智能的發(fā)展在理論上和實(shí)踐上都面臨一大堆問(wèn)題。那種對(duì)于人工智能發(fā)展的極端擔(dān)心、狂熱追捧，以及不加分析的一概而論的意見(jiàn)，都如同一個(gè)硬幣兩面中的一面，都是不切實(shí)際的，都無(wú)法透徹理解人工智能及其發(fā)展帶來(lái)的社會(huì)問(wèn)題。我們需要細(xì)致、深入的思考。

人工智能發(fā)展面臨的倫理學(xué)和政治哲學(xué)問(wèn)題。人們對(duì)人工智能發(fā)展最主要的擔(dān)心，是人工智能強(qiáng)大到奴役人類。而關(guān)于奴役的思想，源自人類本身。這種擔(dān)心其實(shí)不僅有深刻的人類中心主義的觀念，而且?guī)в袕?qiáng)烈的、根深蒂固的“等級(jí)—區(qū)隔”的政治哲學(xué)觀念。在進(jìn)化論的視野里，人類這種高等靈長(zhǎng)類的智能似乎居于所有智能最高等級(jí)的位置。人類對(duì)其他物種的支配、使用或奴役，似乎有一種自然正確性（natural right）。人類還把這種自然權(quán)利置于生命安排中，似乎有一種自然的等級(jí)制度或秩序、一種天然的高等生命支配低等生命的權(quán)力與秩序。這是人類中心主義的理念。在人類社會(huì)，平等、自由本來(lái)應(yīng)該是一個(gè)民主社會(huì)的共有理念，社會(huì)主義社會(huì)作為民主社會(huì)的一類也不例外。人生而平等，是人權(quán)的基本原則。但人類中心主義的“等級(jí)—區(qū)隔”理念何以滲透到人類社會(huì)中呢？福柯、阿倫特以及近年來(lái)的阿甘本都分析過(guò)這種等級(jí)鑲嵌的權(quán)力如何以“政治正確”的名義滲透到生命層面、物種層面和種族層面。不僅如此，人類在自己的生活和社會(huì)內(nèi)部也進(jìn)一步制造并隱秘地實(shí)施這種“等級(jí)—區(qū)隔”，把社會(huì)達(dá)爾文主義視為當(dāng)然。例如，第二次世界大戰(zhàn)期間的納粹，就把猶太人視為低等的人、“人類中的渣子”，把猶太人從人類中“區(qū)隔”出去，關(guān)入集中營(yíng)，甚至實(shí)行集體屠殺。“人—動(dòng)物”關(guān)系中的等級(jí)制人類中心主義在這里變成了“人—人”關(guān)系中區(qū)隔性的人類等級(jí)主義，在這種觀念看來(lái)，低端的人是可以驅(qū)逐的，沒(méi)有什么不妥，這種思想也可以合適地移植到“人—機(jī)”關(guān)系中。

人工智能中“人工”（artificial）一詞的含義，已經(jīng)清晰地表明，人工智能是人創(chuàng)造的，因此，創(chuàng)造出來(lái)的人工智能是為人服務(wù)的。如吳冠軍認(rèn)為robot應(yīng)該譯為“機(jī)奴”，事實(shí)上人類一開(kāi)始就把機(jī)器人看成為人服務(wù)的“機(jī)奴”（吳冠軍，2017a）。我們害怕機(jī)器人超越人類，對(duì)人類實(shí)施奴役，而提倡對(duì)人工智能的智能進(jìn)行倫理規(guī)范以形成機(jī)器人的“善智”，吳冠軍甚至認(rèn)為“善智”實(shí)則是讓機(jī)器人更好地成為服服帖帖的“機(jī)奴”。換言之，人工智能作為智能即使再發(fā)展，也應(yīng)該是一種低于人類、為人類服務(wù)的智能。所以，這仍然是一種政治學(xué)意義上的人類中心主義統(tǒng)治下的人工智能發(fā)展方案，或是阿甘本意義上的“人類學(xué)機(jī)器”的體現(xiàn)（吳冠軍，2017b）。

在人工智能的發(fā)展中，人們還擔(dān)心人工智能會(huì)取代人類社會(huì)的許多職業(yè)。人們從許多角度解讀這種取代的可能性，預(yù)測(cè)被取代工作、職業(yè)的種類，然而很少有人從政治哲學(xué)的視角看待這種可能的取代。

“取代”有兩個(gè)政治哲學(xué)后果。第一，被取代的工作，據(jù)說(shuō)都是低端的、可以成規(guī)模的、無(wú)法個(gè)性化的工作，如出租汽車司機(jī)，被取代工作的這類人群，從此成為“閑人”；而且當(dāng)代所謂高端的工作、職業(yè)，如醫(yī)生、律師，也可能被人工智能取代。這必定使大量的人口落入被取代的人群，從而加速了政治哲學(xué)意義上的“等級(jí)—區(qū)隔”，這意味著，人類的等級(jí)從符號(hào)性社會(huì)學(xué)層面轉(zhuǎn)變成為真實(shí)的生物學(xué)/人類學(xué)層面。第二，取代還意味著種類的變化，這種取代更為可怕，因?yàn)樗赡苁侨藱C(jī)協(xié)同的混合增強(qiáng)智能取代純粹生物學(xué)的人。加上器官移植、再生醫(yī)學(xué)、基因工程等技術(shù)，人之中的一小部分“權(quán)—貴”則可能在生物學(xué)+人工智能融合的新生命體系中完全不同于現(xiàn)在的人類。所以，如何使全人類具有平等機(jī)會(huì)享受最新科技帶來(lái)的利益，才是最新科技，特別是人工智能發(fā)展的最好“善治”。

而且，在有平等機(jī)會(huì)享受人工智能帶來(lái)的利益的同時(shí)，人類需有勇氣考慮，人工智能的非人智能和非人“意識(shí)”的研究是否可能呈現(xiàn)或凸顯出來(lái)。這是一種非人類中心主義視角的思考。當(dāng)然，其可能的風(fēng)險(xiǎn)評(píng)估也需要在研究進(jìn)行中提早納入議事議程。

關(guān)于人工智能可能帶來(lái)的社會(huì)問(wèn)題與社會(huì)治理

人工智能可能帶來(lái)的社會(huì)變化與社會(huì)問(wèn)題。人工智能超越人類、可能奴役人類的問(wèn)題還可能比較久遠(yuǎn)，目前對(duì)人類社會(huì)構(gòu)不成威脅；而且人工智能的發(fā)展并非都是不好的，也有利好人類社會(huì)的可能性與現(xiàn)實(shí)，所以我們需要提前了解和密切關(guān)注人工智能研究的理論進(jìn)展與實(shí)踐研究進(jìn)展。目前大多數(shù)狹義人工智能的研究都是基于利好人類社會(huì)的工作的，比如智能機(jī)器人可以用于救災(zāi)，如核泄漏；可以用于家庭服務(wù)和養(yǎng)老，如語(yǔ)音/面孔識(shí)別、人工智能翻譯，還有無(wú)人機(jī)、自動(dòng)駕駛汽車、工業(yè)機(jī)器人、家用掃地機(jī)器人，等等。大略來(lái)說(shuō)，人工智能可能給社會(huì)帶來(lái)這樣一些變化。

第一，一些重復(fù)性強(qiáng)的工業(yè)化研究與生產(chǎn)，可能越來(lái)越被智能機(jī)器取代。其實(shí)這個(gè)過(guò)程早就開(kāi)始了，比如越來(lái)越多的公司，其真正在一線工作的工人越來(lái)越少，而且工人也越來(lái)越需要知識(shí)化。有些行業(yè)整體失業(yè)發(fā)生的概率由于人工智能的介入而加大了。這是第一級(jí)效應(yīng)。這一級(jí)效應(yīng)還可能引發(fā)更大的、更深的效應(yīng)，如“蝴蝶效應(yīng)”那樣波及其他相關(guān)行業(yè)和社會(huì)生活的方方面面。特別是人工智能可能帶來(lái)工作的本質(zhì)改變（杰瑞·卡普蘭，2016：xviii）。

第二，用于利好人類社會(huì)的人工智能也可能被濫用。如智能識(shí)別（語(yǔ)音和圖像識(shí)別），也可能被用于破解識(shí)別碼、安全鎖和網(wǎng)上支付系統(tǒng)。再比如，智能無(wú)人機(jī)，可以民用，也可以軍用，最近一些人士呼吁禁止發(fā)展自主性智能無(wú)人機(jī)，表明這種濫用并非沒(méi)有可能。這些人工智能在社會(huì)生活方方面面可能濫用的現(xiàn)象，從根本上來(lái)說(shuō)，取決于高端的人工智能研究人員的職業(yè)倫理和職業(yè)行規(guī)。

第三，人工智能的使用可能帶來(lái)人類社會(huì)等級(jí)區(qū)隔的加大。如果馬斯克等人設(shè)想的人機(jī)融合的四大技術(shù)能實(shí)現(xiàn)，那么就可能在資本—權(quán)力的人為社會(huì)等級(jí)之上，再進(jìn)一步增加生物—機(jī)器智能的生物等級(jí)區(qū)隔，由此造成不同的“新人類”。這些“新人類”的出現(xiàn)雖然就其整體而言似乎還是個(gè)神話，但是局部的生物—機(jī)器融合其實(shí)已經(jīng)開(kāi)始，如給大腦植入芯片、給肌肉加裝增強(qiáng)技術(shù)產(chǎn)物。這種局部的人機(jī)融合的“賽博格”的出現(xiàn)，有極強(qiáng)的兩面性：一方面它可以補(bǔ)全患有盲視、失聰、肢體缺失以及癱瘓的人的機(jī)能；另一方面，當(dāng)它用于所謂的健康人身上，則極大地增強(qiáng)了人的能力，使人類物種中出現(xiàn)了一種“增強(qiáng)人”——賽博格，如同體育比賽中吃了增強(qiáng)藥物的運(yùn)動(dòng)員，可以跑得更快，跳得更高，有更為持久耐用的身體。這對(duì)沒(méi)有吃增強(qiáng)藥物的運(yùn)動(dòng)員的公平性可想而知。表面上帶來(lái)的新的社會(huì)不公平問(wèn)題，實(shí)際上是造成了人類物種的新生物—機(jī)器的不平等區(qū)隔。

人工智能發(fā)展的社會(huì)治理。如上所說(shuō)的人工智能發(fā)展的社會(huì)問(wèn)題只是冰山一角，人工智能的發(fā)展勢(shì)不可擋，因此有必要對(duì)人工智能的發(fā)展未雨綢繆，及早做出可能的社會(huì)治理預(yù)案。

第一，謹(jǐn)慎研究和發(fā)展人工智能，建立有區(qū)別的人工智能研究與發(fā)展行業(yè)政策。

當(dāng)代人工智能的研究勢(shì)在必行。各國(guó)在權(quán)力與資本逐利過(guò)程中，不可能不發(fā)展人工智能，就科學(xué)研究而言，也不可能在研究上過(guò)早設(shè)置禁區(qū)。人工智能不同類型的研究（如狹義人工智能、通用人工智能、類腦人工智能、人機(jī)結(jié)合等），不同發(fā)展階段的研究（弱人工智能、強(qiáng)人工智能、超級(jí)人工智能），不同行業(yè)的研究（一般工業(yè)、特殊工業(yè)、民用和軍用），都應(yīng)該建立相應(yīng)的人工智能研究政策、行業(yè)規(guī)則以及相應(yīng)的倫理規(guī)約。我們不僅要關(guān)注國(guó)際人工智能界的研究進(jìn)展，同步建立相應(yīng)的研究與發(fā)展政策，而且應(yīng)該提早研究由研究和發(fā)展人工智能帶來(lái)的各類社會(huì)風(fēng)險(xiǎn)問(wèn)題，特別是人工智能在應(yīng)用到不同行業(yè)、不同領(lǐng)域和不同部門(mén)時(shí)可能帶來(lái)的社會(huì)風(fēng)險(xiǎn)（物質(zhì)安全、信息安全和網(wǎng)絡(luò)安全）。在可以大力發(fā)展人工智能的領(lǐng)域，也需要研究相應(yīng)的可能的社會(huì)風(fēng)險(xiǎn)。

第二，認(rèn)真研究和注意人工智能發(fā)展的環(huán)境代價(jià)與效應(yīng)。任何工業(yè)制造業(yè)都有環(huán)境效應(yīng)，發(fā)展人工智能產(chǎn)業(yè)可能會(huì)有更大的環(huán)境效應(yīng)，這要根據(jù)國(guó)情綜合考慮。如果發(fā)展代價(jià)太大，就需要對(duì)其發(fā)展有所限制，特別需要提早考慮可能的環(huán)境代價(jià)。

第三，特別需要注意研究人工智能發(fā)展的政治哲學(xué)后效。前文已經(jīng)論證了人工智能作為“機(jī)奴”可能的政治哲學(xué)后效，有兩個(gè)需要提早進(jìn)行規(guī)約的方面。

其一，時(shí)時(shí)刻刻注意人工智能應(yīng)用的社會(huì)平等性。無(wú)論是經(jīng)濟(jì)方面還是政治方面，都需要給予社會(huì)公民平等享用人工智能利好的機(jī)會(huì)。當(dāng)然這主要是政府需要注意的事情，通過(guò)匯率或利率調(diào)節(jié)的方式，向不能直接享用人工智能利好的階層轉(zhuǎn)移支付利好比例。就人工智能的研究者而言，也需要注意，不要讓人工智能研究帶來(lái)“等級(jí)—區(qū)隔”的擴(kuò)大與延伸。

其二，當(dāng)人工智能發(fā)展存在取代某些行業(yè)/職業(yè)或人群的可能性已經(jīng)出現(xiàn)時(shí)，智庫(kù)類研究機(jī)構(gòu)和政府就需要做出評(píng)估，并且對(duì)這些行業(yè)/職業(yè)涉及人群的可能轉(zhuǎn)型給出合理建議與安置。

涉及人工智能發(fā)展的社會(huì)治理是一個(gè)極為復(fù)雜的巨系統(tǒng)工程這種說(shuō)法，實(shí)際上缺失了人文和社會(huì)思考的維度，而且常常容易使人把這種問(wèn)題理解為可以按照工程和技術(shù)的方式加以解決。事實(shí)上，這種工程不是技術(shù)本身可以解決的，需要人文、社會(huì)科學(xué)多學(xué)科的交叉和合作研究，需要科學(xué)、技術(shù)、倫理、政治學(xué)（包括政治哲學(xué)）的多學(xué)科視野，我們特別建議，建立相應(yīng)的全國(guó)委員會(huì)，除人工智能專家外，還需要包含哲學(xué)家（倫理學(xué)家、科技哲學(xué)家），特別是政治哲學(xué)家。

如若在起始階段，由人類研究的人工智能可以自主地發(fā)展出非人類的智能與意識(shí)，那人類能夠容忍其自主發(fā)展嗎？如若人類不容忍，那此時(shí)不容忍是對(duì)的么？如若這時(shí)的人工智能已經(jīng)比人類更為聰明，那人類還要消滅它們嗎？人類還能消滅它們嗎？比人還聰明的人工智能此時(shí)還是人工智能嗎？它要奴役、消滅人類還是與人類合作？它把人類看成為伙伴嗎？它會(huì)建立起一套相應(yīng)的“社會(huì)政策”與“倫理原則”嗎？這些問(wèn)題雖然還很遙遠(yuǎn)，但可以在將心比心的思考中幫助我們提前理解當(dāng)代人工智能發(fā)展的哲學(xué)問(wèn)題。有人就認(rèn)為，一個(gè)獨(dú)立的機(jī)器世界由于是人類建立和發(fā)展起來(lái)的，所以必然繼承了人類文明，那么由機(jī)器掌管整個(gè)世界又有什么不好呢？（集智俱樂(lè)部，2016: 208）繼續(xù)在理性與情感、自我與他者的交集中爭(zhēng)論人工智能的哲學(xué)問(wèn)題，是極其有益的。

參考文獻(xiàn)

M. Negnevitsky, 2005, Artificial Intelligence: A Guide to Intelligent Systems, Second Edition, Boston: Addison-Wesley.

R. Neapolitan and X. Jiang, 2012, Contemporary Artificial Intelligence, Florida: CRC Press.

Weld, D.S.; Mausam, C.H.L. and Bragg, J., 2015, "Artificial Intelligence and Collective Intelligence", in Thomas M. and Michael B., (eds.), Handbook of Collective Intelligence, Cambridge (Massachusetts): the MIT Press.

［美］埃隆·馬斯克，2017，《人工智能將引發(fā)第三次世界大戰(zhàn)》，http://www.24en.com/e/ DoPrint/?classid=66&id=196183。

［英］瑪格麗特·博登，2017，《AI：人工智能的本質(zhì)與未來(lái)》，孫詩(shī)惠譯，北京：中國(guó)人民大學(xué)出版社。

［美］杰瑞·卡普蘭，2016，《人工智能時(shí)代》，李盼譯，杭州：浙江人民出版社。

集智俱樂(lè)部編著，2015，《科學(xué)的極致——漫談人工智能》，北京：人民郵電出版社。

集智俱樂(lè)部編著，2016，《走近2050：注意力、互聯(lián)網(wǎng)與人工智能》，北京：人民郵電出版社。

吳冠軍，2017a，《人工智能與未來(lái)社會(huì)：三個(gè)反思》，《探索與爭(zhēng)鳴》，第10～13頁(yè)。

吳冠軍，2017b，《神圣人、機(jī)器人與“人類學(xué)機(jī)器”——二十世紀(jì)大屠殺與當(dāng)代人工智能討論的政治哲學(xué)反思》，《中國(guó)青年哲學(xué)論壇（2017）暨首屆賀麟青年哲學(xué)獎(jiǎng)評(píng)審會(huì)議論文集》，第155～176頁(yè)。

責(zé) 編／刁 娜

Several Philosophical Reflections on the Development and Governance of Artificial Intelligence

Wu Tong

Abstract: According to the current situation of the development of artificial intelligence (AI), this paper mainly analyzes the following issues: first, the concept of intelligence and AI; second, the philosophical significance of the development of AI, including the ontological and epistemological significance, and the ethical and political philosophical issues affecting the development of AI; third, the social governance problems that AI may cause, and several governance suggestions that can be used for reference.

Keywords: Artificial intelligence, philosophy of science and technology, significance, governance suggestions

吳彤，清華大學(xué)科學(xué)技術(shù)與社會(huì)研究所教授、博導(dǎo)。研究方向?yàn)榭茖W(xué)實(shí)踐哲學(xué)、系統(tǒng)科學(xué)哲學(xué)、科技與社會(huì)。主要著作有《復(fù)歸科學(xué)實(shí)踐——一種科學(xué)哲學(xué)的新反思》《自組織方法論研究》《現(xiàn)代科學(xué)技術(shù)與當(dāng)代社會(huì)》等。