【摘要】智能是一個復(fù)雜系統(tǒng)，其思想基礎(chǔ)和目的是如何把人的諸多主動能力價值浸入到機(jī)器的被動事實處理功能之中，并形成人機(jī)融合的完整事值性（事實+價值）智能協(xié)同功能力（功能+能力）系統(tǒng)，既包括計算（機(jī)）也包括算計（人）。實現(xiàn)軍事智能的關(guān)鍵在于，將“計算”與“算計”進(jìn)行高效結(jié)合；計算是基于事實的功能，算計是基于價值的能力。智能是解決問題的工具和手段，但并不是萬能的，軍事智能與機(jī)器智能不同，軍事智能是諸多領(lǐng)域的一連串組合應(yīng)用。目前，主流人工智能學(xué)科仍無法理解軍事人機(jī)融合智能領(lǐng)域。
【關(guān)鍵詞】人工智能 人機(jī)融合 功能力 深度態(tài)勢感知
【中圖分類號】 TP18 【文獻(xiàn)標(biāo)識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2021.10.004
【作者簡介】劉偉，北京郵電大學(xué)人工智能學(xué)院研究員，清華大學(xué)戰(zhàn)略與安全中心人工智能組專家，劍橋大學(xué)訪問學(xué)者。研究方向為人機(jī)混合智能、認(rèn)知工程、人機(jī)環(huán)境系統(tǒng)工程、未來態(tài)勢感知模式與行為分析／預(yù)測技術(shù)。主要著作有《人機(jī)融合——超越人工智能》《追問人工智能：從劍橋到北京》等。
進(jìn)戰(zhàn)爭形態(tài)向智能化戰(zhàn)爭演變和轉(zhuǎn)化，但是，大家對于軍事智能和智能概念的理解并沒有越來越清晰，對此有意／無意的迷惑反而越來越多，甚至嚴(yán)重制約了這種號稱“改變戰(zhàn)爭游戲規(guī)則”的顛覆性技術(shù)進(jìn)一步發(fā)展，本文試圖根據(jù)國內(nèi)外相關(guān)研究把這幾個概念的內(nèi)涵外延解釋清楚。
DARPA的智能研究動向與不足
美國國防高級研究計劃局（Defense Advanced Research Projects Agency，簡稱DARPA）在繼續(xù)開發(fā)第二代人工智能技術(shù)及其軍事應(yīng)用的同時，積極布局第三代人工智能發(fā)展，旨在通過機(jī)器學(xué)習(xí)和推理、自然語言理解、建模仿真、人機(jī)融合等方面的研究，突破人工智能基礎(chǔ)理論及核心技術(shù)。相關(guān)項目包括：機(jī)器常識、終身學(xué)習(xí)機(jī)、可解釋的人工智能、可靠自主性、不同來源主動詮釋、自動知識提取、確保AI抗欺騙可靠性、基礎(chǔ)人工智能科學(xué)、機(jī)器通用感知、利用更少數(shù)據(jù)學(xué)習(xí)、人機(jī)共生、開放世界奇異性的人工智能與學(xué)習(xí)科學(xué)、人機(jī)協(xié)作社會智能團(tuán)隊、實時機(jī)器學(xué)習(xí)，等等。
DARPA研究的不足在于“得形忘意”，沒能解決軍事智能的痛點和難點：兵者詭道也。例如，孫子的“兵者，詭道也，故能而示之不能，用而示之不用，近而示之遠(yuǎn)，遠(yuǎn)而示之近”；又如，克勞塞維茨的“戰(zhàn)爭中得到的情報，很大一部分是互相矛盾的，更多的是假的，絕大部分是相當(dāng)不確實的。這就要求軍官具有一定的辨別能力，這種能力只有通過對事物和人的認(rèn)識和判斷才能得到”。古代《孫子兵法》的生命力在于思維戰(zhàn)勝了物理，近代《戰(zhàn)爭論》的缺點在于把戰(zhàn)爭看成了理論，未來“人機(jī)環(huán)境系統(tǒng)智能”的特點在于加上了“天時、地利、人和”之外的“機(jī)輔”。
總之，DARPA的軍事智能化有兩大支柱，一是“機(jī)器學(xué)習(xí)”，二是“自主系統(tǒng)”。然而，當(dāng)代的自主系統(tǒng)還處于“偽自主”階段，這是由其底層技術(shù)架構(gòu)（機(jī)器學(xué)習(xí)和大數(shù)據(jù)處理機(jī)制）的局限所決定的。無論是行為主義的強(qiáng)化學(xué)習(xí)、聯(lián)結(jié)主義的深度學(xué)習(xí)，還是符號主義的專家系統(tǒng)都不能如實準(zhǔn)確地反映人類的認(rèn)知機(jī)理，如直覺、情感、責(zé)任、價值等。
美國國防部于2018年6月成立的聯(lián)合人工智能中心（JAIC），作為專職負(fù)責(zé)軍隊智能化建設(shè)的機(jī)構(gòu)，統(tǒng)籌規(guī)劃建設(shè)智能化軍事體系。2021年，該中心將以各軍種工作為基礎(chǔ)，專注于作戰(zhàn)人員的整合和人工智能生態(tài)系統(tǒng)的創(chuàng)建，其重點任務(wù)是建構(gòu)軍事人機(jī)環(huán)境生態(tài)智能系統(tǒng)。
目前人工智能技術(shù)的核心問題
當(dāng)前的人工智能及未來的智能科學(xué)研究存在兩個致命的缺點。（1）把數(shù)學(xué)等同于邏輯。弗雷格、羅素等邏輯主義者一般是把數(shù)學(xué)歸于邏輯學(xué)（logic）之下，“+logy”也成為許多學(xué)科的詞尾，如生物學(xué)Biology=bio（生）+logy（學(xué)科）。邏輯是探索、闡述和確立有效推理原則的學(xué)科。數(shù)學(xué)不等同于邏輯，數(shù)學(xué)研究空間形式和數(shù)量關(guān)系結(jié)構(gòu)，是一種基于公理的邏輯體系；邏輯研究思維的形式結(jié)構(gòu)。二者一致之處在于“研究對象都是高度抽象的結(jié)構(gòu)”。不同之處在于，其一，數(shù)學(xué)和邏輯的研究對象不同，數(shù)學(xué)的研究對象是客觀事物的空間形式與數(shù)量關(guān)系，而邏輯學(xué)的研究對象是思維的形式及規(guī)律；其二，數(shù)學(xué)和邏輯的任務(wù)和目標(biāo)不同，數(shù)學(xué)的主要目標(biāo)和任務(wù)是揭示客觀事物的空間形式與數(shù)量關(guān)系的特征，探索其規(guī)律性，而邏輯的主要目標(biāo)和任務(wù)則是解決思維推理形式的有效性或真實性問題。（2）混淆符號與對象的指涉。符號的重點在于表征，而對象的重點在于意向性。一般來說，一種意向可以對應(yīng)一種或多種符號，而一種符號代表的意向性也可以有多個指向（如能指、所指、意指）。人類可以用“一花一世界，一樹一菩提”靈活地表征任何事物，而目前的機(jī)器卻只能用固定打標(biāo)的方式孤立、靜止、片面地表征一個事物。
這兩個缺點直接誘發(fā)了幾個很難解決的智能領(lǐng)域及軍事智能領(lǐng)域問題：（1）客觀數(shù)據(jù)與主觀信息、知識的彈性輸入——靈活的表征；（2）公理與非公理推理的有機(jī)融合——有效的處理；（3）責(zé)任性判斷與無風(fēng)險性決策的無縫銜接——虛實互補(bǔ)的輸出；（4）人類反思與機(jī)器反饋之間的相互協(xié)同調(diào)整；（5）深度態(tài)勢感知與其逆向資源管理過程的雙向平衡；（6）人機(jī)之間透明信任機(jī)制的生成；（7）機(jī)器常識與人類常識的差異；（8）人機(jī)之間可解釋性的閾值；（9）機(jī)器終身學(xué)習(xí)的范圍／內(nèi)容與人類學(xué)習(xí)的不同。
軍事智能不是“軍事+AI”
智能是一種由人、機(jī)、環(huán)境系統(tǒng)相互作用而產(chǎn)生的組織形式，是物理、生理、心理、數(shù)理、管理、哲理、文理、機(jī)理、藝?yán)?、地理、倫理、宗理等多事實、多價值、多責(zé)任的混合適應(yīng)體系，所以智能可能不是單純的類腦。
軍事智能不是“軍事+AI”，也不是“AI+軍事”，軍事智能本質(zhì)就是軍事博弈，其本身就包含了各種各樣的智能形式（如反智能），所以更準(zhǔn)確地說，軍事智能是一種智慧形式（如塞翁失馬），既包括科學(xué)技術(shù)，也涉及文史哲宗教等方面，屬于復(fù)雜領(lǐng)域，其核心是“兵不厭詐”和“兵者詭道也”。其未來發(fā)展方向是人、物（機(jī)是人造物）、與環(huán)境系統(tǒng)相融合的“人類算計+機(jī)器計算”（簡稱“計算計”）體系。
在軍事智能中，厘清自動化、智能化的概念非常重要。自動化是確定性的輸入，可編程的處理，確定性的輸出；人工智能是部分確定性的輸入，可編程的處理，部分確定性的輸出；智能是不確定性的輸入，部分可編程的處理，不確定性的輸出。人工智能（含自動化）與智能的區(qū)別是：一個是功能，一個是能力。很多人期望得到的往往是能力，而不是功能，即通過人工智能功能實現(xiàn)智能能力，這就是期望與現(xiàn)實的矛盾所在，也是人們失望所在：把功能錯看成了能力。軍事智能需要實現(xiàn)“功能+能力”的合成（簡稱功能力）。機(jī)器功能邏輯的基礎(chǔ)是映射關(guān)系，而人類直覺能力的基礎(chǔ)則是漫射、散射、影射，其中，人類的想象力、創(chuàng)造力是一種情理融合的能力，也是“軍事智能”的邊界。因此，僅開發(fā)出高性能智能產(chǎn)品或系統(tǒng)，仍不能提高體系的組織力和戰(zhàn)斗力，必須將其集成到運(yùn)行技術(shù)系統(tǒng)、組織流程和人員運(yùn)行流程中才能發(fā)揮其威力和效力。
軍事智能化的瓶頸和關(guān)鍵問題不是單純的快、單純的準(zhǔn)，而是對。例如，單純機(jī)器計算得越精細(xì)、越準(zhǔn)確、越快速，危險性越大，因為敵人可以隱真示假、造勢欺騙、以真亂假，所以有專家參與的人機(jī)融合／混合軍智更重要、更迫切、更有效。人機(jī)混合常常是指“人+機(jī)”（側(cè)重事實性數(shù)理物理結(jié)合，價值性結(jié)合較少）；人機(jī)融合是指“人×機(jī)”（既包括事實，也涉及價值，既有數(shù)理物理交互，也有心理倫理交流）。在軍事界，大多數(shù)觀點認(rèn)為，人必須在“人—裝備—環(huán)境系統(tǒng)”中并掌控該系統(tǒng)的關(guān)鍵使用。例如，許多科學(xué)家支持致命性自主武器系統(tǒng)（LAWS）宣言，反對脫離人類控制的自主武器系統(tǒng)開發(fā)。這就必須滿足兩點要求：一是必須有可靠的人在系統(tǒng)中，而不能是不可靠的人在系統(tǒng)中；二是要求人、機(jī)不能是平等關(guān)系，可靠的人必須要發(fā)揮關(guān)鍵作用。因此，從這個角度看，對軍事智能而言，“人機(jī)混合”要比“人機(jī)融合”一詞更準(zhǔn)確一些（可以保證人主機(jī)輔關(guān)系一致性）。
軍事智能與藝術(shù)的本質(zhì)相同：不在于和諧、理性和規(guī)則，而在于緊張、沖突和斗爭。這就是The Art of War（《孫子兵法》）和現(xiàn)代性美學(xué)的共性。休謨認(rèn)為：“一切科學(xué)都與人性有關(guān)，對人性的研究應(yīng)是一切科學(xué)的基礎(chǔ)。”科學(xué)尚且如此，包含科學(xué)的軍事智能也不例外。一般而言，人工（機(jī)器）智能擅長客觀事實（真理性）計算，人類智能則善于主觀價值（道理性）算計。當(dāng)計算大于算計時，可以側(cè)重人工智能；當(dāng)算計大于計算時，應(yīng)該偏向人類智能；當(dāng)計算等于算計時，最好使用人機(jī)智能。計算往往是從已知條件開始的邏輯（解決“復(fù)”），而算計常常是從未知前提出發(fā)的直覺（處理“雜”）。涉及人、機(jī)、環(huán)境三者的軍事智能如《易經(jīng)》一樣，其核心都在于：變。因時而變、因境而變、因法而變、因勢而變……費(fèi)曼說：“物理學(xué)家們只是力圖解釋那些不依賴于偶然的事件，但在現(xiàn)實世界中，我們試圖去理解的事情大都取決于偶然。”人機(jī)環(huán)境之間的關(guān)系包含有向閉環(huán)、無向開環(huán)、有向開環(huán)和無向閉環(huán)，自主系統(tǒng)大多是一種有向閉環(huán)行為。軍事智能中人機(jī)環(huán)境系統(tǒng)融合的計算計系統(tǒng)也許就是一個解決休謨之問（從事實中能否得出價值？）的秘密通道，即通過人的算計結(jié)合機(jī)器的計算，實現(xiàn)從“事實”向“價值”的“質(zhì)的飛躍”。
如何實現(xiàn)人的算計（經(jīng)驗）與機(jī)的計算（模型）融合后的計算計（計算+算計）系統(tǒng)呢？東方思想里的“易”就是一個典型的計算計系統(tǒng)，有算有計，有性有量，有顯有隱，計算交融，情理相依。其中的“與或非”邏輯既有人經(jīng)驗的、也有物（機(jī)）數(shù)據(jù)的，即人價值性的“與或非”+機(jī)事實性的“與或非”，人機(jī)融合智能及深度態(tài)勢感知的任務(wù)之一就是要打開與、或、非門的狹隘。人的經(jīng)驗性概率與機(jī)器的事實性概率不同，它是一種價值性概率，可以穿透非家族相似性的壁壘，用其它領(lǐng)域的成敗得失結(jié)果影響當(dāng)前領(lǐng)域的態(tài)勢感知（Situation Awareness，簡稱SA），如同情、共感、同理心、信任等。
凡事有利就有弊，智能也不例外。在人機(jī)環(huán)境系統(tǒng)動態(tài)交互（產(chǎn)生智能）時，由于時間、空間、對象、屬性、關(guān)系、條件、規(guī)則、情緒、狀態(tài)、趨勢、感知等的變化，智能的方式、方法、方案、手段、工具都會作適當(dāng)?shù)恼{(diào)整和重新組合，正可謂“時變法亦變”。智能需要解決的常常是真實問題，如安全威脅、高效處理、準(zhǔn)確預(yù)測，等等。智能包含著過去的經(jīng)驗和數(shù)據(jù)，但不會僅僅依賴這些過去，它還包含著未來對此時的影響，如期望的反饋。一般而言，不能隨機(jī)應(yīng)變的智能應(yīng)該不是真智能。在人機(jī)交互、人機(jī)混合、人機(jī)融合智能等應(yīng)用中，人工智能可以幫助人，也可以阻礙人，還可以毀掉人，比如過度依賴人工智能容易造成人性中的自信、果敢和勇氣等的喪失，因此，做這些工作或申請項目時，希望不要光看人機(jī)融合中計算計系統(tǒng)好的一面，還希望管理者、評審者也能客觀地看到其不好的一面，在不少情境任務(wù)下，不好的概率可能更高一些。
主流人工智能學(xué)科仍無法理解軍事人機(jī)融合智能領(lǐng)域
AI追求數(shù)據(jù)化、確定性和理性的解釋，假定任何問題都有標(biāo)準(zhǔn)答案，把每個決策簡單地變成約束條件下求解，變成數(shù)據(jù)計算。但是，真實世界里具有大量不確定性，沒有標(biāo)準(zhǔn)答案，需要人的想象力和算計，不是循規(guī)蹈矩。康德說，“事物的特性往往與觀察者有關(guān)”，這與量子力學(xué)思想相通，也是軍事智能的靈魂，即人類的思維之爭。
研究一個事物如果不從未來看它，往往會被它迷惑。計算是算計的產(chǎn)物，計算常是算計的簡化版，不能體現(xiàn)出算計中主動、辯證、矛盾的價值。計算可以處理關(guān)鍵場景的特征函數(shù)，但較難解決基本場景的對應(yīng)規(guī)則，更難應(yīng)付任意場景的統(tǒng)計概率，可惜這些還僅僅只是場景，遠(yuǎn)未涉及情境和意識。
智能僅是解決問題的一種工具手段，若不與日常生活中的風(fēng)俗習(xí)慣、倫理道德中的仁義禮智信勇、法律中的邊界規(guī)則統(tǒng)計概率等諸多方面相結(jié)合，就很容易泛濫成災(zāi)而不可控制。真實的智能不是萬能，它不但涉及事實性的真假問題，還應(yīng)包括價值性的是非問題，更與責(zé)任性的大小輕重密切相關(guān)。因此，從嚴(yán)格意義上講，軍事智能是許多領(lǐng)域的一連串組合應(yīng)用。
對于人、機(jī)而言，雖然都是將一個問題拆成幾個子問題，再分別求解這些子問題，即可推斷出大問題的解，但人的動態(tài)規(guī)劃與機(jī)器的動態(tài)規(guī)劃卻不同：有經(jīng)驗的人可以游刃有余地將一個復(fù)雜性大問題拆成事實、價值、責(zé)任等不同性質(zhì)的小問題來求解，還可以避免各種鼠目寸光和畫地為牢的行為決策，而目前的機(jī)器對此異質(zhì)合取化解問題依然望塵莫及，人工智能只會對比（不是類比），也許這也是人類智能的又一個瓶頸和難點：如何有效地處理異質(zhì)性的非形式化問題。計算是事實性推理關(guān)系，低階的算計則是價值性推理關(guān)系，高階的算計更是事實與價值混合／融合的推理關(guān)系，計算與算計是不同的因果關(guān)系。人類的“既……又……”關(guān)系往往不是“并”的計算關(guān)系，而與具體態(tài)勢算計有關(guān)。是非不同于對錯，也不同于真假和0／1，孟子曰：“是非之心，智也”。
諾貝爾獎得主丹尼爾·卡內(nèi)曼在《思考：快與慢》一書中將人類的本能意識快決策稱為系統(tǒng)一，將人類的理性邏輯慢決策稱為系統(tǒng)二，并考察了系統(tǒng)一與系統(tǒng)二之間的區(qū)別。經(jīng)筆者進(jìn)一步研究，人機(jī)環(huán)境系統(tǒng)的深度態(tài)勢感知中應(yīng)該還存在決策系統(tǒng)三：人類理性與感性結(jié)合下不快不慢的、人機(jī)融合的“計算計決策系統(tǒng)”。
結(jié)論
2021年5月28日，習(xí)近平總書記出席兩院院士大會并發(fā)表重要講話，他指出，“科技創(chuàng)新速度顯著加快，以信息技術(shù)、人工智能為代表的新興科技快速發(fā)展，大大拓展了時間、空間和人們認(rèn)知范圍，人類正在進(jìn)入一個‘人機(jī)物’三元融合的萬物智能互聯(lián)時代。”軍事人機(jī)融合智能是由“人—機(jī)—環(huán)境系統(tǒng)”相互作用而產(chǎn)生的新型戰(zhàn)場智能系統(tǒng)。其與人的智慧、人工智能的差異具體表現(xiàn)在三個方面：首先，在融合智能輸入端，它把設(shè)備傳感器客觀采集的數(shù)據(jù)與人主觀感知到的信息結(jié)合起來，形成一種新的輸入方式；其次，在智能的數(shù)據(jù)／信息中間處理過程，機(jī)器數(shù)據(jù)計算與人的信息認(rèn)知相融合，構(gòu)建起一種獨(dú)特的理解途徑；最后，在智能輸出端，它將機(jī)器運(yùn)算結(jié)果與人的價值決策相匹配，形成概率化與規(guī)則化有機(jī)協(xié)調(diào)的優(yōu)化判斷。軍事人機(jī)融合智能是一種廣義上的“群體”智能形式，這里的人不僅包括個人，還包括眾人，機(jī)不但包括機(jī)器裝備，還涉及機(jī)制機(jī)理；此外，還關(guān)聯(lián)自然和戰(zhàn)場環(huán)境、真實和虛擬環(huán)境等。
軍事人機(jī)融合智能是軍事智能發(fā)展的必經(jīng)之路，其中既包括理論方法，也包括對人、機(jī)、環(huán)境之間關(guān)系的探索。近年來，越來越多的人工智能武器融入戰(zhàn)場環(huán)境，越來越多的人開始關(guān)注軍事人機(jī)融合智能。但客觀地看，當(dāng)前的軍事人機(jī)融合智能與我們的設(shè)想尚存一定距離，如何將人的智能遷移到機(jī)器中，仍需要智能科學(xué)家作進(jìn)一步研究。軍事人機(jī)融合智能研究不僅要考慮機(jī)器技術(shù)的高速發(fā)展，更要考慮交互主體——人類的思維與認(rèn)知方式，讓機(jī)器與人類各司其職、互相促進(jìn)，這才是軍事智能研究的前景與趨勢。
參考文獻(xiàn)
Lecun, Y.; Bengio, Y. and Hinton, G., 2015, "Deep learning", Nature, 7553: 521, p. 436.
Silve, D.; Huang, A.; Maddison, C. J.; et al., 2016, "Mastering the game of Go with deep neural networks and tree search", Nature, 7587: 529, pp. 484-489.
Endsley, M. R. and Glrland, D. J., 2000, Situation Awareness Analysis and Measurement, London: Lawrence Erlbaum Associates& Inc, pp. 5-15.
Collobert, R.; Weston, J.; Bottou, L.; et al., 2011, "Natural Language Processing (Almost) from Scratch", Journal of Machine Learning Research, 12, pp. 2493-2537.
Hinton, G.; Deng, L.; Yu, D.; et al., 2012, "Deep Neural Networks for Acoustic Modeling in Speech Recognition: The Shared Views of Four Research Groups", IEEE Signal Processing Magazine, 29: 6, pp. 82-97.
顧險峰，2016，《人工智能的歷史回顧和發(fā)展現(xiàn)狀》，《自然雜志》，第3期。
劉偉，2018，《有關(guān)軍事人機(jī)混合智能的幾點思考》，《火力與指揮控制》，第10期。
劉偉，2019，《追問人工智能：從劍橋到北京》，北京：科學(xué)出版社。
劉偉，2021，《人機(jī)融合：超越人工智能》，北京：清華大學(xué)出版社。
Research on the Bottleneck and Key Problems of Military Intelligence
Liu Wei
Abstract: Intelligence is a complex system, its theoretical basis and purpose is about how to immerse the value of the many active capabilities of human beings into the passive fact processing function of machine, and form a human-machine integration system with the complete event value (fact + value) and intelligent collaborative capability (function + capability), including both computing (machine) and calculation (human). The key to realize military intelligence lies in the efficient combination of "computing" and "calculation"; computing is a function based on fact, and calculation is a capability based on value. Intelligence is a tool and means to solve problems, but it is not omnipotent. Military intelligence is different from machine intelligence as it is a series of combined applications in many fields. At present, the mainstream artificial intelligence science is still unable to understand the field of military human-computer integration intelligence.
Keywords: artificial intelligence, human-machine integration, function capability, deep situation awareness
