智能化戰(zhàn)爭的倫理與法律探討

　　摘要：智能化戰(zhàn)爭是目前世界上各國謀求發(fā)展的新戰(zhàn)爭方式，各國希望以機器人代替人類進行戰(zhàn)斗或用智能化系統(tǒng)裝備提高戰(zhàn)爭效率的方式取得勝利。常規(guī)戰(zhàn)爭方面已經(jīng)有《國際人道法》《日內瓦公約》等倫理、法律依據(jù)，但是在新興的智能化戰(zhàn)爭中缺乏同樣的法律依據(jù)。因此，論文從智能化戰(zhàn)爭的內容、倫理道德、倫理沖突三個方面論述智能化戰(zhàn)爭倫理的意義和未來智能化戰(zhàn)場倫理應當涵蓋的內容。

　　本文源自新晉商【2020年第06期】《新晉商》雜志，山西出版?zhèn)髅郊瘓F主管，山西出版?zhèn)髅郊瘓F;山西省人民政府參事室(文史館)主辦。于2005年經(jīng)國家新聞出版總署批準正式創(chuàng)刊，CN:14-1350/F，本刊在國內外有廣泛的覆蓋面，題材新穎，信息量大、時效性強的特點，其中主要欄目有：對話晉商精英、關注財富生活為主線等。

　　1 引言

　　目前，隨著人工智能在我國的飛速發(fā)展，智能化技術在計算機、機器人、視覺內容自動識別等其它技術領域不斷進步。在軍事領域，利用人工智能研發(fā)新軍事武器、進行人才選拔、指揮決策等方面的技術逐漸走向成熟。智能武器的定義是指具有人工智能的武器，通常由信息采集與處理系統(tǒng)、知識庫系統(tǒng)、輔助決策系統(tǒng)和任務執(zhí)行系統(tǒng)等組成。能自行完成偵查、搜索、瞄準、攻擊目標和收集、整理、分析、綜合情報等軍事任務[1]。在智能化武器裝備不斷發(fā)展的過程中，我們應當反思這些年的人工智能的發(fā)展是否符合倫理道德的準則，智能化武器的應用是否合法，并應當對未來智能化戰(zhàn)爭的發(fā)展設立倫理規(guī)范和進一步在衛(wèi)勤保障中完善人工智能技術使用的法律條目。

　　2 智能化戰(zhàn)爭的含義

　　智能化戰(zhàn)爭是以人工智能技術手段為主要支撐的戰(zhàn)爭，是信息化戰(zhàn)場發(fā)展的必然變革[2]。海灣戰(zhàn)爭中，美軍用高精尖的武器和先進的軍事理論造成了自稱“第四軍事強國”的伊拉克10萬人的傷亡，自己卻只付出了606人的代價。戰(zhàn)后我們才認清了如今國外作戰(zhàn)樣式發(fā)生了根本性的變化，從此我國被迫投入了大量軍費學習美國的作戰(zhàn)模式和標準，實行軍隊改革使軍隊盡快從實現(xiàn)機械化到信息化部隊的進步。目前，伊拉克針對ISIS的作戰(zhàn)中，大規(guī)模的應用的國產(chǎn)的彩虹-4無人機執(zhí)行偵察和打擊任務，體現(xiàn)了現(xiàn)代戰(zhàn)場上智能化系統(tǒng)的成熟應用和廣泛前景。美國國防創(chuàng)新委員會主席埃里克·施密特也請求國防部在人工智能領域開展更多布局，其特別強調“某些對手”最新的人工智能國家戰(zhàn)略將“威脅”到美國在此領域的領先地位。有一種說法是科技革命引發(fā)戰(zhàn)爭，而在未來要想獲取戰(zhàn)場的制高點、話語權，就必須擁有先進的作戰(zhàn)理論和武器裝備。如今，5G傳輸、量子通信等技術得到了充分的發(fā)展，基于這些技術人工智能對大數(shù)據(jù)的分析和學習能力也得到了提升。隨之而來的是新的作戰(zhàn)樣式的變化如軍隊編成、作戰(zhàn)方式、軍事理論、日常訓練的更新?lián)Q代。另如深度學習武器裝備、智能作戰(zhàn)機器人、“蜂群”無人機作戰(zhàn)的出現(xiàn)也給了我們對戰(zhàn)爭新的啟示。

　　3 智能化戰(zhàn)爭涉及的倫理法律問題

　　3.1 智能化戰(zhàn)爭需要倫理與法律約束

　　戰(zhàn)爭倫理是指社會集團及其武裝成員在政治交往中，針對組織化暴力對抗所遵循的暴力使用的行為規(guī)范體系。學術界將戰(zhàn)爭倫理大體分為兩個方面：一是“指向戰(zhàn)爭的倫理”或“戰(zhàn)爭權利的倫理”，即有關戰(zhàn)爭的權利、戰(zhàn)爭的性質、戰(zhàn)爭的責任的問題;二是“戰(zhàn)爭的行為倫理”，即有關戰(zhàn)爭中使用的各種手段的規(guī)則問題。歷史上隨著工業(yè)革命的發(fā)展，戰(zhàn)爭的樣式也逐步發(fā)生著改變，戰(zhàn)爭也同樣促進著科學技術的進步。目前，關于智能化戰(zhàn)爭的倫理道德規(guī)定還很欠缺，戰(zhàn)爭需要倫理道德的存在才能被世人所接受。各國需要統(tǒng)一倫理準則，才能判定戰(zhàn)爭行為是否合理。人工智能的倫理終究是工程師、程序師的哲學修養(yǎng)所決定的。其深層含義是世界各國政府利用人工智能的技術完成具體什么樣的任務。當人工智能應用于軍事領域就涉及軍事技術的倫理價值，它是軍事技術的客體本身所具有的能滿足軍事技術主體倫理道德和倫理精神需求的屬性，它反映了軍事技術主體在進行軍事技術的設計、發(fā)明、生產(chǎn)和使用等有關活動時所持有的價值理念，倫理取向以及道德規(guī)范。軍事技術的倫理價值始于過去，將會不斷的完善更新適應現(xiàn)代化戰(zhàn)爭，滿足國際社會的需要。

　　3.2 軍用機器人引發(fā)的心理情感問題

　　目前，美軍的無人裝備數(shù)量最多，類型最齊全。據(jù)統(tǒng)計，美軍已有各類無人機1.13萬架以上，各種地面機器人1.5萬以上。預計到2040年美軍將會擁有達到一半以上的機器人成員。在控制方式上，其現(xiàn)役無人裝備仍主要采用遙控或預編程自動控制方式，不過隨著其算法戰(zhàn)、蜂群、忠誠僚機等項目的持續(xù)深入，預計無人裝備的自主性、以集群或編組方式完成任務、有人-無人協(xié)同等能力都將取得較大突破。軍用機器人的大量使用，將給現(xiàn)代的戰(zhàn)爭道德帶來巨大沖擊。比如，在戰(zhàn)場上具有自主攻擊能力的智能化武器對主動放下武器或被剝奪武器的敵方人員，如何辨識對方的真正意圖并做出正確決定，這是智能化系統(tǒng)難以準確抉擇的。因此，我們在使用人工智能武器進行戰(zhàn)爭的過程中需要保持謹慎的態(tài)度，不能完全放任人工智能的自主學習、自主判斷的能力，以防止出現(xiàn)嚴重的倫理道德后果，未來在研究智能化武器裝備的同時要建立有完整的倫理道德委員的監(jiān)督和審核。香港的漢森機器人技術公司(Hanson Robotics)開發(fā)的類人機器人索菲亞，是歷史上首個獲得公民身份的一臺機器人，人類賦予了她“人”的意義，并或多或少地產(chǎn)生了一定的感情。這是智能化機器進入社會的極特殊一步，未來當人工智能發(fā)展到了一定程度，那就必須對它進行倫理約束。這種心理認知的現(xiàn)象同樣適用于軍用機器人擁有人類面孔的情景。機器人未來可能和人類一起戰(zhàn)斗或者參與后方工作等需要與人類相處交流的機會越來越多，人們可能會對機器人出現(xiàn)角色歸屬不清的心理情感問題。這種認同感可能是社會職責的認同，也可能是對機器人社會角色的認同。但其中包含著對傳統(tǒng)倫理道德沖擊以及現(xiàn)代社會文化的影響。

　　3.3 智能化武器裝備設計的倫理與法律問題

　　隨著智能化裝備進入部隊的方方面面，這些武器裝備也將會被賦予更多的角色。智能化戰(zhàn)爭將會重新建立人與武器裝備的關系，隨著深度學習技術的提升，人工智能在不斷的執(zhí)行人類的命令的同時不斷地綜合各項工作的深層次規(guī)律，從而產(chǎn)生主動的執(zhí)行人的意識，超越人類的決策能力。我們必須清楚地認識到，智能化裝備僅僅只是工具，是為戰(zhàn)爭服務的，在戰(zhàn)場上我們可以參考智能系統(tǒng)的決策和判斷。但機器就是機器，它不存在人類的道德思維能力，我們需要將人類的倫理道德思維運行到人工智能的程序里，以減少出現(xiàn)的倫理問題。智能化武器裝備的設計必須嚴格按照交戰(zhàn)規(guī)則和戰(zhàn)爭法則設定程序。2019年6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出了人工智能的八項原則：和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放合作、敏捷治理。基于委員會提出的人工智能治理的框架和行動指南，我軍未來可以依據(jù)或修改這些原則，作為未來研發(fā)人工智能的準則，之后不斷完善更新，逐漸形成適應我國倫理道德的規(guī)則。只有使智能化裝備基于如此的約束我們才能保證未來大規(guī)模應用智能化武器出現(xiàn)意料之外的問題。再者，應用智能化武器裝備要吸取全面的經(jīng)驗，動員多元化的力量，將科研人員、倫理學家和廣大人民的意見結合起來，共同建設人工智能的倫理。

　　4 智能化戰(zhàn)爭的倫理準則

　　人工智能是科技的產(chǎn)物，應當嚴格遵守科技倫理。科技倫理規(guī)范是觀念和道德的規(guī)范，就是從觀念和道德層面上規(guī)范人們從事科技活動的行為準則，其核心問題是使之不損害人類的生命健康和生存條件(環(huán)境)，保障人類的切身利益，促進人類社會的可持續(xù)發(fā)展[3]。

　　4.1 尊重生命原則

　　生命是人最重要的基礎，沒有生命就沒有人的自然屬性、社會屬性、精神屬性。作為文明高度發(fā)達的國家，我們更應當關注人的生命的重要性，我們沒有權利剝奪人的生命，但在無法控制的事件中，我們更應當考慮的是倫理的準則的遵守。其中，最關鍵的問題就是生與死的問題。軍事技術的生命倫理價值就源于人類維持生命、保護生命的天然需求。而在軍隊使用智能化武器裝備的初衷一部分就是為了減少己方在戰(zhàn)場上的犧牲，謀求完全替代人類去實現(xiàn)作戰(zhàn)的目的。為了降低戰(zhàn)爭中死亡數(shù)量從千方百計追求增加殺傷力到考慮武器“慈化”，即設法研制非致命武器。如反恐作戰(zhàn)中使用的閃光彈、維穩(wěn)安保使用的電擊槍等。因此，在未來的智能化戰(zhàn)場上，應尊重人道主義原則，即盡可能少的人員傷亡下獲得正義戰(zhàn)爭的勝利，一方面取決于設計者的初衷，但另一方面主要取決于指揮官的素質和駕馭能力。所以在和平時代我們要加強倫理法則的制定以及積極廣泛地向全軍指戰(zhàn)員宣傳教育倫理道德的含義和內容，以確保軍隊保證打贏的同時不會成為“絞肉機”。

　　4.2 保護生態(tài)原則

　　隨著人們的生活理念的發(fā)展和對生態(tài)保護理念的增強，國際社會對環(huán)境保護的意識越來越強。人工智能被大量應用于環(huán)境監(jiān)測、突發(fā)環(huán)境事故處置等種種生態(tài)保護的領域當中。人們在集中精力研發(fā)人工智能的同時忽略的研發(fā)過程二氧化碳的排放對自然的影響，運算模型的大小與排放的成本成正比，因此對環(huán)境造成了不可估量的影響。但根據(jù)馬薩諸塞大學阿默斯特分校的研究人員對幾種常見的大型AI模型進行了生命周期的評估。他們發(fā)現(xiàn)這個過程可以排放超過626，000斤的二氧化碳當量。這其中人工智能對環(huán)境的影響對生態(tài)影響深遠，其倫理道德值得深究。隨著大規(guī)模殺傷性武器的發(fā)展，戰(zhàn)爭對環(huán)境破壞的程度也是隨之加深。生態(tài)環(huán)境的破壞不只是對森林、草原、湖泊的影響，我們還應該關注動物、土地的保護。在《自然》雜志發(fā)表的一篇論文Warface and wildlife declines in Africa's protected areas 為戰(zhàn)爭對野生動植物造成的影響進行了定量分析。莫桑比克內戰(zhàn)期間，超過70%的非洲保護區(qū)受到戰(zhàn)爭的影響。研究說明武裝沖突是非洲珍稀野生動物數(shù)量持續(xù)下降的主要因素之一。智能化戰(zhàn)爭交戰(zhàn)過程中，不免會造成對動植物的損害，相比二戰(zhàn)熱兵器時代依賴于大范圍火力覆蓋的戰(zhàn)爭方式會更偏向于精確打擊以減少不必要的損害。實施精準打擊既是為了提高效率也可以能對環(huán)境的損害。未來我們應該更多的研發(fā)對生態(tài)小損害或完全無破壞的武器，減少有害氣體釋放和對結構復雜的生態(tài)環(huán)境的影響。針對以傳統(tǒng)武器對自然環(huán)境造成的損害，環(huán)保武器的概念應運而生。環(huán)保武器是指借用“綠色保護”的概念，對自然環(huán)境不產(chǎn)生或者少產(chǎn)生污染，有利于環(huán)保和不破壞生態(tài)平衡的武器。而在智能化武器的戰(zhàn)爭中，將環(huán)保武器彈藥裝備在智能化武器上，可充分減少對環(huán)境的破壞。同時，智能化武器對生態(tài)環(huán)境的影響也必須納入倫理評判的準則之中。

　　4.3 優(yōu)化生存原則

　　生存是所有生命的基本訴求，沒有生存就沒有文明的存在，也就沒有了倫理的意義。現(xiàn)代社會人們對生存環(huán)境的要求越來越高，如網(wǎng)絡、美食、居住條件、人文環(huán)境等。敘利亞戰(zhàn)爭中，不少千年的名勝古跡被戰(zhàn)爭摧毀，過去繁華的阿勒頗街道如今滿目瘡痍。阿拉伯人中流傳著這樣一個諺語“人間若有天堂，大馬士革必在其中;天堂若在天空，大馬士革必與之齊名。”如今的大馬士革城區(qū)損毀殆盡，百姓流離失所。如此情況下，未來不管任何一方取得勝利，敘利亞人民如何在這樣一片破碎的土地上求生存、謀發(fā)展，都將是政府和聯(lián)合國棘手的問題。在這其中帶給我們的啟發(fā)就是如何確保在戰(zhàn)爭過后，能讓當?shù)鼐幼∩畹陌傩盏靡跃S持基本生存條件，以防止釜底抽薪的事情發(fā)生。而在智能化戰(zhàn)爭中我們可以在付出非人員傷亡的代價下確保當?shù)厣顥l件，更可以做到對歷史文明、基礎設施、賴以生存的土地和收入來源的保障。維持和營造國家在國際社會中的良好形象就應當充分利用智能化的武器裝備、后勤保障和大數(shù)據(jù)分析確保交戰(zhàn)區(qū)的百姓生存環(huán)境的完整以及將來發(fā)展的需要。

　　今天，軍事智能化的程度已經(jīng)成為未來戰(zhàn)爭勝負的關鍵要素，智能化武器裝備層出不窮。隨著智能化武器裝備的研發(fā)，帶來的是倫理道德的進步滯后于新技術，聯(lián)合國曾于2013年討論軍用機器人的使用問題，要求凍結這些智能化武器的研發(fā)，并成立討論委員會。而智能化武器在戰(zhàn)場上的倫理道德，我們應當從社會道德評價以及道德自我評價的方面充分考量軍事行為是否正義。具體而談，一次正義的軍事行為，要符合戰(zhàn)場倫理的約束。評價的維度可以從起因、動機、過程、結局和反思與自我評價決定，最終智能化戰(zhàn)爭的結局要經(jīng)受國際的認同以及全世界的倫理道德評定。智能化戰(zhàn)場倫理的確立需要經(jīng)過武器裝備功能的實驗和不斷的與社會磨合。就現(xiàn)在的發(fā)展情況而言，還需要大量的時間以及國際社會的通力合作。德國屠戮猶太人以確保雅利安人的血統(tǒng)，他們的子孫一直在為先輩的行為所反思和補償。我們沒有權利讓我們的后代承受世界的批判，中華民族一直以來都渴望和平的相處以及不戰(zhàn)而屈人之兵的理念，合理地運用智能化武器將會為后代設立一個完善又先進的研發(fā)和使用規(guī)則。所帶來的福祉將會是功千秋，利萬代。