從鳥群編隊飛行到學(xué)生小組合作，團隊的運作不僅需要協(xié)調(diào)和溝通，更需要信任——每個成員都必須對其他成員充滿信心?；ヂ?lián)機器網(wǎng)絡(luò)也是如此，這類網(wǎng)絡(luò)在當今世界正迅速發(fā)展——從自動駕駛共享車隊到智能電網(wǎng)，無不體現(xiàn)著這一點。
據(jù)外媒報道，哈佛大學(xué)（Harvard）的計算機科學(xué)家與一個由信息論、無線通信、優(yōu)化理論、機器學(xué)習(xí)和機器人領(lǐng)域的專家組成的跨多所大學(xué)的團隊合作，提出了將信任概念融入新興網(wǎng)絡(luò)物理系統(tǒng)的愿景。哈佛大學(xué)約翰·A·保爾森工程與應(yīng)用科學(xué)學(xué)院（Harvard John A. Paulson School of Engineering and Applied Sciences，SEAS）工程與應(yīng)用科學(xué)副教授、肯普納研究所（Kempner Institute）副研究員Stephanie Gil在其主導(dǎo)的一篇最新論文提出了一個基礎(chǔ)框架，旨在幫助多智能體互聯(lián)系統(tǒng)在采取行動之前確定哪些信息值得信賴。
圖片來源：哈佛大學(xué)
Gil表示：“網(wǎng)絡(luò)物理系統(tǒng)將會變得非常普遍。問題在于，我們?nèi)绾未_保這些系統(tǒng)的安全？我們?nèi)绾未_保它們在實際應(yīng)用中具有彈性？這是我們在確保互聯(lián)網(wǎng)系統(tǒng)安全方面必須學(xué)習(xí)的經(jīng)驗?！?/p>
該論文引入了“網(wǎng)絡(luò)信任（cy-trust）”的概念：它是一種量化指標，用于衡量自主智能體（例如車輛或機器人）在做決策時應(yīng)該對其他智能體或數(shù)據(jù)流的信任程度。研究人員認為，建立這種信任框架對于未來開發(fā)安全可靠的互聯(lián)系統(tǒng)至關(guān)重要。
傳統(tǒng)的網(wǎng)絡(luò)安全基礎(chǔ)設(shè)施旨在保護軟件和數(shù)據(jù)免遭濫用或竊取，通常側(cè)重于誰可以訪問系統(tǒng)。但對于必須實時協(xié)調(diào)的機器人、車輛或智能設(shè)備集群而言，Gil及其同事認為，這些傳統(tǒng)的安全措施遠遠不夠。
該論文探討了多智能體網(wǎng)絡(luò)物理系統(tǒng)特有的威脅，包括單個智能體的惡意或“貪婪”行為會擾亂協(xié)同——例如，自動駕駛汽車加速插隊，造成危險的并線。這也可能意味著眾包交通地圖中存在虛假或篡改的數(shù)據(jù)，黑客可以利用這些數(shù)據(jù)重新規(guī)劃交通路線以達到不正當目的?；蛘?，在執(zhí)行搜救任務(wù)的智能體集群中，被黑客入侵的智能體可以偽造其位置，謊稱自己身處其他地方，從而造成監(jiān)控漏洞。
所有這些例子都可能在現(xiàn)實世界中造成實際危害，例如引發(fā)事故、危及行人安全或影響應(yīng)急響應(yīng)。然而，該論文也指出，這種“具身化”系統(tǒng)具有一項關(guān)鍵優(yōu)勢，即其內(nèi)置了獨立的傳感器和計算機系統(tǒng)。
Gil及其合作者提出，車載傳感器（例如攝像頭、激光雷達、雷達和GPS）可用于交叉驗證從其他智能體或云端接收的信息，以此作為內(nèi)置的信任度量。對接收到的無線通信應(yīng)用信號處理技術(shù)，可以讓每輛車或機器人驗證數(shù)據(jù)的來源。
他們設(shè)想：每個智能體可根據(jù)感知、上下文、網(wǎng)絡(luò)行為和過往經(jīng)驗等線索，為來自其他智能體的數(shù)據(jù)分配一個介于0和1之間的數(shù)值信任值。這些值將決定每條信息對智能體決策的影響程度；例如，如果共享出行車隊中的某輛車的信任值較低，其他車輛可能會選擇忽略它，以避免整個系統(tǒng)崩潰。
Gil表示：“這種網(wǎng)絡(luò)信任的概念與我們熟悉的心理信任有著明顯的相似之處。心理信任是指在風險不可避免的環(huán)境中接受風險的一種方式，在這種環(huán)境中，你無法完全獲取信息，但你仍然需要做出決策。”
Gil已經(jīng)在實驗室里測試了這些想法。
在一組實驗中，一組藍隊機器人代表試圖達成共識的合作智能體——例如，確定行進方向以便作為一個小隊行動——而一組紅隊機器人則模擬攻擊者，通過創(chuàng)建虛假身份發(fā)起“女巫攻擊（Sybil Attack）”，破壞網(wǎng)絡(luò)。
通常情況下，聯(lián)網(wǎng)機器人會簡單地接受每條消息并運行標準的分布式共識或優(yōu)化算法，這使得它們很容易受到攻擊。紅隊機器人可以通過偽裝成許多不同的智能體或偽造位置來誘使機器人群體做出不安全或低效的行為。
在Gil的實驗中，每個藍隊機器人監(jiān)聽接收到的無線消息；對物理無線信號進行信號處理；并判斷看似來自多個不同智能體的消息是否實際上來自同一物理源。由此，系統(tǒng)會為每個疑似智能體生成一個信任評分。
隨著時間的推移，系統(tǒng)會學(xué)習(xí)哪些智能體可能具有惡意，并選擇忽略它們的輸入，從而使藍隊機器人能夠繼續(xù)執(zhí)行集體任務(wù)。
研究人員還指出，網(wǎng)絡(luò)信任必須納入政策和法規(guī)才能獲得公眾認可，尤其是在自主協(xié)同系統(tǒng)已經(jīng)蓬勃發(fā)展的當下。共享出行車隊正在鳳凰城和舊金山等城市部署?？ㄜ嚵嘘犘旭偤妥詣榆囮牸夹g(shù)正在積極研發(fā)，旨在簡化供應(yīng)鏈。而像亞馬遜（Amazon）物流中心那樣的自動化倉庫，雖然是在受控環(huán)境中運行，但已經(jīng)依賴于機器人集群。Gil表示，將此類系統(tǒng)推廣到開放世界是令人興奮且合乎邏輯的下一步。
該論文合著者、石溪大學(xué)（Stony Brook University）校長Andrea Goldsmith表示，這篇關(guān)于在網(wǎng)絡(luò)物理系統(tǒng)中建立信任的跨學(xué)科綜述論文“可謂恰逢其時”。他說道：“隨著我們邁入一個物理系統(tǒng)日益依賴云端人工智能控制的多個智能體的世界，我們需要一個嚴謹?shù)目蚣軄碓O(shè)計這些系統(tǒng)，使其安全可靠，能夠抵御惡意攻擊。我們的論文全面概述了最先進的技術(shù)和新的研究方向，旨在設(shè)計安全、穩(wěn)健的協(xié)作式多智能體系統(tǒng)?！?/p>
