從數(shù)字廣告到熱門手游,從真主黨的對講機(jī)到自動駕駛汽車,從內(nèi)容推送算法到ChatGPT,貌似“人畜無害”的消費(fèi)技術(shù)的武器化對國家安全的威脅甚至超出了關(guān)鍵基礎(chǔ)設(shè)施漏洞。
近年來,隨著數(shù)字化和人工智能技術(shù)的快速滲透發(fā)展,隱私和人工智能安全(例如訓(xùn)練和交互數(shù)據(jù)泄漏)逐漸成為網(wǎng)絡(luò)安全領(lǐng)域的重要討論話題。然而,這些“消費(fèi)技術(shù)”的影響不僅局限于商業(yè)領(lǐng)域。
最近,熱門手游Pokémon Go(精靈寶可夢)母公司Niantic的工程師自曝其地理空間數(shù)據(jù)可能被政府和軍方購買用于軍事用途。該研究揭示了一個令人擔(dān)憂的趨勢:熱門消費(fèi)技術(shù)正在以我們始料未及的方式改變?nèi)虬踩窬?,可能給國家安全帶來新的隱患,其危害甚至不亞于關(guān)鍵基礎(chǔ)設(shè)施漏洞。
消費(fèi)技術(shù)武器化:從數(shù)字廣告到游戲掃描數(shù)據(jù)
早在2020年,美國國家安全局(NSA)被曝光通過數(shù)字廣告經(jīng)紀(jì)人收集個人數(shù)據(jù),用于追蹤幾乎任何使用智能手機(jī)的目標(biāo)(包括軍事人員和政府工作人員)。該事件讓人們意識到,大規(guī)模的消費(fèi)級數(shù)據(jù)采集與分析不僅能服務(wù)于市場營銷,還可能成為監(jiān)控與情報工作的強(qiáng)大工具。而今,類似的擔(dān)憂從數(shù)字廣告擴(kuò)展到新興的空間計算(Spatial Computing)技術(shù)和增強(qiáng)現(xiàn)實(AR)游戲中。
在11月14日的Bellingcat調(diào)查記者大會上,Niantic工程副總裁布萊恩·麥克倫登(Brian McClendon)發(fā)表了關(guān)于空間計算技術(shù)的演講,提出了一個可能的場景:政府和軍方可能會購買基于Pokémon Go玩家生成的掃描數(shù)據(jù)開發(fā)的人工智能模型。這一模型被稱為“大型地理空間模型(Large Geospatial Model,簡稱LGM),能夠通過分析大量實地數(shù)據(jù)生成高精度的地理空間映射模型。
麥克倫登明確表示,盡管LGM的初衷是服務(wù)消費(fèi)者或研究機(jī)構(gòu),但如果其用途轉(zhuǎn)向軍事領(lǐng)域,特別是用于“增加戰(zhàn)爭強(qiáng)度”,這將是一個“顯然的問題”。他并未排除將LGM或相關(guān)數(shù)據(jù)出售給政府或軍方的可能性。
Niantic的LGM項目依賴于玩家掃描的真實世界數(shù)據(jù),例如Pokémon Go中的“AR映射任務(wù)”和“Pokémon Playgrounds”功能。這些功能激勵玩家掃描公共場所,生成大量獨(dú)特的地理數(shù)據(jù)。
“Niantic的LGM建立在其Lightship視覺定位系統(tǒng)(VPS)之上,該公司表示,該系統(tǒng)“已掃描全球1000萬個位置,其中超過100萬個位置已激活并可通過我們的VPS服務(wù)使用。我們每周收到大約100萬張新掃描,每張都包含數(shù)百張離散圖像。”麥克倫登說道。
這些數(shù)據(jù)從步行視角獲取,與傳統(tǒng)車輛導(dǎo)航系統(tǒng)(如Google Street View)有顯著不同,甚至包括常規(guī)導(dǎo)航系統(tǒng)無法覆蓋的步行路徑。軍方一旦獲取這些高精度、低成本的數(shù)據(jù),將顯著提高其偵察與規(guī)劃能力,因而具有極高的戰(zhàn)術(shù)價值。
對國家安全的潛在威脅
更為令人擔(dān)憂的是,Niantic的LGM技術(shù)不僅可應(yīng)用于游戲領(lǐng)域,在商業(yè)領(lǐng)域和科技發(fā)展方面也充滿潛力,是未來AR眼鏡、機(jī)器人、內(nèi)容創(chuàng)建和自主系統(tǒng)等多個領(lǐng)域的基礎(chǔ)技術(shù)。因此,這種技術(shù)的武器化勢必會引發(fā)廣泛而影響深遠(yuǎn)的倫理和國家安全問題。
雖然Niantic稱其掃描功能基于用戶自愿且“完全可選”,并且強(qiáng)調(diào)數(shù)據(jù)的應(yīng)用僅限于增強(qiáng)用戶體驗的AR功能。然而,大規(guī)模數(shù)據(jù)采集與分析的風(fēng)險在于,這些技術(shù)可能被重新利用于超出公司初衷的用途。正如麥克倫登所提到的,政府和軍方已經(jīng)對這類消費(fèi)技術(shù)表現(xiàn)出濃厚興趣,可能會將其用于軍事戰(zhàn)略、偵察和情報工作。
Pokémon Go的案例提醒我們,熱門應(yīng)用程序和游戲可能成為數(shù)據(jù)采集和監(jiān)控的強(qiáng)大工具。尤其是玩家在不知情的情況下為公司和潛在第三方生成了關(guān)鍵的地理空間數(shù)據(jù)。這種數(shù)據(jù)的規(guī)模和深度使其成為對抗性用途(例如軍事沖突或跨國監(jiān)控)的理想目標(biāo)。
Niantic的LGM項目引發(fā)了外界對于科技公司如何處理用戶數(shù)據(jù)以及這種數(shù)據(jù)如何被利用的更多質(zhì)疑。這也讓我們不得不思考以下問題:
-
消費(fèi)技術(shù)出口的倫理邊界在哪里?如果消費(fèi)技術(shù)可以被用于軍事用途,是否應(yīng)該受到更嚴(yán)格的審查?
-
隱私與透明度如何平衡?用戶是否有權(quán)明確了解他們的(游戲和隱私)數(shù)據(jù)可能的應(yīng)用方向?
-
法律監(jiān)管的空白和盲區(qū)是否需要填補(bǔ)?在科技快速發(fā)展的背景下,政府是否應(yīng)該加快制定相關(guān)法規(guī)?
結(jié)語:警惕消費(fèi)技術(shù)的武器化
從數(shù)字廣告到熱門手游,從真主黨的對講機(jī)到自動駕駛汽車,消費(fèi)技術(shù)正在以我們始料未及的方式影響著全球安全格局。熱門手游Pokémon Go的案例說明,消費(fèi)者數(shù)據(jù)在無意中可能被轉(zhuǎn)化為軍事資源或國家安全資產(chǎn)。這不僅是科技公司需要審慎面對的問題,更是政府、監(jiān)管機(jī)構(gòu)和公眾必須共同思考的議題。
我們進(jìn)入了一個“空間計算”逐漸成為操作系統(tǒng)的時代,LLM將與多模態(tài)模型交互,而多模態(tài)模型又將與LGM通信。這些系統(tǒng)協(xié)同工作,將(幫助AI)以任何單一模型都無法實現(xiàn)的方式理解世界。這種互聯(lián)互通是空間計算的未來——感知、理解和作用于物理世界的智能系統(tǒng),也就是“空間智能”。
在人工智能從文本LLM、多模態(tài)模型到“空間智能”邁進(jìn)的過程中,任何新興消費(fèi)技術(shù)的廣泛應(yīng)用都需要重新評估和平衡創(chuàng)新與安全的需求。在追求技術(shù)進(jìn)步的同時,確保國家安全和個人隱私不受威脅。