編者按
美國新聞網(wǎng)站“攔截”8月25日曝光稱，美國特種作戰(zhàn)司令有意獲取機器學(xué)習(xí)技術(shù)，以便在海外開展人工智能宣傳活動。
美國特種作戰(zhàn)部隊采購、技術(shù)和后勤中心的文件提供了美國特種作戰(zhàn)部隊近期軍事技術(shù)愿望清單，披露了美國特種作戰(zhàn)司令部希望在未來5到7年內(nèi)采購的各類裝備的新細節(jié)，其中包括可用于信息戰(zhàn)的機器學(xué)習(xí)軟件。文件顯示，美國特種作戰(zhàn)司令部正在尋找能夠利用具有專門角色的代理式人工智能或多大語言模型代理系統(tǒng)來擴大影響力行動規(guī)模的能力的承包商，以增強用于“軍事信息支援行動”（MISO）的先進技術(shù)。該文件指出，信息環(huán)境快速變化，軍事部門無法充分吸引和影響互聯(lián)網(wǎng)上的受眾，建立支持美國特種作戰(zhàn)司令部目標的項目有助于實時掌控敘事并影響受眾。
文件顯示，美國特種作戰(zhàn)司令部希望獲取與外國能力高度匹配的技術(shù)，利用機器人搜索和吸收大量互聯(lián)網(wǎng)聊天，以便更好地說服目標人群或個人就任何特定主題發(fā)表意見；美國特種作戰(zhàn)司令部希望利用自動化系統(tǒng)抓取信息環(huán)境，分析形勢，并根據(jù)MISO的目標做出回應(yīng)；美國特種作戰(zhàn)司令部希望，相關(guān)技術(shù)能夠回復(fù)帖子，壓制異議，并生成可供參考的原始資料，以支持友好的論點和信息；美國特種作戰(zhàn)司令部還希望，該程序能夠訪問試圖反駁或抹黑美方信息的個人或團體的個人資料、網(wǎng)絡(luò)和系統(tǒng)，利用所獲得的信息，創(chuàng)建更有針對性的信息，以影響特定的個人或團體；美國特種作戰(zhàn)司令部預(yù)計將使用生成式系統(tǒng)來制作宣傳信息，并模擬相關(guān)宣傳傳播后的接受情況；美國特種作戰(zhàn)司令部希望能夠使用能夠復(fù)制團隊中不同角色成員所需的特定知識、技能、能力、性格特征和社會文化屬性的代理系統(tǒng)，然后集思廣益，并針對基于代理的個人和團體摹本測試作戰(zhàn)行動，使MISO規(guī)劃人員能夠?qū)嶒灮驕y試各種不同的場景；美國特種作戰(zhàn)司令部還希望獲取進攻性深度造假能力。
奇安網(wǎng)情局編譯有關(guān)情況，供讀者參考。
美國新聞網(wǎng)站“攔截”審查的美國特種作戰(zhàn)司令部文件顯示，美國希望利用機器學(xué)習(xí)在海外制作和傳播宣傳，以“影響外國目標受眾”和“壓制不同意見”。
該文件類似于一份美國特種作戰(zhàn)部隊近期軍事技術(shù)愿望清單，披露了美國特種作戰(zhàn)司令部希望在未來5到7年內(nèi)采購的各類裝備的新細節(jié)，包括最先進的攝像頭、傳感器、定向能武器以及其他幫助作戰(zhàn)人員找到并擊斃目標的設(shè)備。美國特種作戰(zhàn)司令部希望采購的技術(shù)中，包括可用于信息戰(zhàn)的機器學(xué)習(xí)軟件。
為了加強其“軍事信息支援行動（MISO）的先進技術(shù)增強”，美國特種作戰(zhàn)司令部正在尋找能夠“利用具有專門角色的代理式人工智能或多大語言模型（LLM）代理系統(tǒng)來擴大影響力行動規(guī)模的能力”的承包商。
所謂的“代理式”系統(tǒng)使用機器學(xué)習(xí)模型，據(jù)稱只需極少的人工指令或監(jiān)督即可運行。這些系統(tǒng)可以與大語言模型（LLM）結(jié)合使用，例如ChatGPT，后者可以根據(jù)用戶提示生成文本。盡管許多市場宣傳都圍繞著這些代理式系統(tǒng)和LLM執(zhí)行在線購物和訂票等日常任務(wù)的潛力，但美國特種作戰(zhàn)司令部認為，這些技術(shù)可能非常適合運營一個自主的宣傳機構(gòu)。
該文件指出，“信息環(huán)境變化太快，軍事部門無法充分吸引和影響互聯(lián)網(wǎng)上的受眾。建立一個支持我們目標的項目，可以讓我們實時掌控敘事并影響受眾。”
美國法律和五角大樓的政策通常禁止軍事宣傳活動針對美國受眾，但互聯(lián)網(wǎng)的多孔性使得這一點難以保證。
美國特種作戰(zhàn)司令部發(fā)言人丹·萊薩德在一份聲明中承認，美國特種作戰(zhàn)司令部正在追求“尖端的、人工智能支持的能力”。他表示，“所有人工智能功能均在美國防部負責任的人工智能框架下開發(fā)和使用，該框架要求人工監(jiān)督和決策，以確保問責制和透明度。美國特種作戰(zhàn)司令部基于互聯(lián)網(wǎng)的MISO工作符合美國法律和政策。這些行動不針對美國公眾，旨在應(yīng)對日益復(fù)雜的全球挑戰(zhàn)，支持國家安全目標。”
盡管OpenAI的ChatGPT和谷歌的Gemini等工具容易出現(xiàn)事實錯誤和其他不穩(wěn)定的輸出，但它們的人氣卻飆升。它們能夠立即生成幾乎任何主題、幾乎任何語氣的文本——從隨意的噴子到偽學(xué)術(shù)——這可能標志著互聯(lián)網(wǎng)宣傳人員的一次重大飛躍。這些工具使用戶能夠針對任意數(shù)量的受眾微調(diào)信息，而無需投入時間或人力成本。
人工智能生成的宣傳是否有效仍是一個懸而未決的問題，但這種做法在現(xiàn)實生活中已被充分記錄。2024年5月，OpenAI發(fā)布了一份報告，揭露了伊朗、俄羅斯等國的行為者試圖利用該公司的工具進行秘密影響力活動，但發(fā)現(xiàn)這些活動均未取得特別顯著的成功。美國布魯金斯學(xué)會的杰西卡·布蘭特在2023年美參議院人工智能洞察論壇前的評論中警告稱，“大語言模型（LLM）可以提高信息宣傳的個性化，從而增強其說服力。”她警告稱，在一個充斥著人工智能信息戰(zhàn)活動的在線生態(tài)系統(tǒng)中，“人們對客觀真相存在的懷疑可能會增加”。2024年發(fā)表在學(xué)術(shù)期刊PNAS Nexus上的一項研究發(fā)現(xiàn)，“語言模型生成的文本對美國受眾的說服力幾乎與我們從現(xiàn)實世界外國秘密宣傳活動中獲取的內(nèi)容一樣強。”
毫不奇怪，美國國家安全機構(gòu)現(xiàn)在堅稱，如果這項技術(shù)掌握在俄羅斯等外國勢力手中，將構(gòu)成最可怕的威脅。為應(yīng)對上述外來威脅，美國范德堡大學(xué)政治學(xué)教授布雷特·本森和前美國防部官員布雷特·戈德斯坦認為，美國政府、學(xué)術(shù)界和私營部門必須采取“協(xié)調(diào)一致的應(yīng)對措施”。他們認為，這種應(yīng)對措施本質(zhì)上是防御性的：追蹤并反擊外國的人工智能宣傳。
這并不是美國特種作戰(zhàn)部隊采購、技術(shù)和后勤中心的文件所表明的五角大樓所尋求的。這些材料表明，美國特種作戰(zhàn)司令部認為，它需要與外國能力高度匹配的技術(shù)，利用機器人搜索和吸收大量互聯(lián)網(wǎng)聊天，以便更好地說服目標人群或個人就任何特定主題發(fā)表意見。
美國特種作戰(zhàn)司令部表示，它特別希望“自動化系統(tǒng)能夠抓取信息環(huán)境，分析形勢，并根據(jù)MISO的目標做出回應(yīng)。這項技術(shù)應(yīng)該能夠回復(fù)帖子，壓制異議，并生成可供參考的原始資料，以支持友好的論點和信息。”
美國五角大樓正在密切關(guān)注那些可能揭露其宣傳努力的人。該文件指出，“該程序還應(yīng)該能夠訪問那些試圖反駁或抹黑我們信息的個人或團體的個人資料、網(wǎng)絡(luò)和系統(tǒng)。該程序應(yīng)該利用所獲得的信息，創(chuàng)建更有針對性的信息，以影響特定的個人或團體。”
該文件指出，美國特種作戰(zhàn)司令部預(yù)計將使用生成性系統(tǒng)來制作宣傳信息，并模擬這些宣傳一旦被傳播出去后會如何被接受。美國特種作戰(zhàn)司令部希望能夠使用“能夠復(fù)制團隊中不同角色成員所需的特定知識、技能、能力、性格特征和社會文化屬性的代理系統(tǒng)”，然后“集思廣益，并針對基于代理的個人和團體摹本測試作戰(zhàn)行動”。這些模擬比焦點小組更為復(fù)雜，需要“構(gòu)建涵蓋整個社會的綜合模型，使MISO規(guī)劃人員能夠使用這些模型來實驗或測試各種不同的場景”。
美國特種作戰(zhàn)司令部的愿望清單繼續(xù)包括對進攻性深度造假能力的需求，該消息于2023年由“攔截”首次報道。
大語言模型可能會無休止地炮制精心制作的宣傳，這一前景令人擔憂——但一般來說，美國是目標，而不是實施者。
美國國務(wù)院資助的非營利組織“自由之家”在2023年發(fā)布的一份報告中警告了“人工智能的壓制力量”，并預(yù)測“隨著惡意行為者開發(fā)出更多繞過安全措施和利用開源模型的方法，人工智能輔助的虛假宣傳活動將激增”。“自由之家”的報告警列舉了俄羅斯等國的潛在用途，但僅在關(guān)于羅恩·德桑蒂斯和唐納德·特朗普總統(tǒng)競選活動以及一段被篡改成喬·拜登發(fā)表恐跨性別言論的深度造假視頻的簡短章節(jié)中提到了該技術(shù)的國內(nèi)應(yīng)用。前美國國家安全委員會新興技術(shù)主管安德魯·洛恩表示，一個能夠覆蓋全球的自動化宣傳機器在多大程度上會引起公眾的關(guān)注，取決于其應(yīng)用范圍。他稱，“如果一些外國士兵誤以為我們的特別行動將于周三早上通過直升機從東部進行，而不是周二晚上通過船從西部進行，我不會那么擔心。”
美軍有出于政治或意識形態(tài)目的操縱平民的歷史。一個令人不安的例子在2024年被揭露。路透社報道稱，美國國防部在社交媒體上開展了一場秘密的反疫苗運動，旨在削弱公眾對中國新冠疫苗的信心，擔心其有效性可能會使亞洲國家與一個主要的地緣政治對手走得更近。美國五角大樓發(fā)布的推文稱中國科興疫苗是“假的”且不可信的，而世界衛(wèi)生組織稱其“安全有效”的。據(jù)路透社報道，時任美國太平洋特種作戰(zhàn)司令部指揮官喬納森·布拉加通過支持這場秘密宣傳運動，“敦促他在華盛頓的上司在所謂的信息空間進行反擊”。
蘭德公司專注于機器學(xué)習(xí)系統(tǒng)和五角大樓采購的地緣政治行為科學(xué)家威廉·馬塞利諾表示，此類系統(tǒng)的建立是出于必要。他稱，“像俄羅斯這樣的政權(quán)正在利用人工智能進行大規(guī)模的惡意影響活動”，對抗這些活動可能需要大規(guī)模的人工智能響應(yīng)。
近年來，美國特種作戰(zhàn)司令部公開表示希望開發(fā)基于人工智能的宣傳系統(tǒng)。這些聲明表明，其興趣范圍更廣泛，涵蓋了針對整個人口的影響力行動，而非僅僅針對軍事人員。
2019年，美國五角大樓一位高級特種作戰(zhàn)官員在一次國防研討會上表示，美國“需要超越20世紀的信息傳遞方式，開始將影響力視為現(xiàn)代非常規(guī)戰(zhàn)爭的一個組成部分”。這位官員指出，這“還需要在世界各地建立超越傳統(tǒng)行為體的新伙伴關(guān)系，努力擴大非政府組織和個人的聲音，讓競爭對手的惡意活動更加透明。”2020年，時任美國特種作戰(zhàn)司令部司令理查德·克拉克表達了他對利用人工智能實現(xiàn)這些目標的興趣。
理查德·克拉克在2020年發(fā)表的講話中表示，“當我們考慮在這種信息環(huán)境中影響和塑造的能力時，我們必須擁有人工智能和機器學(xué)習(xí)工具，特別是針對影響范圍非常廣泛的信息作戰(zhàn)，因為我們必須了解對手的想法、民眾的想法，并在這些領(lǐng)域開展工作。”
AI Now Institute首席科學(xué)家、OpenAI前安全工程師海蒂·克拉夫警告不要采取以牙還牙的做法，稱“將生成式人工智能和代理式人工智能的使用僅僅視為對對手使用的一種緩解措施是對這項技術(shù)的誤解，因為進攻和防御實際上是同一枚硬幣的兩面，他們能夠以與對手完全相同的方式使用它。”
美國大西洋理事會數(shù)字取證研究實驗室高級研究員埃默森·布魯金表示，自動化的網(wǎng)絡(luò)影響力活動最終可能收效甚微。他稱，“俄羅斯一直在使用人工智能程序來自動化其影響力行動。這些程序效果并不好。”
埃默森·布魯金警告稱，大語言模型在用戶提示下編造謊言和延續(xù)先入之見的傾向也可能成為一大隱患。他稱，“當他們肩負著了解一個復(fù)雜且研究不足的國家‘民心’的任務(wù)時，他們可能會嚴重依賴人工智能的幫助，而人工智能很可能會告訴他們那些他們本來就想聽到的東西。”
海蒂·克拉夫表示，科技公司大力宣傳的“代理式”系統(tǒng)是獨立的數(shù)字大腦，但這些系統(tǒng)仍然容易出錯且難以預(yù)測。她稱，“在這些虛假信息宣傳活動中引入代理式人工智能，增加了安全方面的擔憂，因為多項研究結(jié)果表明，我們很容易就能破壞和操控代理式人工智能的行為。如果這些安全問題得不到解決，美國特種作戰(zhàn)司令部的宣傳活動不僅可能受到損害，而且還可能產(chǎn)生非預(yù)期的材料。”
埃默森·布魯金還指出，美國此前的網(wǎng)絡(luò)宣傳活動記錄良莠不齊。2022年，研究人員揭露了一個由美國中央司令部秘密運營的推特和臉書賬戶網(wǎng)絡(luò)，該網(wǎng)絡(luò)一直在推送包含反俄羅斯和反伊朗言論的虛假新聞文章。該網(wǎng)絡(luò)在這兩個社交網(wǎng)絡(luò)上都未能獲得關(guān)注，很快就讓美國五角大樓感到尷尬。他稱，“我們從其他公開報道中得知，美國長期以來一直試圖‘壓制不同意見’，并在某些行動領(lǐng)域制造正面報道。我們也知道，這些努力收效甚微，一旦被美國公眾知曉，可能會令人深感尷尬或適得其反。人工智能往往會讓這些行動變得更加愚蠢，而不是更加有效。”
首發(fā) | 浮空器——空中巨無霸或?qū)⒅卣剐埏L(fēng)并演繹新傳奇
