近期，境外掀起一股利用AI深度偽造視頻的新型“自騙”攻擊浪潮。據網絡安全公司Gen Digital的研究表明，該類型攻擊在2024年第三季度針對加密貨幣愛好者和金融交易者激增了614%。攻擊者通過攻陷的境外視頻網站發布經過精心制作的深度偽造人物視頻，這些視頻采用先進的面部動畫、語音合成和身體動作復制技術，極具迷惑性。
其中一起案例，名為“托馬斯·哈里斯“和“托馬斯·羅伯茨”的深度偽造合成人物視頻頻道誘導受害者執行從paste-sharing網站獲取的惡意PowerShell命令，聲稱可以激活一個虛構的 “AI 驅動的開發者模式”，且該模式可以以 97% 的準確率預測加密貨幣市場趨勢。實際上，這些頻道則是通過操縱受害者執行惡意命令來竊取加密貨幣錢包、瀏覽器憑據，并完全控制受害者系統，給加密貨幣市場帶來了巨大的安全隱患。
頻道圖片隨著人工智能技術的迅猛發展，利用深度偽造視頻進行違法犯罪的事件屢見不鮮，已成為社會安全的新威脅。針對這一新興的犯罪趨勢，某司依托在深度合成和生成式AI技術領域的深厚積累，推出慧眼視頻圖像鑒真工作站、“內容鑒真平臺”微信小程序等智能裝備和產品，全面支撐人工智能生成視頻圖像、音頻和文本等多媒體內容的檢測、鑒定和溯源工作，為有效打擊利用AI技術進行的犯罪行為提供了有力的技術保障。
“鑒真平臺”微信小程序支持DeepSeek、文心一言、ChatGPT、ChatGLM、Qwen等13種國內外主流大模型產品生成文本的檢測；支持豆包、即夢AI，通義萬相，文心一格等30余種主流算法生成圖像的檢測；支持清影，CogvideoX，可靈AI等10余種主流算法生成視頻的檢測；支持DeepfaceLab、Facefusion、LatentSync等40余種主流AI合成算法所合成的圖像和視頻的檢測。
圖片/視頻鑒真
特別是在應對深度偽造視頻圖像方面，自主研發的慧眼視頻圖像鑒真工作站已經發布了全新版本，具有智能鑒定和專業鑒定兩種鑒定模式，涵蓋40余種鑒定算法，近10種深偽鑒定算法，針對ps篡改，深偽合成，AI生成的視頻圖像進行檢測鑒定，支持卷宗管理和報告生成，為鑒定人員提供一站式視頻圖像檢驗鑒定服務。并且符合GA／T1021-2013《視頻圖像原始性檢驗技術規范》、GA／T 1022-2013《視頻圖像真實性檢驗技術規范》、SF/T 0119-2021《聲像資料鑒定通用規范》、SF/T 0153—2023《圖片真實性鑒定技術規范》、SF/T 0148-2023《合成人臉圖像鑒定技術規范》等視頻圖像真實性、原始性、合成人臉檢驗鑒定技術規范標準，可有效支持本次人工智能偽造圖像鑒定能力驗證的要求。
AI-3300慧眼視頻圖像鑒真工作站為確保人工智能技術的健康發展，需全社會共同努力。未來，我們將積極鉆研大模型技術、生成式AI及AI安全三大領域，旨在攜手行業伙伴，為打擊此類新型網絡犯罪提供技術支撐，共同維護和保障人工智能的健康發展與規范應用，讓技術真正惠及人類社會。
