“深度偽造”（Deepfake）技術以虛假內容沖擊數字社會信任基石，顛覆“眼見為實”認知范式，嚴重威脅著網絡信息生態安全。除技術反制和法律規制外，探討影響公眾識別深度偽造視頻能力的個體因素，對培養數字認知韌性、制定治理策略有重要意義。
在此背景下，我校傳媒學院王國燕教授的科技傳播團隊與中國科學技術大學俞能海教授的深度偽造技術團隊合作，系統探索了個體認知傾向與視覺素養對深度偽造識別能力的影響。研究成果“Identifying individual differences in deepfake discernment: the effects of cognitive disposition and visual literacy”于4月25日在線發表于傳播學領域中國科學院一區TOP期刊《信息、通訊與社會》（Information ,Communication & Society），我校博士研究生金心怡為第一作者，這是我校以第一作者單位和通訊作者署名單位發表于該刊的首篇論文。
深度偽造檢測工具的運行示意圖（圖片來源：DALL-E借助AI制作）
該研究采用混合方法，量化分析基于對516名參與者的在線調查，驗證了人口學特征、認知傾向、視覺素養和自我評估知識水平等個體差異因素對深度偽造辨識能力的影響。質化分析則用主題分析法，通過開放性問題探究成功識別視頻者的判斷依據，揭示其認知過程與決策邏輯。研究發現，參與者判斷視頻真偽主要依據視頻內容邏輯合理性和技術操縱痕跡。視覺素養與辨別能力緊密相關，解釋性視覺素養高的人能更敏銳捕捉邏輯漏洞，精準識別偽造視頻，而直覺信念與辨識能力呈負相關，依賴直覺思維的人易忽略偽造線索，做出錯誤評估。有關深度偽造技術的知識雖不能直接提升辨識能力，但對識別技術處理痕跡有輔助作用。這證實了信息處理雙加工模型在深度偽造識別場景的適用性，批判性評估的動機和能力是判斷視頻真偽的關鍵因素。
基于研究結果，提升公眾視覺素養或是應對深度偽造負面影響的有效策略。一方面，可通過差異化認知訓練、加深對視覺元素和技術的理解來提升辨別能力。另一方面，可通過提高對深度偽造風險的認識、培養信息決策責任感來增強辨別動機。
該研究深化了對個體評估視覺信息過程及認知和素養差異影響的理解，為制定因人而異的防御模式提供支持，在深度偽造技術泛濫的當下具有迫切的現實意義。
《信息、通訊與社會》（Information， Communication & Society）是SSCI收錄的國際權威期刊，2024年中國學者發表論文共10篇。此前，我校與中國科學技術大學兩課題組合作的相關深度偽造控制實驗研究已于2023年9月發表于新聞傳播學領域中國科學院一區TOP期刊《新媒體與社會》（New Media & Society）。
國家社科基金重大課題“欺騙性人工智能的信息傳播、社會影響與風險治理研究”由王國燕牽頭，中國科學技術大學、華南理工大學、科大訊飛等高校和機構聯合攻關，擬整合多學科力量探索深度偽造視頻、語音詐騙、釣魚軟件、社交機器人水軍等欺騙性人工智能技術的傳播影響與治理路徑。未來，團隊將持續追蹤技術演進帶來的新挑戰，深化研究成果向政策實踐轉化，為欺騙性人工智能的風險治理貢獻智慧。
論文鏈接：https://www.tandfonline.com/doi/full/10.1080/1369118X.2025.2496902
