近日，包頭市公安局公布福州市某科技公司法人代表郭先生因為AI換臉，10分鐘內被騙430萬元的案件引發對人工智能安全的廣泛熱議。

對此，馬上消費人工智能研究院智能核身專家馮月表示，“活體防偽、中介識別等技術的核心功能便是能夠避免人臉識別的自身缺陷，有效識別照片、視頻、面具、仿真模型等，特別是本事件中出現的換臉、變聲欺詐行為。”

對于AI帶來的潛在風險，“AI教父”辛頓在接受《紐約時報》采訪時曾如此表示，“相較于氣候變化，AI可能對人類的威脅‘更緊迫’。”

【資料圖】

結合現實，此言并非“危言聳聽”。在AIGC以迅雷之勢掀起AI發展新起點的同時，潘多拉魔盒中的“惡”已在逐步顯現。

防范技術之“惡”：眼見不一定為實

據“平安包頭”微信公眾號消息近日顯示，包頭市公安局電信網絡犯罪偵查局發布一起電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元，幸運的是336.84萬元被騙資金已經被攔截，而其中用到的便是“智能AI換臉和擬聲技術”。他們是怎么做到的呢？

這是一個復雜的過程，從新聞本身看，受害人郭先生的視角里主要是被換臉技術和擬聲技術所欺騙，但事件背后可能還暗含了一些其它條件，比如犯罪分子是通過什么渠道與受害人建立的聯系、如何獲取的相關社交軟件的賬號、如何知道他需要冒充誰、如何獲取對應的圖像和聲音物料、以及如何挑選被害人。

如果我們聚焦到換臉技術和擬聲技術兩個關鍵問題上，它主要的難題就是基礎數據的獲取、訓練框架、實時渲染三項。數據層面上，從社交媒體等社工庫可以獲取冒充對象的影音信息，亦或者是從丟失的黑產手機的相冊、聊天記錄中提取。訓練框架上，目前國內幾個主流的短視頻平臺的剪輯軟件中都支持換臉特效，并且沒有警示信息，國外的開源框架中合成方法超過30種。在實時渲染上，通過對手機刷機、安裝侵入軟件等攻擊操作也可以實現劫持渲染。

因此，“眼見不一定為實”，技術背后總有處心積慮之“惡”，不可不防。

防患于未然，用“魔法”打敗“魔法”

風險不可避免，又該怎樣利用“魔法”打敗“魔法”？

目前，許多金融機構已有相關的落地舉措與相關技術應用。比如活體防偽、中介識別等技術在金融業務場景中也已得以應用。

“活體防偽、中介識別等技術的核心功能便是能夠避免人臉識別的自身缺陷，有效識別照片、視頻、面具、仿真模型等，特別是本事件中出現的換臉、變聲欺詐行為。” 馬上消費人工智能研究院智能核身專家馮月表示，”馬上消費金融基于此類技術創新，目前能夠做到將99%的批量欺詐攻擊攔截在外，有效防范偽造信息、中介代辦、偽冒申請、多頭借貸、電信詐騙等風險。“

相較于處于整體環節末端的金融機構，更前一步的，社交軟件有義務引入鑒偽機制，并實時對用戶進行通話鑒真提醒，標記對端用戶是否有行為異常、圖像偽造異常、聲音偽造異常。更早的風險提示信息，可以更有效地阻隔風險結果的發生。

除平臺方面的相關落地，公眾也可以采取一些自救措施，目前有一類技術可以保障用戶的數據不被用于換臉、變聲，這類技術叫對抗樣本技術。以人臉圖像為例，通過對該圖像混入肉眼不可見的對抗擾動蒙版，可以使換臉技術失效。用戶可以使用該類技術對自己社交媒體公開的圖像、語音等媒體信息進行對抗保護后再公開。

最后，“防范意識”是一切“魔法”的基石，公眾也需加強對于個人物品、信息的安全性保護。

“不要隨便點擊不明的短信鏈接、郵件鏈接等，不隨意掃描不明來源二維碼、下載APP，不輕易提供人臉等個人生物信息給他人，不輕易透露自己的身份證、銀行卡、驗證碼等信息，不過度公開或分享動圖、視頻等。”馮月建議。”無法保證手機等移動設備不丟失，可以在平時定期清理微信聊天記錄，具有親近關系的人隱藏相關痕跡，將手機相冊加密、或者啟動手機的數據保護功能等，這些日常行為都有可能將詐騙攔截在外。“

久久為功、循序漸進。防范人工智能技術被“惡用”，仍將是數字化時代下的核心課題。