- 工聯網
- 作者：甄清嵐
- 2024年8月20日 07:28
工聯網消息(IItime) 據央視網消息，我國AI換臉詐騙檢測與預警技術正在測試中。
工業和信息化部反詐工作專班專家李坤表示：“我們正在會同行業內的手機終端企業，將推出AI換臉詐騙風險提醒功能，這項功能僅在手機端來本地運行，能夠有效保護用戶數據不泄露。經過用戶授權后，可為用戶提供AI換臉詐騙風險預警提醒。”
隨著AI技術的不斷發展，AI換臉詐騙案例時有發生。例如，一些不法分子利用AI換臉技術冒充親友進行詐騙，讓受害者防不勝防。他們通過獲取受害者親友的社交網絡照片和視頻，合成逼真的換臉內容，編造緊急情況向受害者借錢，受害者往往因為情感因素和對親友的信任而上當受騙。近日，四川攀枝花市民王先生突然收到“外甥”添加微信好友請求，稱想借錢周轉，騙子為取得王先生信任，利用“AI換臉”技術發起視頻通話。2024年1月，一家跨國公司香港分公司的財務人員收到受邀參加總部首席財務官發起的“多人視頻會議”，并按照要求先后轉賬多次，將2億港元分別轉賬15次，轉到5個本地銀行賬戶內，據香港媒體報道，詐騙分子是利用了人工智能的深度偽造技術，從國外視聽網站YouTube上下載了視頻，模仿了公司高層人員的聲音再對受害者發出行動指示。
AI換臉詐騙不僅給個人帶來了經濟損失，也對社會信任體系造成了嚴重沖擊。在這樣的背景下，我國AI換臉詐騙檢測與預警技術的測試顯得尤為重要。
在這樣的背景下，我國AI換臉詐騙檢測與預警技術的測試顯得尤為重要。可以增強公眾防范意識，降低被騙幾率；保障用戶數據安全，防止了未經許可的數據訪問和使用；利于打擊AI換臉詐騙犯罪，一旦發生詐騙案件，可快速鎖定犯罪嫌疑人使用的技術和來源渠道，協助破案；推動AI技術合規、有序發展，該功能的推廣和應用，也促使相關部門不斷完善相關法律法規，加強對AI換臉等深度合成技術的監管和管理，保障公眾的合法權益和安全；提升用戶體驗，增強手機終端競爭力。
然而，技術的應用只是防范詐騙的一個方面。加強公眾的防范意識同樣不可或缺。相關部門應通過多種渠道，如社交媒體、公益廣告、社區宣傳等，向大眾普及AI換臉詐騙的手段和特點，提高公眾的識別能力。
這項技術的推出，無疑為防范此類詐騙提供了新的利器，相信在多方的共同努力下，我們能夠有效遏制AI換臉詐騙的蔓延，為公眾營造一個更加安全、可信的網絡環境。
