近年來，隨著人工智慧技術的進步，一些不法分子開始利用AI技術融合他人面孔和聲音，製造非常逼真的合成圖像來實施新型網路詐騙，這類騙局常常會在短時間內給被害人造成較大損失。我們應該如何看清這類AI“深度造假”？辨別“AI換臉”有沒有什麼好方法？我們先來看看近期發生在陝西西安的一起“AI換臉”詐騙案例。
陝西西安財務人員張女士與老闆視頻通話，老闆要求她轉帳186萬元到一個指定帳號。
被害人 張女士：老闆讓把這個款趕緊轉過去，這個款非常著急，因為他聲音還有視頻圖像都跟他人長得一樣的，所以就更確信這筆款是他說的了，然後我直接就把這筆款轉了。
轉帳之後，張女士按照規定將電子憑證發到了公司財務內部群裡，然而出乎意料的是，群裡的老闆看到資訊後，向她詢問這筆資金的來由？
被害人 張女士：然後我們就打電話再跟老闆去核實，老闆說他沒有給我發過視頻，然後也沒有說過這筆轉帳。
意識到被騙的張女士連忙報警求助，警方立刻對接反詐中心、聯繫相關銀行進行緊急止付，最終保住了大部分被騙資金156萬元。
AI“多人換臉”詐騙案 騙走2億港元
一百多萬的現金，對大部分人來說都算是一筆鉅款了，好在警方處理及時，挽回了大部分損失，下面我們再來看另一起案例，這起案例的“換臉”技術難度更高，涉案金額也更大。近期， 香港警方也披露了一起AI”多人換臉”詐騙案，涉案金額高達2億港元。
在該起案件中，一家跨國公司香港分部的職員，受邀參加總部首席財務官發起的多人的視訊會議。並按照要求，前後轉帳多次，將2億港元轉帳到5個本地銀行帳戶內，其後向總部查詢方知受騙。警方調查得知，這起案件中，所謂的視訊會議中，只受害者一包養行情人為“真人”，其餘所謂參會人員，全部是經過AI換臉後的詐騙人員。
看完這兩起案例，您一定有些好奇，AI換臉背後的技術原理到底是什麼？在技術層面，它是如何實現人臉的精確識別與替換，創造出逼真效果？我們來聽聽專家的講解。
技術上如何實現人臉精確識別與替換
中國網路空間安全協會人工智慧安全治理專委會專家 薛智慧：AI換臉過程主要包括人臉識別追蹤、面部特徵提取、人臉變換融合、背景環境渲染、圖像與音訊合成等幾個關鍵步驟。其背後最核心的包括為三個部分，首先，利用深度學習演算法精准地識別視頻中的人臉圖像，並提取出如眼睛、鼻子、嘴巴等關鍵面部特徵。其次，將這些特徵與目標人臉圖像進行匹配、替換、融合。最後，通過背景環境渲染並添加合成後的聲音，生成逼真度較高的虛假換臉視頻。
快速AI“換臉”僅通過一張照片就可完成
為了瞭解AI換臉到底能有多麼逼真，記者經過與專業技術人員合作，深度體驗了AI換臉技術。
技術人員首先用手機給記者拍了一張臉部照片，導入到AI人工智慧軟體後，讓記者驚訝的是，雖然電腦攝像頭前的是技術人員，但是輸出的確是記者的照片，幾乎可以說是“一鍵換臉”，不需要複雜的環境和解壓操作。
更令人驚訝的是，隨著技術人員面部表情變化，照片上記者的臉也跟著一起發生了相應變化。
記者：為什麼技術人員這張臉動，我的照片會跟著動呢？
中國網路空間安全協會人工智慧安全治理專委會專家 薛智慧：首先通過視頻的採集，能夠把圖片裡這個人臉的面部追蹤定位到，定位到以後第二步他能夠做一個人臉的面部特徵點的採集和提取，主要就是包括嘴、鼻子跟眼睛相關的這些明顯的面部特徵。採集到以後， 第三步就跟把這張原始的照片，做一個變換跟融合跟整形。
記者：通過這張照片還可以做到什麼？
中國網路空間安全協會人工智慧安全治理專委會專家 薛智慧：當前通過這張照片技術人員已經讓這張照片能夠動起來，活起來了，而如果更進一步的將這張照片存下來，能夠存儲大量的照片的話。後期可以把這張照片合成一段簡短的視頻發佈出來。
人工智慧人臉檢測技術主要通過深度學習演算法實現，這種技術能夠識別出面部特徵並對包養其進行精准的分析。可以將一個人的面部表情從一張照片或視頻中提取出來，並將其與另一個人的面部特徵進行匹配。專家告訴記者，如果想要實現視頻即時通話時採用人工智慧AI換臉技術，一張照片是遠遠不夠的，那就需要不同角度的近千張照片的採集。
中國網路空間安全協會人工智慧安全治理專委會專家 薛智慧：如果要即時點對點交流的話，需要再採集更多的照片，完了進行深度學習演算法模型的訓練，訓練出來這個模型以後灌到咱們這個視頻裡去，就可以做即時的變化跟轉換了。這種情況下，就可以做到即時的變臉。聲音的交流也可以，需要預先採集一些咱們目標人群當中的聲音，然後進行模型的訓練，能夠把目標人群的聲音還原出來。
AI生成模擬度極高視頻 難度高投入大
專家介紹，以詐騙為目的，實施點對點視頻通話，需要AI人工智慧生成模擬度極高的視頻。想要達到以假亂真效果用於詐騙，難度不小。
中國電腦學會安全專業委員會數位經濟與安全工作組成員 方宇：針對詐騙，其實主要是通過點對點的視頻通話，這時候如果採用換臉技術和聲音合成做即時的換臉詐騙的話，想要完成這些技術操作，就需要投入很強的技術支援。
中國網路空間安全協會人工智慧安全治理專委會專家 薛智慧：背後需要有大量的資金的投入，包括圖片的採集，包括專業演算法的人員等等，需要很長的一個週期，包括一些算力演算法。各方面的投入，需要長時間不斷地反覆運算，進行操作，才能達到一個相當逼真的效果，才有可能實現到詐騙的實際效果。
目前AI“換臉”更多應用於娛樂視頻錄製
除了一些不法分子企圖利用AI技術實施詐騙，事實上，近年來，AI技術更多地被應用於短視頻的二次創作，屬於娛樂性質，越來越多的名人AI換臉視頻出現在網路上，不少網友感歎，這類視頻“嘴型、手勢都對得上，太自然了，差點兒以為是真的。”
比如這款軟體，拍下記者面部照片後，就能錄製生成出一段記者秒變賽車手的視頻。
△網友發佈的女士系絲巾原版視頻
△需要變換的臉的照片
△生成視頻
中國電腦學會安全專業委員會包養網數字經濟與安全工作組成員 方宇：AI技術目前我們常看到的主要是短視頻換臉，通過做一些特定的動作，跳舞啊等等。這些視頻其實看起來是有一些不自然的，本身也是純屬於娛樂性質的換臉。
記者發現在手機應用商城中，有數十款換臉軟件，都可以做到換臉的目的。
中國網路空間安全協會人工智慧安全治理專委會專家 薛智慧：如果從娛樂大眾的角度來說的話，現在市面上也有很多的這些軟體和工具，能夠達到AI換臉的效果，但是模擬度只有六七分的樣子，大眾直接就能看出來。但是如果要生成一個詐騙視頻來說話，就要生成咱們模擬度極高的這種點對點視頻。
AI技術“換臉換聲”可能存在法律風險
不過，AI技術也是把“雙刃劍”，即使是出於娛樂使用AI換臉、AI換聲，也是存在法律風險的。法律專家表示，用AI技術為他人換臉換聲甚至翻譯成其他語言並發佈視頻，可能涉嫌侵權，主要有三個方面：
一是涉嫌侵犯著作權，例如相聲、小品等都屬於《中華人民共和國著作權法》保護的“作品”。例如網友用AI軟體將相聲、小品等“翻譯”成其他語言，需經過著作權人授權，否則就存在侵權問題。
二是涉嫌侵犯肖像權，根據《中華人民共和國民法典》，任何組織或者個人不得以醜化、汙損，或者利用資訊技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得製作、使用、公開肖像權人的肖像，但是法律另有規定的除外。
三是涉嫌侵犯聲音權，根據《中華人民共和國民法典》規定，對自然人聲音的保護，參照適用肖像權保護的有關規定。也就是說，需要取得聲音權人的同意，才能夠使用他人的聲音。
學會幾招 輕易識別AI“換臉換聲”
AI換臉這一技術的出現，導致耳聽為虛、眼見也不一定為實了。那我們該如何防範呢？專家表示，其實AI人工換臉無論做得多麼逼真， 想要識別視頻真假還是有一些方法的。
中國電腦學會安全專業委員會數位經濟與安全工作組成員 方宇：實際上從我目前看到的深度偽造的即時視頻上來看，其實還是可以通過一些方式，去進行一些驗證。
那比如說我們可以要求對方在視頻對話的時候呢，在臉部的面前通過包養網 花園揮手的方式，去進行一個識別，即時偽造的視頻，因為它要對這個視頻進行即時的生成和處理和AI的換臉。
那麼在揮手的過程中，就會造成這種面部的資料的干擾，最終產生的效果就是我們看到的這樣，揮手的過程中，他所偽造的這個人臉會產生一定的抖動或者是一些閃現，或者是一些異常的情況。
第二個就是點對點的溝通中可以問一些只有對方知道的問題，驗證對方的真實性。
提高防範意識 避免個人生物資訊洩露
專家表示，除了一些辨別AI換臉詐騙的小訣竅，我們每一個人都應該提高防範意識，在日常生活中也要做好相關防範措施，養成良好的上網習慣。首先應該是做好日常的資訊安全的保護，加強對人臉、聲紋、指紋等生物特徵資料的安全防護：另外做好個人的手機、電腦等終端設備的軟硬體的安全管理。第二，不要登錄來路不明的網站，以免被病毒侵入。第三，對可能進行聲音、圖像甚至視頻和定位採集的應用，做好授權管理。不給他人收集自己資訊的機會，也能在一定程度上讓AI換臉詐騙遠離自己。
伴隨AI技術發展 需要多層面監管規範
除了要提高自我防範意識，如何對AI技術加強監管，也成了越來越多人關注的問題。AI技術本身不是問題，關鍵是我們要怎麼用它？如何形成有效監管？專家介紹，AI技術發展，需要多層面監管規範。
一是在源頭端，需要進一步加強公民個人資訊保護，尤其是加強對生物特徵等隱私資訊的技術、司法保護力度。二是在技術層面可以加強管理。例如可以讓視頻傳播網站或者社交軟體，使用專業的鑒別軟體來鑒定，對AI生成視頻，打上不可消除的“AI生成”浮水印字樣。目前，這種數位水印鑒偽技術有待進一步普包養網比較及。三是在法律制度層面，要進一步完善人工智慧等領域相關法律法規。2023年8月15日，我國正式施行《生成式人工智慧服務管理暫行辦法》。《辦法》從多個方面“劃下紅線”，旨在促進生成式人工智慧健康發展和規範應用。 （記者 崔世傑）