完整定義
深度偽造(Deepfake)是利用深度學習技術,特別是生成對抗網路(GANs),合成的逼真音訊、圖像或影片。這些合成內容可以將一個人的臉或聲音替換成另一個人,或者創造出從未發生過的事件。深度偽造技術的快速發展帶來了嚴重的倫理和社會問題,例如製造假新聞、詐騙、惡意中傷和損害個人聲譽。
白話說明
你滑到一段超真實的假影片時,怎麼分辨它是不是假的?
你可以把 深度偽造 想成一種把現實內容重新合成或偽造的技術。
它其實就是學會模仿資料分布,產出看起來很真的圖片、聲音或影片。
深度偽造是利用深度學習技術合成的逼真音訊、圖像或影片,通常用於製造假新聞、詐騙或惡意中傷。因為外觀看起來很自然,所以辨識來源和真偽就變得很重要。
記住這句
看起來真,不代表來源真
比喻:深度偽造就像一個超厲害的變臉大師 -- 能把一個人的臉或聲音精準地換到另一個人身上,而且看起來、聽起來都跟真的一樣,讓人難以辨識。
容易混淆
vs 傳統P圖
傳統P圖像用剪貼簿拼湊圖片,容易看出破綻;深度偽造則像用高科技印表機「生成」新內容,細節和連貫性都非常自然,幾可亂真。
實際案例
案例一:深度偽造 生成圖片或影片
模型學到資料分布後,可以從噪聲中逐步合成出接近真實照片的內容,肉眼看起來會很自然。
案例二:深度偽造 的風險場景
同一套技術也可能被拿去做假新聞、假名人發言或詐騙素材,所以來源驗證和水印就變得很重要。
深入了解
這類技術常會先學資料分布,再用模型去模仿原本看起來像真的內容
品質越高,越容易拿來做創作、也越容易被拿去做欺騙
所以重點不只是能不能生成,而是來源可不可信
情境判斷
Q1(直覺題): 你看到一段影片或一張圖很像真的,這就代表它一定是真實拍攝嗎?
不代表,因為生成模型和偽造技術已經能做出非常逼真的內容。
Q2(判斷題): 只要肉眼看不出破綻,就可以放心相信這段內容嗎?
不行,因為高品質合成內容常能騙過直覺,還是要看來源、簽章、檢測工具或上下文證據。
常見問題
辨識深度偽造並不容易,但可以注意以下幾點:不自然的臉部表情、嘴型與聲音不匹配、畫面模糊或有異常、缺乏眨眼動作、光源不一致等。此外,使用專業的深度偽造檢測工具也能提供幫助,但需注意其準確性。
深度偽造的法律責任歸屬取決於其用途和造成的損害。如果用於惡意中傷、詐騙或侵犯他人權益,則可能涉及誹謗罪、詐欺罪或侵權責任。法律對於深度偽造的規範仍在發展中,各國的法律規定可能有所不同。
防範深度偽造的威脅需要多方面的努力。個人應提高警惕,不輕易相信網路上的資訊,並注意保護個人隱私。技術方面,需要開發更有效的深度偽造檢測技術和防禦措施。法律方面,需要制定更完善的法律法規來規範深度偽造的行為。
出現在這些考古題
官方公告試題的逐題解析裡,這 2 題把深度偽造列為延伸術語。
相關術語
- 深度學習Deep Learning
- 生成對抗網路Generative Adversarial Network
- 人工智慧倫理AI Ethics
- 深度偽造偵測Deepfake Detection
- AI浮水印AI Watermarking
本頁內容有提到,或屬於同一組主題的術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本