新公民議會

社會觀察 x 獨立評論 x 多元觀點 x 公共書寫 x 世代翻轉

  • Home
  • English
  • 評論
  • 民意
  • 時事
  • 生活
  • 國際
  • 歷史
  • 世代
  • 轉載
  • 投稿須知

Deepfake、AI與社會危機

  • 時事
  • 民意

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

近日有網紅被查獲以AI換臉軟體Deepfake合成無辜他人的臉孔製作色情影片營利,引起社會大眾擔憂這種AI深偽技術可能造成的危害。Deepfake技術源自AI視覺技術的高度發展,就其正面效益來說,如影視產業可以透過換臉技術來補拍畫面,增進效率。然而,隨著商業與娛樂的產業的散播下,Deepfake技術逐漸普遍。市面上甚至已經有手機App可以達到類似Deepfake的換臉效果。但隨著技術越來越容易取用,「換臉」所可能造成的社會、道德與政治威脅也隨之升高。

Deepfake換臉技術危及國家安全。 圖片來源:公視
Deepfake換臉技術危及國家安全。 圖片來源:公視

Deepfake技術在外國已經是困擾多年的難題。如2017年,美國知名網路論壇Reddit上開始流傳許多基於深偽技術製造的影片,引發軒然大波。Reddit與Twitter便宣告禁止使用此技術,Facebook與微軟等公司也投入辨識Deepfake的檢測技術。然而,Deepfake帶來的危機並不只在社群網站上,更多的是產生在對社交名人、政治人物與整體社會的攻擊與破壞。媒體上對於Deepfake的報導大多集中於合成色情影片,但Deepfake還可能被用來製造假新聞、黑函勒索,甚至是詐欺,藉以擾亂政治、社會與信用秩序。例如,美國多個娛樂節目或西方政治倡議團體,曾透過Deepfake製作川普、普亭、歐巴馬甚至金正恩等人的深偽影像,儘管都是基於倡議民主政治或警醒大眾而製作,其以假亂真的程度一時震撼美國社會。2019年,更曾發生美國國會發言人Nancy Pelosi被合成deepfake造假影片,損害名譽的事件。凡此種種,佐證了Deepfake技術在不受合理監管下,可能對於公民社會造成的危險。

網路與數位科技帶來的一大特性是可以無限的重製與流傳,因此Deepfake影像帶來的危害將會是極為深遠,甚至無法完全去除的。例如,Deepfake合成色情影片的行為一經在網路上廣泛散播,很可能就永遠都在網路上流傳,對於個人隱私名譽帶來極為嚴重的危害,這項問題已經引發各國試圖透過立法與科技手段加以遏止。此外,Deepfake技術對於社會與政治秩序帶來的最大危害之一在於,藉由以假亂真的手段來分裂群體。在政治事件中,由於缺乏辨識真偽的能力,假造的影像更可能激起正反雙方的劇烈衝突。但同時,由於深偽技術氾濫,即使是真實的影片,也可能引發人們的諸多懷疑。如此一來,人們將活在真假難辨的社會,對於眼前所見的不信任,最後將導致人們全憑自己主觀喜好判斷,無所適從的結果,導致秩序的維持將不再可能。

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

作者 / 起行

分享此文:

  • Facebook
  • Twitter
  • 電子郵件
  • 更多
  • Tumblr
  • Pocket
  • Google
  • Pinterest
  • LinkedIn

相關

Deepfake 信任 國安 換臉 深偽 社會 科技 網路
2021-10-22 起行

Post navigation

一場大火過後-鹽埕的美麗與哀愁 → ← 必須正視保母虐童案在社會的發酵

Related Posts

裴洛西訪台 中國遷怒 親中人士別責怪受害者

中共為了阻止美國眾議院議長裴洛西訪台,極盡一切威脅、恐嚇之能 […]

不可理喻的中國

美國眾議院議長裴洛西,前幾天搭乘C-40行政專機於8月2日晚 […]

面對威脅 團結對外

美國眾議院議長裴洛西日前訪台,不但是睽違二十多年後,美國現任 […]

台灣不是美國的,當然更不是中國的!

中國外交部長王毅說:台灣不是美國的。—- 不是美國的,難道台 […]

Recent Posts

裴洛西訪台 中國遷怒 親中人士別責怪受害者

裴洛西訪台 中國遷怒 親中人士別責怪受害者

中共為了阻止美國眾議院議長裴洛西訪台,極盡一切威脅、恐嚇之能 […]

More Info
不可理喻的中國

不可理喻的中國

美國眾議院議長裴洛西,前幾天搭乘C-40行政專機於8月2日晚 […]

More Info
面對威脅 團結對外

面對威脅 團結對外

美國眾議院議長裴洛西日前訪台,不但是睽違二十多年後,美國現任 […]

More Info
台灣不是美國的,當然更不是中國的!

台灣不是美國的,當然更不是中國的!

中國外交部長王毅說:台灣不是美國的。—- 不是美國的,難道台 […]

More Info

搜尋

精選文章

川習會的中美矛盾是戰略,不是貿易!

2017-04-08 韓非

八仙樂園爆炸案:缺乏常識造成的災難

2015-06-28 異想

彰化縣民輪替後的哀與愁

2016-03-06 許家瑋

新文明病:儲物症(Hoarding disorder)似正在增加

2015-04-13 楊庸一

訂閱本站

輸入你的電子郵件訂閱新文章並接收新通知。

Powered by WordPress | theme Dream Way
loading 取消
文章沒有送出-請確認你的Email位置
Email確認失敗,請稍後再試.
抱歉,你的網誌無法透過電子郵件分享
Powered by WordPress | theme Dream Way
loading 取消
文章沒有送出-請確認你的Email位置
Email確認失敗,請稍後再試.
抱歉,你的網誌無法透過電子郵件分享