社會觀察 . 獨立評論 . 多元觀點 . 公共書寫 . 世代翻轉

  • Home
  • English
  • 評論
  • 民意
  • 時事
  • 生活
  • 國際
  • 歷史
  • 世代
  • 轉載
  • 投稿須知

Deepfake、AI與社會危機

  • 時事
  • 民意

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

近日有網紅被查獲以AI換臉軟體Deepfake合成無辜他人的臉孔製作色情影片營利,引起社會大眾擔憂這種AI深偽技術可能造成的危害。Deepfake技術源自AI視覺技術的高度發展,就其正面效益來說,如影視產業可以透過換臉技術來補拍畫面,增進效率。然而,隨著商業與娛樂的產業的散播下,Deepfake技術逐漸普遍。市面上甚至已經有手機App可以達到類似Deepfake的換臉效果。但隨著技術越來越容易取用,「換臉」所可能造成的社會、道德與政治威脅也隨之升高。

Deepfake換臉技術危及國家安全。 圖片來源:公視
Deepfake換臉技術危及國家安全。 圖片來源:公視

Deepfake技術在外國已經是困擾多年的難題。如2017年,美國知名網路論壇Reddit上開始流傳許多基於深偽技術製造的影片,引發軒然大波。Reddit與Twitter便宣告禁止使用此技術,Facebook與微軟等公司也投入辨識Deepfake的檢測技術。然而,Deepfake帶來的危機並不只在社群網站上,更多的是產生在對社交名人、政治人物與整體社會的攻擊與破壞。媒體上對於Deepfake的報導大多集中於合成色情影片,但Deepfake還可能被用來製造假新聞、黑函勒索,甚至是詐欺,藉以擾亂政治、社會與信用秩序。例如,美國多個娛樂節目或西方政治倡議團體,曾透過Deepfake製作川普、普亭、歐巴馬甚至金正恩等人的深偽影像,儘管都是基於倡議民主政治或警醒大眾而製作,其以假亂真的程度一時震撼美國社會。2019年,更曾發生美國國會發言人Nancy Pelosi被合成deepfake造假影片,損害名譽的事件。凡此種種,佐證了Deepfake技術在不受合理監管下,可能對於公民社會造成的危險。

網路與數位科技帶來的一大特性是可以無限的重製與流傳,因此Deepfake影像帶來的危害將會是極為深遠,甚至無法完全去除的。例如,Deepfake合成色情影片的行為一經在網路上廣泛散播,很可能就永遠都在網路上流傳,對於個人隱私名譽帶來極為嚴重的危害,這項問題已經引發各國試圖透過立法與科技手段加以遏止。此外,Deepfake技術對於社會與政治秩序帶來的最大危害之一在於,藉由以假亂真的手段來分裂群體。在政治事件中,由於缺乏辨識真偽的能力,假造的影像更可能激起正反雙方的劇烈衝突。但同時,由於深偽技術氾濫,即使是真實的影片,也可能引發人們的諸多懷疑。如此一來,人們將活在真假難辨的社會,對於眼前所見的不信任,最後將導致人們全憑自己主觀喜好判斷,無所適從的結果,導致秩序的維持將不再可能。

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

作者 / 起行

Share this:

  • Facebook
  • Twitter
  • Email
  • More
  • Tumblr
  • Pocket
  • Pinterest
  • LinkedIn

Related

Deepfake 信任 國安 換臉 深偽 社會 科技 網路
2021-10-22 起行

Post navigation

一場大火過後-鹽埕的美麗與哀愁 → ← 必須正視保母虐童案在社會的發酵

Related Posts

台灣社會的信任感

長期以來,台灣被視為犯罪率相對低、社會秩序穩定的社會,這一點若與西歐及北美多數國家相比,差異相當明顯。這種差異不僅反映在統計數字上,也深刻影響人民的生活感受、社會信任程度與整體安全氛圍。 從犯罪率來看,台灣的暴力犯罪、隨機攻擊、街頭搶劫與槍枝犯罪都維持在極低水準。多數民眾夜間外出仍感安全,孩童可獨自上下學,公共運輸與商圈鮮少需要高度武裝警力。這種「低風險日常」使社會運作成本降低,也強化了人與人之間的基本信任。 相較之下,西歐部分國家近年面臨治安惡化問題。雖然整體仍屬已開發國家水準,但大城市中竊盜、搶劫、暴力衝突與恐攻風險上升,已成常態性治理議題。此外,政治結構高度碎片化,頻繁的首相更替、倒閣與聯合政府破裂,使政策延續性不足,也間接影響警政與社會治理的穩定性。當政治長期處於不確定狀態,公共安全往往難以成為長期一致的優先事項。 北美情況則呈現另一種極端。部分城市犯罪率極高,尤其是槍枝暴力、毒品相關犯罪與街頭隨機事件,對社區造成長期心理壓力。即使在經濟發達地區,民眾仍需高度依賴私有保全、監視設備與風險控管,公共空間的安全感明顯低於台灣。犯罪不僅影響受害者,也改變城市結構,使商業活動、居住選擇與族群互動趨於保守與分化。 犯罪率高低的影響範圍,遠不只是治安數據。它會左右人民是否信任政府、是否願意參與公共生活,也影響外來人才、投資與觀光的意願。在這一點上,台灣的優勢十分明確:穩定的社會秩序、可預期的生活環境,以及相對溫和而有效的治理方式。 總體而言,若放在國際比較中,台灣仍是一個高度安全、宜居且有韌性的社會。在許多先進國家正為治安與社會撕裂所苦時,台灣能維持低犯罪率與高度社會穩定,本身就是一項珍貴的公共資產,也值得被珍惜與持續守護。 作者:林凱西

「黔驢技窮」的現代版

「黔驢技窮」是唐宋八大家柳宗元的奇文,值得你我台灣小公民們再回味一下。 「黔(貴州)無驢,有好事者,以船入,放之山下。虎見之,龐然大物也,以為神,蔽林間以窺之。他日驢一鳴( 咆哮),虎大駭遠遁。以為噬己也,甚恐!然往來視之,覺無異能者。習其聲,稍近益狎,驢不勝怒,蹄之。虎大喜,技止此耳!跳而撲之,斷其喉,盡其肉,而去。」 這是你我所熟知的故事,其實故事還沒說完。—— 作者有位至友,明清筆記小說專家,他最近努力研習 AI 的大型語言型模,專心搜羅「 四庫全書」的軼文或漏失奇文,他的發現如下: 他說,事實上,傳說中的「好事者」放之山下的黔驢不只一頭,而是一羣,好幾頭,有人考據是「八頭」。 既然「一鳴」(咆哮),難盡其功,眾黔驢們,只得輪番上陣,跳起舞(有如今日的鋼管舞),向虎輩示威!我們不只會「一鳴」(咆哮),我們肌肉堅實多樣:腹橫肌、腹直肌、腹內橫肌、腹外橫肌、腹內斜肌、腹外斜肌、…… 等八大肌肉羣,這是昔曰武松打老虎所根據的本錢。 為了証明眾驢所言不虛,他們在林中選了一株直挺挺的大竹( 有如今日的鋼管),來証明他們肌肉的實力:不論是「倒吃甘蔗」、「磨鏡」、「劈腿」、或是「後庭有詭」……..所有「男色」、「女色」 ,八大肌無所不能 ! 林中的大小動物,包括小草、小蔥等的草本植物,都聚集林中空地,觀賞現代黔驢的演出,盛況空前,由流量可見其肌肉秀的號召力!所以往後不要再說「黔驢技窮」,人家色藝十足!真的要說,也要等到二月初。這個月是黔驢們專屬的「男色」/「女色」之祭 ! 作者: 胡嚴

從「理性科學」到「推責卸鍋」,政治墮落的速度超乎想像  

  「沒想到會計師會擅自調整帳目。」這句話一出口,社會的錯愕恐怕不亞於帳目本身的荒謬。我們也沒想到,會有一位曾自詡理性、科學、專業掛帥的政治領導者,在面對公共帳務爭議時,選擇用最原始、也最廉價的方式,把責任往下推,推給一個無法替自己開記者會辯護的會計師。 索忍尼辛在談極權體制時,曾寫下那段震撼人心的論述:「我們明明知道他在說謊,他也知道自己在說謊,他知道我們知道他在說謊,我們也知道他知道我們知道,但他依然繼續說下去。」這段文字不只是文學,更是一面照妖鏡。它照出來的,不只是極權國家,也照見了民主社會裡逐漸擴散的政治病灶,權力一旦失守,道德就會被語言包裝成無辜。 政治不是幼稚園。你不能把錯誤交給會計師,卻把功勞留給自己;你不能在順風時收割光環,逆風時就開始尋找代罪羔羊。更可怕的是,這種話術並不是孤例,而正在成為台灣政治的新常態。從「我不知道」到「下面的人做的」,從「程序有瑕疵」到「大家都這樣」,語言被拿來消毒錯誤,錯誤被包裝成誤會,誤會再被塑造成政治迫害。久而久之,真相不再重要,重要的是誰能先掌控敘事權。 而索忍尼辛提醒我們,這正是謊言最可怕的地方:不是因為它騙人,而是因為它逼人一起假裝相信。當人民開始習慣這種語言,開始對「推責政治」無感,開始把道德標準一路下修,民主就不會在一夕之間崩壞,而是慢慢腐蝕。我們真正該問的,不只是帳目怎麼調整,而是,一個不願為公共責任負責的政治人物,究竟還剩下什麼資格談改革? 對照他曾經高喊的「理性、務實、科學」,今日滿口謊言、推責卸鍋的模樣,讓人終於看清,那不是改革者的墜落,而是權力使人腐化的官場現形記。 作者:林政武

記得這十名藍、白營立委的名字 !

台灣人民要記得這十名藍、白營立委的名字:翁曉玲、林沛祥、林倩綺、涂權吉、陳永康、陳菁徽、羅志強、葛如鈴、盧縣一、劉書彬( 白黨)。 這羣「紅頭」同路人,全數動員,第五度阻擋12.5 兆「國防特別預算」付委審查;實質上等於把此國防預算鍘死,活埋,令其不見天日,連送至院會辯論的機會都不可得。 這令台灣人民不得不想起多年前,美國小布希總統願意賣給台灣八艘潛艦:當時台灣少數政府的潛艦軍購方案,卻被立法院藍營( 國民、親民兩黨)聯手杯葛近百次,這麽好的軍售方案,卻好像是被大蟒蛇纏住,活活勒死! 台灣小公民們想想看若當時八艘潛艇軍購(先進、至少不是二次大戰級),若能通過,今日敵人的圍台軍演,會那麼敢「欺門踏戶」,「吃人夠夠」?國軍八艘中四艘潛伏在台灣頭海域,四艘在台灣尾:敵人的「遼寧」、和「福建」航母羣,敢那麼飛揚跋扈,是不是該有點「戒慎戒懼」?小台灣看來不是那麼容易被輕侮的! 所以,難怪台北的通達人士見藍白兩黨想再合力「謀殺」國防特別預算,一定想起不堪回首的沈痛往事,深信:「鄭記」藍白兩黨同路人再度「賣國不落人後」!如此容易賣,原來他們的「國」,可不是你我小公民心中的「國」? 世說「國之將亡必有妖孽」,—— 「妖孽一族」,有其效忠的國家對象,哪在乎被稱作是「妖」,是「孽」? 你我台灣公民們倒可引用一下國民黨鄭主席不久前的一段話:( 台灣有這樣的「反統一」政府和反共的人民 )是藍、白營倒了「八輩子的霉 」! 多數台灣的人民一定同意鄭主席的話兒,他們會跟著說:鄭主席你的話說的沒錯,只是沒說的完整,需要我們加以補充:事實上,倒霉的不只是你和你的同路人,—— 台灣人民也同樣倒了八輩子霉,有像你這樣的「紅頭一族」! 作者: 戴震

Recent Posts

台灣社會的信任感

台灣社會的信任感

長期以來,台灣被視為犯罪率相對低、社會秩序穩定的社會,這一點若與西歐及北美多數國家相比,差異相當明顯。這種差異不僅反映在統計數字上,也深刻影響人民的生活感受、社會信任程度與整體安全氛圍。 [...]

More Info
「黔驢技窮」的現代版

「黔驢技窮」的現代版

「黔驢技窮」是唐宋八大家柳宗元的奇文,值得你我台灣小公民們再回味一下。 「黔(貴州)無驢,有好事者,以船入,放之山下。虎見之,龐然大物也,以為神,蔽林間以窺之。他日驢一鳴( 咆哮),虎大駭遠遁。以為噬己也,甚恐!然往來視之,覺無異能者。習其聲,稍近益狎,驢不勝怒,蹄之。虎大喜,技止此耳!跳而撲之,斷其喉,盡其肉,而去。」 這是你我所熟知的故事,其實故事還沒說完。—— [...]

More Info
從「理性科學」到「推責卸鍋」,政治墮落的速度超乎想像  

從「理性科學」到「推責卸鍋」,政治墮落的速度超乎想像  

  「沒想到會計師會擅自調整帳目。」這句話一出口,社會的錯愕恐怕不亞於帳目本身的荒謬。我們也沒想到,會有一位曾自詡理性、科學、專業掛帥的政治領導者,在面對公共帳務爭議時,選擇用最原始、也最廉價的方式,把責任往下推,推給一個無法替自己開記者會辯護的會計師。 [...]

More Info
記得這十名藍、白營立委的名字 !

記得這十名藍、白營立委的名字 !

台灣人民要記得這十名藍、白營立委的名字:翁曉玲、林沛祥、林倩綺、涂權吉、陳永康、陳菁徽、羅志強、葛如鈴、盧縣一、劉書彬( 白黨)。 這羣「紅頭」同路人,全數動員,第五度阻擋12.5 兆「國防特別預算」付委審查;實質上等於把此國防預算鍘死,活埋,令其不見天日,連送至院會辯論的機會都不可得。 [...]

More Info

搜尋

精選文章

川習會的中美矛盾是戰略,不是貿易!

2017-04-08 韓非

八仙樂園爆炸案:缺乏常識造成的災難

2015-06-28 異想

彰化縣民輪替後的哀與愁

2016-03-06 許家瑋

新文明病:儲物症(Hoarding disorder)似正在增加

2015-04-13 楊庸一

訂閱本站

輸入你的電子郵件訂閱新文章並接收新通知。

Powered by WordPress | theme Dream Way
Powered by WordPress | theme Dream Way