社會觀察 . 獨立評論 . 多元觀點 . 公共書寫 . 世代翻轉

  • Home
  • English
  • 評論
  • 民意
  • 時事
  • 生活
  • 國際
  • 歷史
  • 世代
  • 轉載
  • 投稿須知

Deepfake、AI與社會危機

  • 時事
  • 民意

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

近日有網紅被查獲以AI換臉軟體Deepfake合成無辜他人的臉孔製作色情影片營利,引起社會大眾擔憂這種AI深偽技術可能造成的危害。Deepfake技術源自AI視覺技術的高度發展,就其正面效益來說,如影視產業可以透過換臉技術來補拍畫面,增進效率。然而,隨著商業與娛樂的產業的散播下,Deepfake技術逐漸普遍。市面上甚至已經有手機App可以達到類似Deepfake的換臉效果。但隨著技術越來越容易取用,「換臉」所可能造成的社會、道德與政治威脅也隨之升高。

Deepfake換臉技術危及國家安全。 圖片來源:公視
Deepfake換臉技術危及國家安全。 圖片來源:公視

Deepfake技術在外國已經是困擾多年的難題。如2017年,美國知名網路論壇Reddit上開始流傳許多基於深偽技術製造的影片,引發軒然大波。Reddit與Twitter便宣告禁止使用此技術,Facebook與微軟等公司也投入辨識Deepfake的檢測技術。然而,Deepfake帶來的危機並不只在社群網站上,更多的是產生在對社交名人、政治人物與整體社會的攻擊與破壞。媒體上對於Deepfake的報導大多集中於合成色情影片,但Deepfake還可能被用來製造假新聞、黑函勒索,甚至是詐欺,藉以擾亂政治、社會與信用秩序。例如,美國多個娛樂節目或西方政治倡議團體,曾透過Deepfake製作川普、普亭、歐巴馬甚至金正恩等人的深偽影像,儘管都是基於倡議民主政治或警醒大眾而製作,其以假亂真的程度一時震撼美國社會。2019年,更曾發生美國國會發言人Nancy Pelosi被合成deepfake造假影片,損害名譽的事件。凡此種種,佐證了Deepfake技術在不受合理監管下,可能對於公民社會造成的危險。

網路與數位科技帶來的一大特性是可以無限的重製與流傳,因此Deepfake影像帶來的危害將會是極為深遠,甚至無法完全去除的。例如,Deepfake合成色情影片的行為一經在網路上廣泛散播,很可能就永遠都在網路上流傳,對於個人隱私名譽帶來極為嚴重的危害,這項問題已經引發各國試圖透過立法與科技手段加以遏止。此外,Deepfake技術對於社會與政治秩序帶來的最大危害之一在於,藉由以假亂真的手段來分裂群體。在政治事件中,由於缺乏辨識真偽的能力,假造的影像更可能激起正反雙方的劇烈衝突。但同時,由於深偽技術氾濫,即使是真實的影片,也可能引發人們的諸多懷疑。如此一來,人們將活在真假難辨的社會,對於眼前所見的不信任,最後將導致人們全憑自己主觀喜好判斷,無所適從的結果,導致秩序的維持將不再可能。

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

作者 / 起行

Share this:

  • Facebook
  • Twitter
  • Email
  • More
  • Tumblr
  • Pocket
  • Pinterest
  • LinkedIn

Related

Deepfake 信任 國安 換臉 深偽 社會 科技 網路
2021-10-22 起行

Post navigation

一場大火過後-鹽埕的美麗與哀愁 → ← 必須正視保母虐童案在社會的發酵

Related Posts

Cheng Li-wun’s Pro-China Tilt Risks Alienating Taiwan’s Swing Voters

Since Cheng Li-wun became chair of the Kuomintang (KMT), the party has taken a visibly sharper pro-China direction. Her repeated emphasis on engaging Beijing, affirming the 1992 Consensus, and expressing […]

民主不能被演算法滲透:台灣應比照與民主同盟國家管制中國APP

當小紅書被台灣政府宣布禁用一年的消息浮上檯面時,輿論的分歧意見立即暴露出台灣社會在「資訊自由」與「國安防線」之間的認知落差。 有人認為這是政治過當,也有人批評政府終於出手。但若從國際比較觀點來看,台灣其實早該像印度、美國、澳洲與加拿大等民主國家一樣,針對中國背景的數位平台建立一套明確的「風險評估—合規要求—封鎖處置」流程,而非每次都在政治壓力與網路輿情中倉促決策。若一個國家的主權與民主可被演算法、平台與伺服器架構左右,那麼資訊空間的開放將淪為威脅的破口,而不是自由的象徵。 筆者不得不承認,中國所輸出的APP早已不只是商業工具,而是中共政府所謂「數位絲路」與「科技民族主義」的一部分。平台本身的資本結構、資料處理機制、審查算法與內容導向,往往與中國境內的監控系統緊密相連。這並不是陰謀論,而是中國自己的法律條文早已明文規定:包括《網路安全法》、《國家情報法》、《數據安全法》在內的三大法體系,賦予中國政府可以依法要求境內企業提供用戶數據、演算法原始碼與加密金鑰。任何一間中國科技公司,在對外宣稱「與政府無關」的同時,都受制於這些國安法規與政治壓力。因此,問題從來不是小紅書是否從事統戰、TikTok是否干預選舉,而是這些平台從結構上就可能成為資訊主權的風險因子。 再看美國與其盟友。拜登政府2024年通過《保護美國人免於外國對手控制應用程式法案》(Protecting Americans from Foreign Adversary Controlled Applications Act),要求TikTok若不脫離母公司字節跳動,就將面臨下架。這一法案雖面臨法律挑戰,但其核心邏輯已展現美國對「資料儲存地點、平台控制權、言論操控風險」的高度警覺。不只TikTok,美國亦已限制多個中資企業參與關鍵基礎建設與資訊平台。在加拿大與澳洲,政府雖尚未對中資平台全面封禁,但已明確禁止TikTok等APP在公部門與軍方設備中使用,顯示「分級風險管理」的科學治理路徑漸趨成熟。 因此,若筆者認為台灣政府若真心想在數位主權與資訊安全上穩健治理,筆者主張應參考上述國家經驗,推動以下四點制度改革:首先,立法設立「跨境數位風險審查機制」,由資安、國安、通傳、法律及技術專家組成審議委員會,針對中資背景平台進行常態性審查;再者,建立「平台來源透明標示制度」,要求所有在台上架之APP須明確揭露資本結構、資料儲存地點、伺服器架構與審查政策,讓使用者與主管機關能作出風險判斷;第三,推動「使用分級管理」機制,針對軍方、公務機關、學校、金融機構等具敏感資料接觸單位全面禁止使用中資背景APP;第四,設立「數位主權創新基金」,支持國產替代平台發展,以免因封鎖外來平台而造成本地資訊生態斷裂或創作者經濟受損。 台灣不缺智慧與人才,也不缺對中國的警覺意識,但我們缺的是一套能夠將警覺轉化為制度,將風險轉化為治理的架構。若僅靠一紙禁令、幾句標語,就想抵擋一個數位極權體制所輸出的滲透網絡,那終究只能是虛張聲勢,無法形成真正可長可久的安全邊界。我們需要的不是更多情緒動員,而是更多理性決策。唯有建立一套制度化、可預期、科學化的數位安全治理機制,台灣才能不靠封鎖而守住自由,不靠猜忌而守住民主。這是印度已經走過的路,也是美加澳正在走的路,而台灣不應再猶豫。自由的社會,必須要有能守住自由的制度。 作者:林真心

台東地區實施火力射擊的意義

近年來,隨著中共解放軍日益擴張,海空軍出沒在台灣東部海空域的頻率快速增加,為有效進行東台灣的防禦,軍方近年快速進行部隊整建,包括未來新購的66架F-16V戰機部署於台東志航基地,更新花東地區的防空飛彈,在花蓮港外海實施反登陸作戰演練等,如今軍方在12/4於台東地區進行實彈射擊,凸顯出台東地區在防衛作戰中的角色日益提高。 台東地區指揮部的規模 花蓮縣、台東縣隸屬於「第二作戰區」,陸軍為該區域數量最多的部隊,花東防衛指揮部是當地最為重要的陸軍部隊,人數約6000人,為有效防守綿長的花東地區,陸軍台東地區指揮部為其中的下轄單位,兵力規模相當於「旅級單位」,人數約在數百至數千人,駐地位於台東縣卑南鄉的太平營區,下轄兩個機械化步兵營與一個混砲營。 此次參演部隊於太麻里溪口實施火砲射擊,這是自1994年知本漢光演習以來,睽違31年再度於當地執行火砲演練;在防衛作戰上,台東縣與花蓮縣同等重要,台東縣境內擁有空軍第七戰機聯隊,目前暫時由嘉義聯隊的F-16V戰機進駐,緊鄰志航基地的豐年機場,平時為民用,戰時將被軍方挪為預備的起降基地,因解放軍海空軍可能於戰時登陸台東地區,M60A3戰車朝向太麻里溪口進行火砲射擊,參演的裝備亦包括迫砲、榴彈砲、機/步槍等。 仍有強化地面守軍的必要 面對日益擴張的解放軍,對於本島的防衛而言,過去被視為相對安全的東部後院,如今正快速面臨解放軍的威脅。強化地面守軍的實力仍有其必要性,具體的做法如下: 在作戰想定中,解放軍有機會在東台灣進行搶灘登陸,增加該地區的反戰車飛彈有助於強化抵擋登陸的解放軍,畢竟現代戰場上,反戰車飛彈的威力勝過多數的重型戰車,無論是陸軍現役的拖式系列、標槍反戰車飛彈,皆有助於強化與摧毀登陸的裝甲部隊。 基於解放軍海軍直升機登陸艦的威力日增,台東地區必須增加更多的刺針防空飛彈,該型裝備助於抵禦、摧毀攻擊軍的直升機,因刺針防空飛彈成本相對低廉,也利於我軍的軍力部署。 隨著現代戰場改變,無人機肩負著偵查-攻擊的任務,解放軍的無人機數量龐大,鑒於此,部署成本相對低廉的防空機砲將提升地區指揮部的防禦能力。 關於台東地區相關的防衛提升方法,同樣適用於花蓮地區,花東地區與西半部的防禦同等重要,對於威權主義在印太地區的擴張,軍方仍從嚴檢視本島各個防區的防衛力量。 作者:宋磊

台灣有事日本幫忙 親中人士怎不敢譴責中國?

近日,日本首相高市早苗一席「台灣有事日本有事」的發言,讓中國大崩潰,不僅暴跳如雷地怒罵,甚至祭出許多經濟制裁;幸虧高市首相並沒有因此屈服,讓我們看到真摯民主國家盟友的偉大。同一時間,也看到相當多親中政客與媒體,發出對日本首相的抨擊,根據媒體報導,國民黨前總統馬英九表示「高市言論衝擊台灣人利益」、「兩岸問題不能假手外國介入,必須由兩岸自己來談」;以及國民黨前主席洪秀柱表示,「這種言論不僅挑釁,更把台灣推向危險邊緣」然而,他們卻絲毫不敢怪罪想要侵略台灣的中國。很明顯,中國與他的狐群狗黨就是狗急跳牆。因為這起事件,成功讓台灣議題國際化,代表著台灣問題再也不是中國內政,這就是為何中共如此崩潰的原因。   這起事件也印證民進黨「脫離中國,走向世界」的路線是正確的,若國民黨執政,馬英九們的九二共識,就是將台灣榜進大中國的框架之中,一旦中國發動侵略,日本美國想要幫忙也無法插手,因為你都自己承認是一個中國了。所幸在民進黨蔡英文前總統、賴清德總統的領導之下,台灣積極地在各領域與各國互動,我們可以看到各國軍艦穿越台灣海峽,戳破中國想要將台海變成其內海的陰謀,而日本首相的發言,更是印證了台灣不是中國一部份的事實,這樣一來,萬一台灣真的有事,歐美日各國才能介入幫忙。   多虧了民進黨的努力,台灣才能有今天與歐美日各國友好的成果,也順利將台灣議題國際化,更加遠離中共的控制,這是國民黨執政絕對無法做到的。然而,中國人與親中人士持續在網路上,試圖將輿論帶往日本挑釁的方向,惡意忽略中國要武力侵台的責任。台灣與日本只是要維持和平、自我防衛而已,馬英九與洪秀柱等人只會責怪害者,怎麼不勇敢一點指責要侵略台灣的中國,或是要求中國放棄武力侵台呢? 作者:向陽之花

Recent Posts

Cheng Li-wun’s Pro-China Tilt Risks Alienating Taiwan’s Swing Voters

Cheng Li-wun’s Pro-China Tilt Risks Alienating Taiwan’s Swing Voters

Since Cheng Li-wun became chair of the Kuomintang (KMT), the party has taken a visibly sharper pro-China direction. Her repeated emphasis on engaging Beijing, affirming the 1992 Consensus, and [...]

More Info
民主不能被演算法滲透:台灣應比照與民主同盟國家管制中國APP

民主不能被演算法滲透:台灣應比照與民主同盟國家管制中國APP

當小紅書被台灣政府宣布禁用一年的消息浮上檯面時,輿論的分歧意見立即暴露出台灣社會在「資訊自由」與「國安防線」之間的認知落差。 [...]

More Info
台東地區實施火力射擊的意義

台東地區實施火力射擊的意義

近年來,隨著中共解放軍日益擴張,海空軍出沒在台灣東部海空域的頻率快速增加,為有效進行東台灣的防禦,軍方近年快速進行部隊整建,包括未來新購的66架F-16V戰機部署於台東志航基地,更新花東地區的防空飛彈,在花蓮港外海實施反登陸作戰演練等,如今軍方在12/4於台東地區進行實彈射擊,凸顯出台東地區在防衛作戰中的角色日益提高。 台東地區指揮部的規模 [...]

More Info
台灣有事日本幫忙 親中人士怎不敢譴責中國?

台灣有事日本幫忙 親中人士怎不敢譴責中國?

[...]

More Info

搜尋

精選文章

川習會的中美矛盾是戰略,不是貿易!

2017-04-08 韓非

八仙樂園爆炸案:缺乏常識造成的災難

2015-06-28 異想

彰化縣民輪替後的哀與愁

2016-03-06 許家瑋

新文明病:儲物症(Hoarding disorder)似正在增加

2015-04-13 楊庸一

訂閱本站

輸入你的電子郵件訂閱新文章並接收新通知。

Powered by WordPress | theme Dream Way
Powered by WordPress | theme Dream Way