社會觀察 . 獨立評論 . 多元觀點 . 公共書寫 . 世代翻轉

  • Home
  • English
  • 評論
  • 民意
  • 時事
  • 生活
  • 國際
  • 歷史
  • 世代
  • 轉載
  • 投稿須知

Deepfake、AI與社會危機

  • 時事
  • 民意

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

近日有網紅被查獲以AI換臉軟體Deepfake合成無辜他人的臉孔製作色情影片營利,引起社會大眾擔憂這種AI深偽技術可能造成的危害。Deepfake技術源自AI視覺技術的高度發展,就其正面效益來說,如影視產業可以透過換臉技術來補拍畫面,增進效率。然而,隨著商業與娛樂的產業的散播下,Deepfake技術逐漸普遍。市面上甚至已經有手機App可以達到類似Deepfake的換臉效果。但隨著技術越來越容易取用,「換臉」所可能造成的社會、道德與政治威脅也隨之升高。

Deepfake換臉技術危及國家安全。 圖片來源:公視
Deepfake換臉技術危及國家安全。 圖片來源:公視

Deepfake技術在外國已經是困擾多年的難題。如2017年,美國知名網路論壇Reddit上開始流傳許多基於深偽技術製造的影片,引發軒然大波。Reddit與Twitter便宣告禁止使用此技術,Facebook與微軟等公司也投入辨識Deepfake的檢測技術。然而,Deepfake帶來的危機並不只在社群網站上,更多的是產生在對社交名人、政治人物與整體社會的攻擊與破壞。媒體上對於Deepfake的報導大多集中於合成色情影片,但Deepfake還可能被用來製造假新聞、黑函勒索,甚至是詐欺,藉以擾亂政治、社會與信用秩序。例如,美國多個娛樂節目或西方政治倡議團體,曾透過Deepfake製作川普、普亭、歐巴馬甚至金正恩等人的深偽影像,儘管都是基於倡議民主政治或警醒大眾而製作,其以假亂真的程度一時震撼美國社會。2019年,更曾發生美國國會發言人Nancy Pelosi被合成deepfake造假影片,損害名譽的事件。凡此種種,佐證了Deepfake技術在不受合理監管下,可能對於公民社會造成的危險。

網路與數位科技帶來的一大特性是可以無限的重製與流傳,因此Deepfake影像帶來的危害將會是極為深遠,甚至無法完全去除的。例如,Deepfake合成色情影片的行為一經在網路上廣泛散播,很可能就永遠都在網路上流傳,對於個人隱私名譽帶來極為嚴重的危害,這項問題已經引發各國試圖透過立法與科技手段加以遏止。此外,Deepfake技術對於社會與政治秩序帶來的最大危害之一在於,藉由以假亂真的手段來分裂群體。在政治事件中,由於缺乏辨識真偽的能力,假造的影像更可能激起正反雙方的劇烈衝突。但同時,由於深偽技術氾濫,即使是真實的影片,也可能引發人們的諸多懷疑。如此一來,人們將活在真假難辨的社會,對於眼前所見的不信任,最後將導致人們全憑自己主觀喜好判斷,無所適從的結果,導致秩序的維持將不再可能。

儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。

作者 / 起行

Share this:

  • Facebook
  • Twitter
  • Email
  • More
  • Tumblr
  • Pocket
  • Pinterest
  • LinkedIn

Related

Deepfake 信任 國安 換臉 深偽 社會 科技 網路
2021-10-22 起行

Post navigation

一場大火過後-鹽埕的美麗與哀愁 → ← 必須正視保母虐童案在社會的發酵

Related Posts

「反賴」市場進入大內捲時代?

          「內捲」最早來自人類學、文化人類學的範疇,指當某文明體系或經濟模式發展至一定階段後,無法邁向新的突破,只能在內部不斷複雜化、競爭加劇、效益卻遞減的狀態。在中國,這個詞語近年被廣泛用來形容教育、職場、產業等領域內群眾式、惡性競爭、邊際回報下降的現象。        以中國為例,當產能過剩、出口疲軟、內需不振時,許多產業陷入「大家都在拼投入、但蛋糕沒變大、只剩分蛋糕的刀法越來越精細」的狀態。例如在太陽能板、電動車生產過剩、低價惡性競爭,就是典型的內捲經濟面向。如此激烈競爭又在技術上無法突破,最後在已經萎縮的市場中分得一塊,將陷入低效、消耗資源、難以提升的惡性循環。       若「內捲」概念拿到台灣的「輿論市場」來看,當前是以反賴作為主軸的,逐漸走向大內捲化趨勢;輿論不再只是意見自由、訊息競爭的市場,在這個畸形市場中,從藍白高層政治人物、派系操作再到爭議網紅與固定媒體,舉凡任何公共議題,輿論的炮火不分目標與理性皆往執政中央轟炸。        這也產生一個模式;首先將攻擊目標明確指向賴清德,成為該市場裡的「獵物」,各方諸如藍白政治勢力、爭議網紅甚至某些媒體聲量操作者,紛紛將自己定位為「反賴戰將」。其次,更將「本土議題」或「地方自治」往「中央層級」攀升;此「往上靠、往中央靠」的行為模式,就是內捲化的一個典型,近期又投入更多資源、人力、話題、社群鋪陳、互罵互噴取代政策討論,也許最終回報卻越來越薄,畢竟該市場目前實在有太多競爭者,尚無一家可以完全壟斷、沒有一方能「一統江湖」,反賴市場成了多頭割據、各憑聲量,導致虛假訊息漫天,充盈各種奇異觀點與是非顛倒立場,將理性監督淪為情緒發洩。       若從內捲理論看,反賴的輿論市場並未大幅擴張,舉凡各類政治明星或政黨立場都有其基本盤,加上他們將反賴商品化之際,意味著需要對應之消費市場,台灣境內即使因執政滿意度不佳,其毫無節制地鬥臭中央,久而久之也將進入了無新意、民眾視聽疲乏的境界;一旦達到如此境界,反賴者必將這抽象化的商品只能傾銷對岸、轉取更多利潤,如同某位所以網紅赴對岸吸金,來自於台灣市場接近飽和。    因此,從藍白高層至爭議網紅,這一「往中央攀附、構建獵巫場景、競逐聲量」的消費模式持續上升卻無法有新的突破,其實就是「反賴市場」的內捲現象。此不只是輿論戰術升級問題,更是結構性變化的反映;話語生產者、平台操作者與政黨操作者共同陷入一個既定市場、卻不再持續擴大的輿論競賽。       總而言之,反賴市場競逐漸進入大內捲時代,輿論競爭已不再是思辨理念與統合歧見之地,而是為選舉、為流量的廝殺戰場,唯一不變者是攻擊賴清德成為共同標的,或擴張致賴所屬之政黨及中央執政機關,更牽扯許多無辜卻默默做事的公職人員。最後,獵物化成為標籤遊戲,在這場內卷中,投入越多、回報越少,整體場域陷入消耗、疲憊與重複,從國會到網路、從中央到地方甚至走向人群間之對立,該內耗性反賴競爭恐怕將持續到賴總統正式卸任的那一刻吧! 作者 /風林火山

朱前主席說對了:只有一個國民黨,只有一個台灣 !

台灣有政界有位大主席,世稱「鄭娘娘」者,宣稱:可以口頭上明白接受「九二共識」的一中原則。中國國台辦立即「善意」回應,「鄭娘娘」及其徒眾歡欣鼓舞,載歌載舞,如大旱之望雲霓,豪雨將至! 可幸的,台灣人民歷經每晚政論節目的薰陶,千錘百鍊,可不是那麼容易就被早就熟悉的「話術」帶著走。他們會問:這只是上半句話,下半句呢?是不是「世界上只有一個中國」、「中華人民共和國代表中國」、「台灣是中國不可分割的一部份」、「中國人民和其團體有服從中國共產黨領導的權利和義務」! 國民黨朱立倫前主席為防以訛傳訛,以紫亂朱,立即撥亂反正的誓言:「只有一個國民黨!只有一個台灣!」。當然國民黨不會是任何其它政黨的附隨組織:台灣不會香港化、內地化、「台灣方案」化! 朱主席臨去秋波,大哉斯言耶,看來國民黨還有明智,知道要為台灣人民負責的政治人物。「鄭娘娘」及其徒眾豈不羞乎 ! 成許「鄭娘娘」心有所屬,誰是老大、教主、民族救星 ?能站在他的肩膀上,環視周遭,目空一切,豈不樂哉 !她心中哪有台灣人民地位的餘地 ? 朱前主席怎麼沒有人要站在您的肩膀上,而令䝂女成其名 ?是不是真的國民黨已淪為「羊羣」,國民黨人厭煩再當「羊咩咩」,即使自己當不了「獅子」,也要引進獅子入關。 成則為王敗者為寇:打不贏人家當然就當別人的附隨組織,好歹也是「獅子軍」!「滿八旗」軍入關,後頭跟著正是「漢八旗」,人家也是八旗軍!或許「鄭娘娘」也作此想 !跟著走頭無路的「窮寇」幹嘛? 鄭娘娘幾十年的政治生涯,從本土到紅統,從民主到集權,一路走來,只看利益在哪裡?就往哪裡邁進。只要有利可圖,何事不可為?她的政治資歷,不正是反應她的心路歷程嗎 ?   作者: 戴震

小草小蔥終成韭—從「白營立院黨團終於跟隨藍營共反年改」說起

立院新一會期開議後,在藍營傅大總召與該黨新任鄭大主席,都想要向中國當局,證明自己才是對北京涉台工作最有用的人;而白營黃大主席兼黨團總召,既有黨媒狗駭四元地下帝國浮上檯面,導致全台物議騷然,現在又有蓄養狗仔資金來源之可能牽涉反滲透法、以及收錢質詢之觸犯「不違背職務收賄」罪嫌等陰影相隨,眼看黨內立委任期2年條款期限將至、保護傘將失,自是需要藍營為其救命浮木;於是,就在不在籍投票、中配入籍年限六改四等修法事案戰鼓響起的同時,停止軍公教年金改革,也就成為藍白攜手合作的又一戰場。 小蔥口中的國昌老師、以及同黨的薯條哥等人,在跟隨藍營,加入反年改的戰場上,先是暗指年改撕裂社會、徒增世代與族群衝突,後拉勞保年金救援,以鋪陳其「民進黨執政都沒什麼在顧勞保年金,那公教年金又何須改革,不只年金改革必須停,更需依物價通膨連動調整,馬照跑、舞照跳豈不美哉?」的本音,最後再強調各種年金一體檢討,看似體物溜亮、好聽又不會跳針,內裡更是把「問A答B」與該黨「既要…,又要…」的政治攻防伎倆發揮到極致,但,若真的中斷年金改革,真的會如藍白所主張的如此美好嗎? 更進一步的說,先不論「年金改革中斷,不啻於把公教各種年金,重新拉回資金遲早用罄、破產難以避免的既有軌道」的大問題,從先前藍營主推、白營扈從的警察人員退休修法來看,厚退休人員、薄現職人員,變相鼓勵現職中階人員提前退休,加速中階較資深人力的空洞化,使現職新進及青壯人力負擔加重的同時,更加大未來這些現職新進及青壯人力終於能夠退休時,其退撫基金業已破產的可能性,請問黃大主席兼總召,如此的修法方向,對警消本身、以及警消之於整個台灣社會而言,能夠稱得上是消弭不同職業族群、以及特定公職內部世代衝突的良策嗎? 說到底,黃大主席兼總召,終於連在年金改革的領域上,都走到「覺昨日支持年改為非,而今日扈從藍營反年改為是」,看似「以今日之我否定過去之我」,實則無法說服相當比例台灣民眾的境地,其中固然有柯前主席2024年大選時,自認為有利於其自身的選舉算計的因素,但: —如果不是小草與小蔥們,不僅用自身的捐獻疊出白營的選戰資金、用選票堆出白營的政黨與選舉補助款,更在政治立場與網路論戰等等的場域中,對白營的領袖與幹部們呵護備至、為其護航不遺餘力,柯前主席也好、黃大主席兼總召也罷,怎可能將小蔥與小草,視為是可以不斷動員收割的政治韭菜? —但蔥草們可曾想過,你們為柯前主席與黃大主席兼總召,出錢、出力、出選票,白營的柯黃2位領袖,有為你們的未來,作真正穩健永續的規劃、提出可行的政策嗎,特別是在筆者絕不相信「軍公教的現職人員當中,完全沒有小蔥或小草,抑或小蔥或小草的軍公教,普遍對藍白年金改革方向一無所知」的情況下?抑或是以2024年大選的民意授權為後盾,無論藍營提出的法案或修法方向多荒謬,白營就是非跟上不可? 不過,筆者必須悲觀的說,在小蔥小草不是對民進黨存在莫名恨意、就是對柯前主席及黃大主席的個人崇拜先行,達到已經連自身利益何在都已經無法清晰掌握、喪失權衡得失能力的情況下,要小蔥小草不再成為韭菜、不再聽任白營領袖收割個人政治利益,無疑與緣木求魚並無二致,但,當小蔥小草終於從白營的人造迷霧中醒來的時候,他們還有多少機會可以反省及改正,卻也成為他們自身必須細細思量的大哉問。 作者:吳哲文

羊羣變獅羣,有這麼一回事 ?

好像沒聽說過:DNA 改造技術,有革命性的發展,分子生物學家可以基因改造,把羊變成獅子。 台灣不愧為奇幻之國,甚麼事都可能發生。例如說,政客可以大言不慚說她有超凡的神力,可以把羊變成獅子,科學家算哪門子 ?許多台灣人都相信 ! 既然人家這樣說,我們暫時姑且相信,與人為善嗎 ,而研究之!—— 你我大小公民們會赫然發現,人家可不是大嘴吧,隨口亂講,確實有一羣獅子,只不過是「老獅子」! 青壯的羊羣等著被人「摸頭」,神力一揮,從此變成了百獸之王的獅子,怎麼只見擠在前頭都是一羣疲憊、沒有生殖能力的老獅子,—— 不是說好「世代交替」嗎,才投你一票,怎麼只見「老幹」而沒「新枝」!只見「舊人」號淘大哭,不見「新人」開懷大笑! 多年前台灣有個神秘教派,教主帶著百餘名信徒(包括大學教授),變賣家產,𢹂家帶眷,到美國達拉斯城,因為上帝傳來信息某年某月某日會派「太空船」來接他們,飛往永恆的樂園。全美國的媒體震驚,當日集中力量報導這百世難得的大新聞,結果大失所望,上帝爽約了,世稱這是「達拉斯事件」。 比較「達拉斯事件」,這次「羊羣變獅羣」所牽扯的是有百餘年教會,數十萬名的教徒,當然更聳人聽聞,怎麼不見得外媒動員採訪?是不是那位可惡的德國記者搞鬼,暗中下毒,破壞大嘴吧和外媒的融洽關係,只能關起門來,自己慶祝! 台北倒是有不少政治達人,倒肯為已經成為世界名人的「大嘴吧」緩頰。達人們說她所說的是象徵性的「獅子」,「咩咩叫的羔羊」也是象徵性的。你我小公民們一定會很吶悶:獅子不管是象徵或是實質都應該有利齒大嘴,一咬就可以把其他野獸和人類撕裂,這才可稱為獅子為「百獸之王」! 即使由「羔羊」改造成的「獅子」,除了可能還是「咩咩叫」外,當然要孔武有力、利齒巨口,500磅重身軀,一咬不放,非得扯下人民一大片肉不止,才不愧被稱作「獅子」。 所以,不管是咆嘯震岡,令樹林籔籔發抖,還是「咩咩叫」,卻血盆大口,吃起人肉來,不落同儕之後。百年大黨快要變成基因改造工廠,不管叫聲會如何不同,出來的貨色一定要是氣壯山河、吃人肉的「獅子」!怪不得某隻老獅子會感動的涕泗縱橫,因為國字號的「獅子」終於要當家、有肉可以吃了! 作者: 胡嚴

Recent Posts

「反賴」市場進入大內捲時代?

「反賴」市場進入大內捲時代?

          「內捲」最早來自人類學、文化人類學的範疇,指當某文明體系或經濟模式發展至一定階段後,無法邁向新的突破,只能在內部不斷複雜化、競爭加劇、效益卻遞減的狀態。在中國,這個詞語近年被廣泛用來形容教育、職場、產業等領域內群眾式、惡性競爭、邊際回報下降的現象。       [...]

More Info

朱前主席說對了:只有一個國民黨,只有一個台灣 !

台灣有政界有位大主席,世稱「鄭娘娘」者,宣稱:可以口頭上明白接受「九二共識」的一中原則。中國國台辦立即「善意」回應,「鄭娘娘」及其徒眾歡欣鼓舞,載歌載舞,如大旱之望雲霓,豪雨將至! [...]

More Info
小草小蔥終成韭—從「白營立院黨團終於跟隨藍營共反年改」說起

小草小蔥終成韭—從「白營立院黨團終於跟隨藍營共反年改」說起

[...]

More Info
羊羣變獅羣,有這麼一回事 ?

羊羣變獅羣,有這麼一回事 ?

好像沒聽說過:DNA 改造技術,有革命性的發展,分子生物學家可以基因改造,把羊變成獅子。 台灣不愧為奇幻之國,甚麼事都可能發生。例如說,政客可以大言不慚說她有超凡的神力,可以把羊變成獅子,科學家算哪門子 ?許多台灣人都相信 ! 既然人家這樣說,我們暫時姑且相信,與人為善嗎 ,而研究之!—— 你我大小公民們會赫然發現,人家可不是大嘴吧,隨口亂講,確實有一羣獅子,只不過是「老獅子」! [...]

More Info

搜尋

精選文章

川習會的中美矛盾是戰略,不是貿易!

2017-04-08 韓非

八仙樂園爆炸案:缺乏常識造成的災難

2015-06-28 異想

彰化縣民輪替後的哀與愁

2016-03-06 許家瑋

新文明病:儲物症(Hoarding disorder)似正在增加

2015-04-13 楊庸一

訂閱本站

輸入你的電子郵件訂閱新文章並接收新通知。

Powered by WordPress | theme Dream Way
Powered by WordPress | theme Dream Way