儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。
近日有網紅被查獲以AI換臉軟體Deepfake合成無辜他人的臉孔製作色情影片營利,引起社會大眾擔憂這種AI深偽技術可能造成的危害。Deepfake技術源自AI視覺技術的高度發展,就其正面效益來說,如影視產業可以透過換臉技術來補拍畫面,增進效率。然而,隨著商業與娛樂的產業的散播下,Deepfake技術逐漸普遍。市面上甚至已經有手機App可以達到類似Deepfake的換臉效果。但隨著技術越來越容易取用,「換臉」所可能造成的社會、道德與政治威脅也隨之升高。
Deepfake換臉技術危及國家安全。 圖片來源:公視
Deepfake技術在外國已經是困擾多年的難題。如2017年,美國知名網路論壇Reddit上開始流傳許多基於深偽技術製造的影片,引發軒然大波。Reddit與Twitter便宣告禁止使用此技術,Facebook與微軟等公司也投入辨識Deepfake的檢測技術。然而,Deepfake帶來的危機並不只在社群網站上,更多的是產生在對社交名人、政治人物與整體社會的攻擊與破壞。媒體上對於Deepfake的報導大多集中於合成色情影片,但Deepfake還可能被用來製造假新聞、黑函勒索,甚至是詐欺,藉以擾亂政治、社會與信用秩序。例如,美國多個娛樂節目或西方政治倡議團體,曾透過Deepfake製作川普、普亭、歐巴馬甚至金正恩等人的深偽影像,儘管都是基於倡議民主政治或警醒大眾而製作,其以假亂真的程度一時震撼美國社會。2019年,更曾發生美國國會發言人Nancy Pelosi被合成deepfake造假影片,損害名譽的事件。凡此種種,佐證了Deepfake技術在不受合理監管下,可能對於公民社會造成的危險。
網路與數位科技帶來的一大特性是可以無限的重製與流傳,因此Deepfake影像帶來的危害將會是極為深遠,甚至無法完全去除的。例如,Deepfake合成色情影片的行為一經在網路上廣泛散播,很可能就永遠都在網路上流傳,對於個人隱私名譽帶來極為嚴重的危害,這項問題已經引發各國試圖透過立法與科技手段加以遏止。此外,Deepfake技術對於社會與政治秩序帶來的最大危害之一在於,藉由以假亂真的手段來分裂群體。在政治事件中,由於缺乏辨識真偽的能力,假造的影像更可能激起正反雙方的劇烈衝突。但同時,由於深偽技術氾濫,即使是真實的影片,也可能引發人們的諸多懷疑。如此一來,人們將活在真假難辨的社會,對於眼前所見的不信任,最後將導致人們全憑自己主觀喜好判斷,無所適從的結果,導致秩序的維持將不再可能。
儘管目前Google、微軟與Facebook等科技公司都致力於偽造影片的檢測技術研發,但在相關成果足夠普及之前,社會大眾仍然活在真偽不明的網路與科技世界。同時,各國立法也尚未跟上Deepfake的技術發展,導致無法可管的境地。如今台灣開始倡議立法管制,是一個好的開始,但如何在維護科技合理發展以及監管不法使用間權衡,將會是未來立法過程中的一大難題。
作者 / 起行
Related

網路駭客出征,是種被視為躲暗處背後、無恥不光明正大、但成本相對低廉、效率高、戰果豐碩的攻擊方式! 前《國民黨》黃國園黨部主委、退役少將于北辰,在12日收到署名《中華民族復興鋤奸隊台北分隊》的恐嚇電郵,提及要對于少將跟家人不利。 警方初步查出寄件IP位址是在德國,是發信後信箱就失效的一次性電子郵件,甚至有附自動刪除的木馬程式功能,增加追蹤難度。 網路駭客出征,是種被視為躲暗處背後、無恥不光明正大、但成本相對低廉、效率高、戰果豐碩的攻擊方式! 夠懂網路程式技巧的宅男科技女,在自己房間、或圖書館、有提供WIFI的超商,用筆電甚至手機,就可輕鬆當鍵盤俠,進行跨縣市、跨國、跨洲攻擊! 很明顯的敵暗我明、防不勝防! 很多人會自認,平常又不扯入政黨爭議、不評論政治,這類攻擊關己屁事? 或有人認為,自己很少使用網路,也沒更新社群軟體!這樣應該跟駭客、或網路酸民絕緣吧? 他們卻忘了!在當下網路時代,幾乎沒人得以倖免駭客攻擊!包括無辜者、不用網路者在內! 駭客可盜用大批無辜者帳號,偷到大筆個資,來設立人頭帳號、進行網路網拍詐騙、當殭屍發動網路攻擊…等。 就算自認沒在網路上活躍、甚至是完全不(會)用網路的長輩等族群。但許多個人資料,卻早已存在政府戶政/警政/健保署/交通監理站等機關、銀行/保險業者的客戶資料庫!社會、跟國際新聞版面,就三不五時,看到駭客攻入某國政府或企業客戶資料庫、竊取上百萬筆個資…等新聞。 今年10月底爆發的知名YOUTUBER網紅小玉,利用「DEEPFAKE」程式AI盜臉技術,抓臉孔來製作AV。無辜受害者,從館長陳之漢、女星、女名人、到職棒啦啦隊,男女都有!這是另一種網路攻擊的變種延伸!也證明,只要任何人放網路照片被盯上,就可被盜用! 大多網民,只會普通或中級程度網路技術!不是程式工程師、也非網路系統專家!懂得絕對沒駭客多! 很多駭客組織,也早已是由跨國成員所組成集團!光靠單一國家,難以將所有犯罪者一網打盡! 但民眾個人,終究不如政府國家力量! 中共對台網路作戰,早已如病毒般天羅地網展開多年!像對于將軍這類的恐嚇、利用陳時中去年赴宴影片製造假新聞、山寨廣告詐騙、收買網紅粉絲頁來統戰、駭客盜取個資跟企業機密、利用校園宗教團體進行種種認知作戰!甚至小玉犯罪圖利用的「DEEPFAKE」工具,也是中國開發! 對應這些超飽和攻擊,台灣至今還是漏洞百出、讓中共肆意伸出多方魔爪!又如最近涉間諜案的向心夫妻竟可被輕放!《世新》、《清華大學》等被統戰,也只是冰山一角!這也表示許多單位的高層,本身可能就是統戰幫兇! 所以政府在國內層級,尚待整合各級機關,與企業合作!要加速針對網路國安犯罪,立法加強刑責、及增添網路犯罪防範經費跟人手。 國際層級,要跟外國政府及國際組織合作 (雖然台灣外交地位,常會受到阻擾)!也要跟反共黨派及NGO合作,抗議反制社群媒體對於中共的友善、對反共言論者的打壓!(川普、486先生都是受害者)! 畢竟不止于將軍、AV換臉受害者!每人都是網路跟統戰攻擊的下一個可能受害者! 作者 / 林維基
In "時事"

對於許多科技發展抱有理想者而言,元宇宙可以說是再造理想社會的契機。 2021年至今的最為受到關注的科技趨勢之一便是「元宇宙」(metaverse),尤其當臉書(FaceBook)改名為Meta,並宣示未來將以發展元宇宙為主軸,更是讓大眾意識到元宇宙概念以及其可能的潛力。包括蘋果、微軟、Google以及HTC等廠商都早已了解到電腦科技與網際網路的下一步發展很有可能朝向元宇宙的方向前進。網路與電腦使用者的體驗多年來只能侷限在螢幕前的聲光效果,元宇宙的發展則是企圖將使用者真正帶入沈浸式互動體驗之中,例如建立讓人們能夠以虛擬分身在網路空間中交流或是身歷其境體驗遊戲的冒險感受。儘管元宇宙尚未發展成熟,但已經有了部分成果,包括虛擬偶像、Vtuber、虛擬貨幣、虛擬資產等等,都在近期激起了所謂元宇宙概念股或元宇宙科技的商機,也讓許多人開始設想起或許元宇宙能夠扮演真正人類文明的烏托邦。 元宇宙尚未有確切的定義,大抵上泛指透過沈浸式裝置,建立虛擬時空,讓使用者得以透過虛擬身份進行社交與工作。儘管元宇宙一詞這一兩年才為大眾所知,其相關科技發展其實發展已久,包括虛擬實境(virtual reality)、擴增實境(Augmented Reality)以及手機、遊戲機與個人電腦都可以提供進入元宇宙的環境;區塊鏈技術、5G網路與人工智慧的發展則提供了元宇宙的服務架構。只不過這一兩年來,科技業者與大眾所認知的元宇宙較為侷限在以虛擬實境為主。元宇宙概念在軟硬體上具備有不可忽視的潛在商機,無數科技大廠都宣示將進軍元宇宙,元宇宙概念股更一時成為炙手可熱的投資標的。然而,元宇宙究竟是如臉書執行長祖克柏所描繪的是一塊平等包容的人類文明淨土,抑或只是另一場資本主義剝削的戰爭? 祖克柏在宣示臉書改名的會議上,聲稱該公司的目標將臉書的眾多使用者推向元宇宙空間以及其中的商業潛力。祖克柏大略描述了他心中的元宇宙願景是更為包容的互動體驗。然而,圍繞在祖克柏元宇宙願景周遭的卻並非平等與包容的價值,而是中心化與資本化的商業企圖。人們乍聽元宇宙可能會以為,科技的發展可以賦予人們更好的生活與生產條件,而在元宇宙中人們更有可能突破現實社會的障礙,享有更好的社交、工作與互動機會。但如今的元宇宙發展卻離這種烏托邦想像越來越遠。各大廠商搶進元宇宙不是為了營造開放包容的環境,而是在元宇宙中複製現實的資本主義價值,包括在虛擬世界中分割地界炒地皮、區分高低價的私人財產、建立貨幣經濟並藉此樹立階級。各家廠商所汲汲營營的最根本目標其實在於爭奪誰才是元宇宙的中心、誰才是這個新大陸的領導者、誰來制定相關規範,甚至是誰才能建立寡占甚至獨佔的新空間。 對於許多科技發展抱有理想者而言,元宇宙可以說是再造理想社會的契機。透過元宇宙,我們不僅能夠打破物理界線,更有可能把生產與生活的權力還給每一個個人,打造更平等、更友善也更少壓迫的社會,這便涉及了如何與科技巨頭抗爭,爭取分散化的、去中心化的元宇宙設定。只不過,目前的元宇宙發展顯然與此烏托邦理想背道而馳,不僅資本主義價值早已滲透其中,金錢、財富、割據與階級壓迫無所不在,科技巨頭意圖壟斷元宇宙的企圖也昭然若揭。儘管元宇宙尚在早期的發展階段,如今的發展卻警示著我們,這項新的概念可能淪為另一個剝削的社會,任何一個對於網路自由發展抱有理想者,都應該警覺到科技帶來的可能不是解放與自由,反而可能是拘束與限制的危機。 作者 / 起行
In "時事"
.jpg?resize=350%2C200&ssl=1)
所謂人工智慧(AI),乃運用電腦、機器、程式、原始程式碼通過模擬人類心智來解決問題及決策的能力。關於AI近代的發展,可追溯至 1950 年英國科學家圖靈(Alan Turing)所撰寫的一篇論文:「運算機器與智慧」(Computing Machinery and Intelligence),此篇論文爾後衍生出所謂的「Turing Test」(圖靈測試),圖靈本人最早稱之為「模仿遊戲」(Imitation Game)。該測試用來判斷一台電腦是否能像人類一樣思考,此種思考能力產生出兩種學習型作法:模擬人類及模擬理性。 AI可謂象徵人類科技文明可進一步耕耘於研究、開發用於模擬、延伸及擴展人類智能的技術科學。從科學演化歷史來看,AI在20世紀末70年代以來,也曾因不受主流政治社會的支持而步履蹣跚,後來卻因硬體技術的全方位提升和互聯網大數據的積累得到突破性的發展,AI能以人工神經網絡的研究為基礎,以機器學習為主要特徵,因深度學習算法和演算力的重要突破及發展,在諸多應用端的領域都取得極大可觀的成果。對於社會科學家來說,AI對於區域政經局勢帶來的衝擊尚未清晰可知。 當中國共產黨確認二十大常委換屆後,習近平在政治局常委內已無敵手,更加確認其政治領導的「習核心」的地位,更讓北京當局更大膽地運用各種非軍事手段,以達成其國家政策目標。當然,判定訴諸之行動有時是非戰爭的軍事行動,雖未達到戰爭水準,然而仍對目標國家的利益形成威脅。尤甚,台海情勢能否避免AI帶來的資訊誤差判斷,從而導致對立的衝突行動及難以挽回的戰爭局面。事實上,AI被國家機器為鞏固政權或對外擴張的工具已是全球政治學界所擔憂的趨勢。尤其當一政權為鞏固統治上的需要,時常藉由幾乎無上線的預算進行資訊流通控制。 北京當局動輒對臺灣採用「認知作戰」行動非常多樣化,包括:選舉干預、經濟強制、資訊戰、運用非正規武裝力量如海上民兵等,或是以軍事力量執行非軍事行動,通常是威權獨裁類型國家對抗民主自由國家的政策工具選項。鑑於威權體制國家對於AI技術發展顯得最為熱衷,北京當局熱衷AI技術研發主要是利於施行威權政經體制,此種支配與主導的全面性關係造就「強國家、弱社會」之現象,勢必造成政治上對人民權利的限縮、經濟上對市場的不當的介入與干涉、社會上對人民團體的動員及反動員、教育上深化對意識型態的塑造,以及文化上的強勢之一元獨尊。 受到北京當局時常以軍政威脅、經貿利誘、宗教籠絡、選戰動員、網路假訊息等發動綜合型態的認知作戰,讓臺灣內部不同族群擁有不同歷史記憶與原鄉情節,讓兩岸政策上利害關係人面臨台海政治對立與民間交流熱絡促使「威脅」與「機遇」見解不一。職此,近年來受兩岸的互動頻繁與中共對台的統戰運用,促使政經社利益高度介入而難以客觀理性分析,因而導致台灣內部朝野對兩岸問題立場異常尖銳對立、國家認同的分歧與統獨意識形態制約動輒干預台灣的選舉。 是以,當受眾者得知假訊息並信以為真時,便會影響其政治行為從溫和轉向激進。政府想要因應假訊息不論採取立法查察、建立訊息下架或示警機制、主動揭露調查結果、即時提供正確資訊,或完善第三方事實查核機構等,仍是要能預先針對假訊息進行偵測。 避免假訊息如同病毒進行傳染預防,能夠在第一時間識假策略,才是杜絕假訊息之道,避免台海情勢因資訊判讀錯誤而走向戰爭情勢。孟子離婁篇(上):「今之欲王者,猶七年之病,求三年之艾也,茍為不畜,終身不得。」此段談話經常被引喻為凡事應預先做好準備,臨渴掘井終究是緩不濟急。 作者/林真心
In "時事"