筆記使用AI輔助整理直播內容筆記,使用Claude。若有興趣歡迎補直播檔,或者追蹤我的YT頻道,每週一、三、五晚上七點直播,週五是國際與台灣新聞,週一、三聊時事與議題!歡迎大家來直播跟我聊天。
這場是上個月〈一起聊聊認知作戰!從 EZ WAY 之亂看網軍在吵什麼〉的續集。國安局整理的認知作戰手法、EZ WAY 那波爭議,上一集都講過了,這次往下聊 AI 深偽、選舉季,還有假訊息為什麼越來越便宜。
千昭開場就說,最近自己用了很多 AI,又剛好在關心年底的選舉,所以想聊這個。她也在直播裡坦白,這場的資料大多是 AI 幫忙蒐集整理的,雖然有要求它多做核實,「如果它做的核實有問題的話,那我可能也會講錯」。
事後查證,確實有幾處講錯。下面遇到的地方都用「整理時補充」標出來,剛好也是這個題目的一部分。
惡搞影片跟深偽,界線在哪裡
千昭先從最近看到的東西講起:拿政治人物做成惡搞造型的 AI 系列影片,還有名人被做成在跳短影音舞的影片。
這類內容很明顯是在惡搞,一看就知道是假的。被做的人可以告嗎?好像可以,但到底會不會告又不一定,尤其沒有造成經濟損失的時候。可是它確實是在隨便使用別人的肖像。
她覺得難的地方是標準。拿 AI 做深偽影片、做一齣劇、做一齣諷刺劇,界線到底在哪裡?有些影片讓人看了會想「這是在諷刺還是在誇獎」,因為新奇,所以還是有吸引力、有影響力。
就算影片上面寫著「AI 生成」的透明字,所有人都看得到,想相信的人還是會相信。
法律其實有,而且比 Sora 還早
接著千昭唸了事先查的法條。
性影像的部分,刑法有處罰製作、散布他人不實性影像的條文,最重 5 年,意圖營利最重 7 年。她在直播上把條號講成「315 條之 5」。(整理時補充:條號是刑法第 319 條之 4,屬於 2023 年增訂的「妨害性隱私及不實性影像罪」章,刑度講對了。)用深偽手法犯詐欺,則是加重詐欺。
跟選舉直接相關的是公職人員選舉罷免法第 104 條:
- 意圖使候選人當選或不當選,散布謠言或傳播不實之事,最重 5 年。
- 用候選人本人的深度偽造聲音、影像來做這件事,最重 7 年。
- 為了賺錢而做,再加重二分之一,還可以併科罰金。
她也唸了法律對「深度偽造」的定義:以電腦合成或其他科技方法製作本人不實之言行,並足使他人誤信為真的技術表現形式。(整理時補充:這段定義寫在選罷法第 51 條之 3,不在第 104 條。同一條也規定,候選人發現有自己的深偽影音,可以向警察機關申請鑑識,平台接到請求後兩天內要限制瀏覽或下架。)
這次修法是 2023 年 5 月三讀、6 月公布。千昭特別提到,台灣在 Sora 出現之前就有這個條文了。
但她接著說,有刑事責任,卻好像沒聽過有誰真的被告成功。這個印象到收播前她又提了一次,後面再講。
說謊者紅利:不用造假,否認真的就好
這場花最多時間的概念是說謊者紅利(liar’s dividend),出自 Chesney 與 Citron 2019 年的論文。
核心意思是:深偽技術一旦普及,說謊的人就多了一項新工具。重點不是造假,是否認真的。
千昭舉的情境是,某個候選人被拍到一段影片,不管影片是真是假,他只要說「這是假的」「這是 AI 做的」「這一定都是誰誰誰的陰謀」,支持他的人就可能無條件相信。他甚至不用自己做假影片,只要指著真的影片說那是 AI 就好。
她在直播裡提到一個研究,說政治人物謊稱某段影片是深偽,領導力評價反而會變高。(整理時補充:這個研究結論講反了。Schiff、Schiff 與 Bueno 發表在《美國政治學評論》的研究發現,政治人物聲稱「那是假消息」,對文字報導的醜聞確實能拉高支持度,但面對影片證據大致無效。)
她覺得更麻煩的是後面那一步。你想證明某個東西是假的,對方就說「那你證明給我看」,然後一直丟問題,你一直回答。但他根本沒有要相信你的回答,他只是想把你辯論倒。
有點像玩狼人殺,每個人都會被懷疑是狼。對方沒有要說服你,他只是要把局面攪亂,讓「相信對的事情」這件事變得很費力。
收播前她回到這題:被指證為深偽的真影片,跟真的深偽影片,哪一個傷害比較大?答案是前者,因為說謊者紅利讓說謊有報酬,也讓證據失效。
「我看得出來」,其實是一種錯覺
為什麼影像這麼難防?千昭的說法是,這跟生物演化有關。
人類和很多動物的本能都是「所見即所得」,看見的東西就是真的。所以就算你已經知道某支影片是假的,底下有人反駁,你還按了讚,那個假的畫面還是會在腦子裡偷偷留下一點痕跡。累積到什麼程度會影響人,沒有人說得準。
她接著提了幾個數字:
- 面對高品質的深偽,人類能看出是假的比例大約只有 24.5%。
- 只有 0.1% 的受試者能把真假全部分對。
- 辨識合成影片的正確率,比辨識合成照片低 36%。
(整理時補充:0.1% 與 36% 出自 iProov 2025 年 2 月發表的研究;24.5% 則是另一篇,Korshunov 與 Marcel 2020 年的研究,兩個數字不是同一份研究。)
影片比圖片更難分,而影片正好是選舉季的主戰場。
另一個研究發表在 Nature 旗下的《Communications Psychology》:受試者看過 AI 深偽影片後,就算事先被明確告知影片是假的,影片內容對判斷的影響還是會殘留。(整理時補充:Clark 與 Lewandowsky,2026 年 1 月發表。)
所以千昭的結論是,對願意查證、覺得自己看得出來的人來說,要先承認「我看得出來」有時候是錯覺。如果正確率只有兩成多,那「猜得出來」就不是能力。比起判斷畫面真假,更該做的是去查它的來源。
淺層的假,比換臉更便宜
千昭說,比起精緻的換臉,大量生產的淺層偽造反而更常見:假的停班停課通知、假的地方防災公告、假的官方版面截圖。
她想到以前的中國網軍。會有帳號說「我們大陸內地工資一個月有六千」,然後附一張舊版 AI 生成的圖,上面還有亂碼,大家一看就知道是假的,可以直接笑他。現在做得越來越真,笑不出來了。
統戰內容也一樣。千昭說有些小紅書上的影片,表面是美甲、妝容教學,裡面夾一些「中國好棒棒」的東西,讓人潛移默化。以前要做這種事得先養一個網紅,現在只要叫 AI 生出來,成本低很多。
更進一步的是即時視訊換臉,連直播類的東西都很難確定是不是本人。她把這段整理成兩件事同時發生:AI 讓假訊息變多,也讓假訊息變便宜。
為什麼假公告這麼好用?她在直播裡提到經濟學的訊號理論:當對方沒辦法直接驗證你的品質,你就送出一個難以偽造的訊號。公文格式原本就是這種訊號,看到它,人的戒心會降低。用 AI 做出一個像公文的東西,等於借用了這個訊號。
後段她又補了一句:深偽騙的是眼睛,淺層的偽裝騙的是預期。假的停班停課通知之所以有用,是因為大家本來就在等這種消息,事後還得花力氣出來澄清。
檸檬車:分不出真假,連真的都不信
千昭說這個理論是她暑修上課時老師講的。
檸檬車理論(Akerlof 1970)在講二手車市場:買方分不出好車壞車,只願意出平均價,好車退出市場,最後只剩爛車。資訊不對稱會讓整個市場的價值一起崩掉,不只是個別買家吃虧。
把二手車換成影音證據,當你分不出真假影片,對所有影片的估價都會往下掉。對假的沒那麼相信,對真的也沒那麼相信。
她也說這是拿一個經濟學模型來類比,不是實證研究。但這個類比剛好接回說謊者紅利:攻擊的一方不需要你相信哪一則假的,只要大家什麼都不太信就夠了。
各國怎麼管 AI 標示
千昭接著整理了幾個地方的規範。
歐盟的 AI Act 規定,2026 年 8 月起 AI 生成內容要清楚標示。她說罰則最高是全球營業額的 7%。(整理時補充:7% 是 AI Act 對「禁止行為」的罰則;違反第 50 條標示這類透明義務,上限是 1,500 萬歐元或全球營業額 3%。)
中國有《人工智能生成合成內容標識辦法》,要求 AI 生成內容加上顯式與隱式標識,禁止刪除、竄改標識。她順口吐槽中國的法規名稱為什麼都取那麼長。(整理時補充:這個辦法是 2025 年 3 月 14 日發布,9 月 1 日施行,直播裡把 3 月 14 日講成執行日。)
台灣是《人工智慧基本法》,2025 年 12 月三讀、2026 年 1 月公布施行,主管機關是國科會,內容偏向治理原則。
她的看法是,現在各國都在搞 AI 軍備競賽,管得太嚴可能會輸人家,不管又不行。而且就算浮水印標得很清楚,浮水印也有辦法用 AI 去掉,人還是會被眼睛看到的東西影響。
直播中段她也回顧了日本、南韓、歐盟三種處理假訊息的路線:
- 日本不管內容,加快官方自己發訊息。不碰言論自由,但政府自己會變成輿論戰的參賽者。
- 南韓立法讓惡意造謠的人付出懲罰性賠償。有實際代價,但可能有寒蟬效應,也可能變成政治對立的燃料。
- 歐盟規管平台的透明度與責任,處理結構而不是個別內容,但會被批評是變相審查,也有跨國主權衝突。
講到跨國主權衝突,她想到有中國網友跑到 Threads 上說「台灣是中國的一部分,不然你們就不要用中文」。千昭的回應是:「你們這些用簡體中文的人,憑什麼管我們這些用繁體中文的人。」
管行為,不管內容
那台灣該怎麼管?千昭唸到一個方向:管行為,不管內容。
與其判定「這句話是不是假的」,不如去管協同性造假行為、假帳號、買廣告不揭露、境外資金不清楚。管行為會提高造假那一方的成本;管內容則是要求防守的一方付出更高的成本。
聊天室有人說,每次要立法管網路平台,就會有人煽動說這是要戒嚴;可是每次出了詐騙新聞,同一群人又會問為什麼不立法。千昭同意「就是會有這種問題」。收播前她也提到,數位中介法之前就被擋下來了,不知道之後還有沒有機會過。
詐騙廣告砍得掉,選舉假訊息為什麼砍不動
直播裡唸到一個對比:投資詐騙廣告已經砍掉了 99%,選舉假訊息為什麼砍不動?
唸到的答案是,詐騙廣告有明確的受害人,選舉言論沒有。更根本的是,沒有機構敢當那個判斷「這則政治訊息是假的」的角色,因為一判斷,就會被說是在選邊站。
千昭另外提到封鎖小紅書的效果,說封掉之後擋掉了 80% 的經濟詐騙。(整理時補充:數字的意思不太一樣。內政部 2025 年 12 月起限制連線小紅書,2026 年 8 月公布的是與小紅書相關的詐騙件數下降 80%、金額降 55%,不是全台經濟詐騙少了八成。)
到收播前,她又回到法律那一題。選罷法第 104 條雖然有,但她的印象是沒看過真的成立的案子,而且散布的人如果在境外,根本管不到。所以她覺得台灣應該要管平台,例如要求揭露發文者在哪裡,她提到 Threads 已經可以看到帳號是從哪裡發的。(整理時補充:整理時查得到的是 X 在 2025 年 11 月推出「關於此帳號」功能,會顯示帳號所在的國家或地區,上線後也被指出有判斷不準的情況;Threads 的對應功能,整理時沒有查證到。)
她的總結是,現在能介入的大多還是經濟詐欺類;政治謠言只要在境外,就很難管得到。
台灣這一場的條件
今年的地方選舉在 11 月 28 日投票。直播後段千昭唸了幾組數字:
- 國安局統計,2026 年第一季查到異常帳號 1.3 萬多組、爭議訊息 86 萬則,政府網路服務第一季遭侵擾約 1.7 億次,國安局不排除這是在為介入年底選舉預作鋪陳。
- 據報導,台灣民主實驗室追出一個與中國有關的網絡,用了 549 個假 Threads 帳號把流量導到內容農場。
- 一篇 2026 年 6 月 20 日的報導:163 個境外內容農場粉專發了 383 則貼文,其中有 5 分鐘內發 34 則的紀錄,94.5% 由境外管理。
對「5 分鐘 34 則」,她的評語很直接:人辦不到,那就是機器。
為什麼台灣特別難防,她唸到三點:LINE 是封閉的傳播管道,查核組織看不到群組裡在傳什麼;同鄉、同事群組裡的信任來自人而不是內容,所以直接打臉內容常常沒用;兩岸同語言,沒有語言屏障,AI 翻譯還讓別國的假訊息也能順手輸入。
地方選舉又比總統大選更容易操作。候選人沒有全國媒體背書,地方議題的查核資源少,一則假的里長公告在一個 LINE 群組裡就能發酵完,而且不會有記者去查。
也不是所有誤導都需要造假。例如用全國性的標籤去套地方局勢,這次藍白合只在新北、新竹市、嘉義市、宜蘭四個縣市成立,其他縣市是多方對局,用全國框架講地方,不造假也能誤導。
聲量大,不等於講得對
中間有一段千昭講得很有感觸。
之前吵核能議題的時候,有人會拿一位知名網紅的說法當依據。變成她要跟那位網紅比聲量,好像她查到的資料從她嘴裡講出來,因為「我沒有他紅」,所以講的就是假的。「問題是他也不是學這個的啊。」
她覺得就算是專家,也不能只聽一個人的,要去查很多個專家、各方面的意見,其中可能還夾著假訊息,得自己去辯證。可是現實是很多人用聲量決定可信度。
聊到為什麼很多台灣人不關心政治,千昭的看法是,228 的時候殺掉了太多關心政治的人,戒嚴時期又讓大家習慣「不要太關心政治」。(前因後果可以參考她之前那場〈白色恐怖與二二八〉。)她也說自己是太陽花之後才特別開始關心,在那之前其實也還好。另一個原因是,學習怎麼思考這件事,在義務教育裡幾乎沒有,有些大學也不教。
自媒體的查核標準,會變成社群的預設值
直播最後二十多分鐘,千昭唸到準備資料裡寫給「關心政治的意見領袖」的幾段,一邊唸一邊回應。
第一段是:自媒體不是真的媒體,但有媒體的效果,而且沒有媒體的更正機制。查核標準會變成社群的預設值。對自己討厭的人查三個來源、對自己同意的事一個都不查,這不是道德問題,是預設值問題。影響力建立在「講的東西可以信」上,轉錯一次對家的假訊息,比對家轉錯十次傷得更重,因為自己的人會發現。
第二段是選舉季的坑。不要喊「那是 AI 做的」來當防禦,每喊一次都在替說謊的人加碼;要喊就附證據。「立場正確」也不能代替證據,說反對某某政策的都是中共同路人,就算目的是保護台灣,仍然是沒有證據的陰謀敘事。
還有一句:反認知作戰要建立的,不是「我方謠言可以、敵方謠言不行」的標準,而是不論立場都要接受證據檢驗的公共文化。
千昭唸完的反應是:「我覺得這樣子真的是很對自己很嚴格欸。」
最後一段則是她覺得可以做到的:在自己的社群裡公開講一次「我不確定這件事,但好像有這件事」。一般人講這句話是示範給家人看,有一千個人在看的人講,就是示範給一千個人看。
結語:共識只要一個
收播前聊天室聊到「青鳥」這個標籤,有人說現在只要不喜歡紅色的都被叫青鳥。千昭說,大家有不同的稱呼、不同的派系,在各種議題上也有不同看法,但至少有一個共識:不要讓中國操控台灣。
她覺得最後還是要看大家。盡力去澄清資訊、用講道理的方式跟身邊的人溝通,還有去影響那些願意投票但沒那麼積極的朋友。像她自己就會一直提醒朋友:「你還是要去投票,你要記得去投票。」
直播裡她也丟了一個問題給聊天室:如果有一天你看到一段影片,裡面是你最信任的人在說一件你不願意相信的事,你會先查證,還是先希望它是假的?
這場聊了兩個多小時,中間繞去聊了不少台中交通,收播時預告週五照常有國際新聞與台灣時事的直播。
