黃予岑KEN
← 所有專案
研究已結束

國科會大專生研究計畫

計畫編號:114-2813-C-030-031-E計畫期間:2025 — 2026指導教授:廖建翔
BERTCLIPPaddleOCRTF-IDFNLP

研究背景

網路詐騙案件逐年攀升,詐騙截圖是受害者呈報時最主要的證據型態,也是研判詐騙手法的核心素材。然而現有詐騙偵測系統多針對結構化文字或網址分析,對截圖形式的詐騙訊息缺乏有效的自動化辨識能力。截圖中的文字因壓縮、手機螢幕解析度不一,直接進行 NLP 分析面臨極大挑戰。本研究在廖建翔教授指導下,以國科會大專生研究計畫為框架,系統性地研究如何整合影像處理與多模態 AI 技術,建立一套端對端的詐騙截圖辨識管道,解決現有方法的核心痛點。

研究問題

影像品質

截圖壓縮失真、解析度不一,OCR 直接辨識準確率低落

文字雜訊

OCR 輸出夾雜 UI 元素、時間戳等非詐騙語意文字

語意理解

詐騙話術語意複雜,需深層語言模型才能有效識別

現有缺口

主流方案忽略截圖多模態特性,缺乏端對端自動化

研究摘要

本研究提出一套結合影像處理與多模態 AI 的詐騙截圖辨識管道。針對現有 OCR 辨識不足的問題,透過影像預處理(NLM 去噪、Otsu 閾值化)強化截圖品質,再以 PaddleOCR 進行高精度文字擷取。擷取結果以 CLIP 零樣本語意篩選去除雜訊,最終輸入 Fine-tuned BERT 模型搭配 TF-IDF 特徵萃取,完成詐騙分類。整體管道設計具高度模組化,各環節可獨立優化,並在實驗中將 AUC-ROC 從 baseline 0.873 提升至 0.929,達成計畫預期目標。

核心成果

Accuracy

0.7560→0.7712▲ +2.0%

NLM 去噪 + Otsu 閾值化後分類準確率

F1 Score

0.8381→0.8566▲ +2.2%

CLIP 語意篩選後詐騙分類 F1

AUC-ROC

0.873→0.929▲ +6.4%

完整管道最終辨識效能

實驗以四種管道配置進行對照比較:原始 OCR(baseline)、NLM 去噪 + Otsu、CLIP refinement、以及完整 NLM + Otsu + CLIP 管道。結果顯示,NLM 預處理使分類準確率由 0.7560 提升至 0.7712;CLIP 語意篩選使 F1 Score 由 0.8381 提升至 0.8566;完整管道則在 AUC-ROC 達 0.929,較 baseline 0.873 提升 6.4%,各模組協同作用帶動整體辨識效能的顯著提升。

研究方法

影像輸入 → 預處理 → OCR → 語意篩選 → 分類輸出

01影像預處理

詐騙截圖來源多元,壓縮失真、低解析度與複雜版面使 OCR 直接辨識準確率低落。本研究採用 Non-Local Means(NLM)去噪演算法——相較於傳統高斯模糊,NLM 在去除雜訊的同時能完整保留文字邊緣細節,大幅降低 OCR 誤辨率。二值化方面採 Otsu 自動閾值化,無需手動調參即可自適應不同亮度與對比度的截圖,整體預處理使後續文字辨識準確率提升約 12%。

NLM DenoisingOtsu ThresholdingOpenCVImage Enhancement
02PaddleOCR 文字辨識

採用百度開源的 PaddleOCR(PP-OCRv3),其在中英文混合場景的表現顯著優於 Tesseract OCR,能有效處理詐騙截圖中常見的斜體、小字及壓縮失真等問題。透過文字偵測(Text Detection)與文字辨識(Text Recognition)兩階段流程,精確擷取截圖中各候選文字區塊並保留版面位置資訊,為後續語意分析提供結構化輸入。實驗中,相較於 Tesseract,PaddleOCR 於中文詐騙截圖的字元錯誤率(CER)降低約 18%。

PaddleOCRPP-OCRv3Text DetectionText Recognition
03CLIP 零樣本語意篩選

OCR 輸出中夾雜大量 UI 元素、時間戳記等與詐騙語意無關的文字,若全數輸入 BERT 將引入嚴重雜訊。本研究引入 OpenAI CLIP 的零樣本(Zero-Shot)語意理解能力,以詐騙相關語意提示(prompt)對各文字候選進行相關性評分,自動過濾低語意相關區塊。此步驟顯著提升最終分類器的輸入品質,是整個管道效能提升的關鍵環節。

CLIPZero-Shot LearningSemantic ScoringPrompt Engineering
04BERT 詐騙分類

最終分類階段以 Hugging Face 預訓練 BERT 權重為基礎,使用詐騙語料庫進行領域適應微調(Fine-tuning),使模型深度理解詐騙話術的語意模式。同時融合 TF-IDF 統計特徵,捕捉詐騙文字中的高頻關鍵詞規律,與 BERT 深層語意表示形成互補。模型輸出 0 至 1 的詐騙相似度分數,並透過最佳決策閾值優化,最終在測試集達成 AUC-ROC 0.929 的辨識效能。

BERTFine-tuningTF-IDFDomain Adaptation

主要貢獻

01

設計端對端多模態詐騙截圖辨識管道,整合影像處理、OCR、語意理解與 NLP 分類四大模組,建立可泛化的系統框架。

02

創新引入 CLIP 零樣本語意篩選作為 NLP 前處理環節,有效解決 OCR 雜訊對分類模型的干擾問題,此設計在現有詐騙偵測文獻中屬罕見應用。

03

AUC-ROC 由 baseline 0.873 提升至 0.929(提升 +6.4%),達成並超越國科會計畫預期目標,驗證多模態管道設計的有效性。

04

以 NLM 去噪搭配 Otsu 閾值化的影像前處理策略,有效克服詐騙截圖影像品質不一的核心挑戰,使分類準確率由 0.7560 提升至 0.7712。

05

採用 PaddleOCR PP-OCRv3 取代傳統 Tesseract,在中英文混合詐騙截圖場景中字元錯誤率降低約 18%,顯著改善文字擷取品質。

06

所提管道架構具高度模組化設計,各環節可獨立替換升級,未來可延伸應用至 LINE、Instagram、Facebook 等主要詐騙管道的截圖自動化分析。

計畫資訊

指導教授

廖建翔

所屬單位

輔仁大學 資管系

計畫期間

2025 — 2026

計畫狀態

已結束

← 回到專案列表