國科會大專生研究計畫
研究背景
網路詐騙案件逐年攀升,詐騙截圖是受害者呈報時最主要的證據型態,也是研判詐騙手法的核心素材。然而現有詐騙偵測系統多針對結構化文字或網址分析,對截圖形式的詐騙訊息缺乏有效的自動化辨識能力。截圖中的文字因壓縮、手機螢幕解析度不一,直接進行 NLP 分析面臨極大挑戰。本研究在廖建翔教授指導下,以國科會大專生研究計畫為框架,系統性地研究如何整合影像處理與多模態 AI 技術,建立一套端對端的詐騙截圖辨識管道,解決現有方法的核心痛點。
研究問題
影像品質
截圖壓縮失真、解析度不一,OCR 直接辨識準確率低落
文字雜訊
OCR 輸出夾雜 UI 元素、時間戳等非詐騙語意文字
語意理解
詐騙話術語意複雜,需深層語言模型才能有效識別
現有缺口
主流方案忽略截圖多模態特性,缺乏端對端自動化
研究摘要
本研究提出一套結合影像處理與多模態 AI 的詐騙截圖辨識管道。針對現有 OCR 辨識不足的問題,透過影像預處理(NLM 去噪、Otsu 閾值化)強化截圖品質,再以 PaddleOCR 進行高精度文字擷取。擷取結果以 CLIP 零樣本語意篩選去除雜訊,最終輸入 Fine-tuned BERT 模型搭配 TF-IDF 特徵萃取,完成詐騙分類。整體管道設計具高度模組化,各環節可獨立優化,並在實驗中將 AUC-ROC 從 baseline 0.873 提升至 0.929,達成計畫預期目標。
核心成果
Accuracy
NLM 去噪 + Otsu 閾值化後分類準確率
F1 Score
CLIP 語意篩選後詐騙分類 F1
AUC-ROC
完整管道最終辨識效能
實驗以四種管道配置進行對照比較:原始 OCR(baseline)、NLM 去噪 + Otsu、CLIP refinement、以及完整 NLM + Otsu + CLIP 管道。結果顯示,NLM 預處理使分類準確率由 0.7560 提升至 0.7712;CLIP 語意篩選使 F1 Score 由 0.8381 提升至 0.8566;完整管道則在 AUC-ROC 達 0.929,較 baseline 0.873 提升 6.4%,各模組協同作用帶動整體辨識效能的顯著提升。
研究方法
影像輸入 → 預處理 → OCR → 語意篩選 → 分類輸出
詐騙截圖來源多元,壓縮失真、低解析度與複雜版面使 OCR 直接辨識準確率低落。本研究採用 Non-Local Means(NLM)去噪演算法——相較於傳統高斯模糊,NLM 在去除雜訊的同時能完整保留文字邊緣細節,大幅降低 OCR 誤辨率。二值化方面採 Otsu 自動閾值化,無需手動調參即可自適應不同亮度與對比度的截圖,整體預處理使後續文字辨識準確率提升約 12%。
採用百度開源的 PaddleOCR(PP-OCRv3),其在中英文混合場景的表現顯著優於 Tesseract OCR,能有效處理詐騙截圖中常見的斜體、小字及壓縮失真等問題。透過文字偵測(Text Detection)與文字辨識(Text Recognition)兩階段流程,精確擷取截圖中各候選文字區塊並保留版面位置資訊,為後續語意分析提供結構化輸入。實驗中,相較於 Tesseract,PaddleOCR 於中文詐騙截圖的字元錯誤率(CER)降低約 18%。
OCR 輸出中夾雜大量 UI 元素、時間戳記等與詐騙語意無關的文字,若全數輸入 BERT 將引入嚴重雜訊。本研究引入 OpenAI CLIP 的零樣本(Zero-Shot)語意理解能力,以詐騙相關語意提示(prompt)對各文字候選進行相關性評分,自動過濾低語意相關區塊。此步驟顯著提升最終分類器的輸入品質,是整個管道效能提升的關鍵環節。
最終分類階段以 Hugging Face 預訓練 BERT 權重為基礎,使用詐騙語料庫進行領域適應微調(Fine-tuning),使模型深度理解詐騙話術的語意模式。同時融合 TF-IDF 統計特徵,捕捉詐騙文字中的高頻關鍵詞規律,與 BERT 深層語意表示形成互補。模型輸出 0 至 1 的詐騙相似度分數,並透過最佳決策閾值優化,最終在測試集達成 AUC-ROC 0.929 的辨識效能。
主要貢獻
設計端對端多模態詐騙截圖辨識管道,整合影像處理、OCR、語意理解與 NLP 分類四大模組,建立可泛化的系統框架。
創新引入 CLIP 零樣本語意篩選作為 NLP 前處理環節,有效解決 OCR 雜訊對分類模型的干擾問題,此設計在現有詐騙偵測文獻中屬罕見應用。
AUC-ROC 由 baseline 0.873 提升至 0.929(提升 +6.4%),達成並超越國科會計畫預期目標,驗證多模態管道設計的有效性。
以 NLM 去噪搭配 Otsu 閾值化的影像前處理策略,有效克服詐騙截圖影像品質不一的核心挑戰,使分類準確率由 0.7560 提升至 0.7712。
採用 PaddleOCR PP-OCRv3 取代傳統 Tesseract,在中英文混合詐騙截圖場景中字元錯誤率降低約 18%,顯著改善文字擷取品質。
所提管道架構具高度模組化設計,各環節可獨立替換升級,未來可延伸應用至 LINE、Instagram、Facebook 等主要詐騙管道的截圖自動化分析。
計畫資訊
指導教授
廖建翔
所屬單位
輔仁大學 資管系
計畫期間
2025 — 2026
計畫狀態
已結束