原文標題:Google DeepMind and Singapore Government collaborate to build fine-tuned AI model for scam detection
Google DeepMind 在 10 月 14 日宣布與新加坡政府科技局(GovTech Singapore)合作,開發能在裝置本地分析對話、辨識詐騙操控手法的 AI 模型。合作屬 Google 與新加坡政府的國家 AI 夥伴計畫一環,核心訴求是讓防詐功能理解當地常見騙術,同時避免把私人聊天內容集中傳回雲端分析。
官方指出,新加坡常見的詐騙包括假冒政府或銀行、投資騙局、假工作機會及冒充在地人物。一般通用模型未必熟悉地方語境,因此團隊以輕量 Gemma 模型為基礎,使用當地詐騙對話資料進行微調,讓系統能區分一般聊天與試圖引導受害者交出金錢、帳密的操控式對話。
為了控制手機運算與電力負擔,系統設計成兩階段:第一階段由低耗電的輕量分類器快速篩選訊息,判定為正常者不進入下一階段;只有疑似風險對話才交給微調後的 Gemma,分析較完整的多輪對話脈絡,再決定是否顯示警告。若模型判定存在操控跡象,會直接在裝置上提醒使用者暫停轉帳或分享敏感資訊。
資料治理方面,官方表示微調在新加坡 GovTech 管理的 Google Cloud 環境中完成,訓練排除私人及可識別個人的公民資料,改用來自詐騙報告與情資的匿名資料;測試則包含合成對話與當地資料集。正式整合至民眾使用的應用程式時,須取得使用者同意才能讀取裝置上的對話,且模型推論在裝置本地執行,Google 與新加坡政府不會透過這項部署取得聊天內容。
Google DeepMind 說明,模型將與新加坡政府合作分階段導入應用程式,未公布全面上線日期、支援哪些聊天軟體或實際偵測準確率。官方所說的本地處理與隱私承諾也應以日後各應用程式的整合方式及授權流程實際驗證。
發生了什麼事
Google DeepMind 與新加坡 GovTech 共同微調 Gemma,規劃在手機本地辨識詐騙對話並發出警告。
為什麼重要
詐騙越來越依賴長對話與社交操控,兩階段本地推論試圖兼顧脈絡辨識、裝置效能及聊天隱私。
影響哪些人
主要影響新加坡的手機使用者、通訊應用程式業者及需要在地化防詐技術的公共部門。
已確認與未確認
合作、兩階段架構與隱私設計已公布;完整部署時間、適用應用程式及正式準確率尚未確認。