電信詐騙咋防范?大模型有何風險?

9月9日，在2024年國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全技術(shù)高峰論壇主論壇暨粵港澳大灣區(qū)網(wǎng)絡(luò)安全大會上，中國工程院院士方濱興就電信詐騙、大模型風險、數(shù)據(jù)跨境流動安全性等問題分享他的觀點。

問：近年來，電信詐騙犯罪層出不窮，如何在事前預防階段解決電信詐騙，防患于未然?

方濱興：預防電信詐騙，我們可以通過宣傳、管理、技術(shù)三個手段。首先，加強對公眾網(wǎng)絡(luò)安全教育的宣傳力度，提高民眾的防范意識和識別能力，這是我們一直在做的。其次，管理就是通過公安部門的雷霆手段震懾打擊不法分子。再者，就是通過技術(shù)手段進行預警防控。

現(xiàn)在有些人剛接到詐騙電話，馬上就有另一個電話打過來，說前面那個電話可能是詐騙電話，要小心。為什么這么快就有預警電話?這里面就有技術(shù)手段?，F(xiàn)在還有一些技術(shù)能夠提前發(fā)現(xiàn)電信詐騙。這背后的原理是不法分子實施電信詐騙時可能要經(jīng)歷很多來回，不是一次成功的，這就給技術(shù)追蹤留出了時間，只要市民及時報警，就有相關(guān)工作人員跟進。更廣泛的技術(shù)聯(lián)動是，如果有市民接到詐騙電話，可以預警這位市民的銀行賬號可能存在風險，一旦這個賬號發(fā)生轉(zhuǎn)錢的行為，可以進行保護性凍結(jié)，聯(lián)系家屬再確認一下。

問：人工智能大模型的快速演進給網(wǎng)絡(luò)安全帶來哪些挑戰(zhàn)?如何用人工智能大模型賦能網(wǎng)絡(luò)安全建設(shè)?

方濱興：一般來說，我們會從四個層面討論新技術(shù)的安全性。前兩個層面是新技術(shù)的AB面。以人工智能大模型為例，它能賦能攻擊，比如AI換臉成為現(xiàn)在視頻詐騙的新技術(shù)手段。賦能防御則是更多的，比如現(xiàn)在研判攻擊離不開人工智能大模型。第三個層面是內(nèi)生安全問題，比如對抗樣本攻擊就可能暴露人工智能大模型自身存在的脆弱性。第四個層面是衍生安全問題，比如人工智能大模型被利用或不恰當使用引發(fā)的事件。

我建議用外置手段給人工智能大模型做二次防范。比如企業(yè)里有大量敏感信息，當不同員工去獲取經(jīng)大模型輸出的信息時，可以根據(jù)員工管理權(quán)限，限制其對敏感數(shù)據(jù)的訪問程度。

問：目前我國正在推動數(shù)據(jù)跨境流動，從技術(shù)層面如何保障數(shù)據(jù)跨境流動的安全性?

方濱興：數(shù)據(jù)跨境流動的安全性保障需要法律法規(guī)和技術(shù)手段的雙重支持。首先數(shù)據(jù)跨境流動是受法律法規(guī)約束的。一個比較簡單方法就是發(fā)布負面清單，明確禁止跨境流動的數(shù)據(jù)類型。另一個就是用技術(shù)手段解決，我把它叫作“數(shù)據(jù)不動程序動”。什么意思呢?就是在數(shù)據(jù)不離開本地的情況下，通過程序處理數(shù)據(jù)，并將處理結(jié)果進行跨境傳輸，實現(xiàn)隱私保護與數(shù)據(jù)流動共存的最優(yōu)目標。比如，一名內(nèi)地人去香港創(chuàng)業(yè)需要貸款，香港方面要調(diào)查這個人有沒有資質(zhì)、過往的借貸歷史。但這些數(shù)據(jù)都在內(nèi)地，涉及個人隱私信息，不允許跨境流動。由于香港那邊是需要了解這個人的貸款償還能力，那么可以在一個可信的執(zhí)行環(huán)境中運算分析出這個人的信譽數(shù)值，這個數(shù)值的流動就是安全合規(guī)的。