中新網(wǎng)上海新聞4月17日電 技術(shù)從未如此深刻地介入欺詐與反欺詐的博弈，當(dāng)詐騙與“AI”工具相遇，法律該如何為權(quán)益筑起防線？近日，段和段律師事務(wù)所合伙人吳堅律師接受媒體采訪，他結(jié)合自身執(zhí)業(yè)經(jīng)驗，深入剖析了AI對欺詐犯罪的重塑影響，以及法律與技術(shù)協(xié)同應(yīng)對的路徑。

“AI帶來的絕非簡單的工具升級，而是對犯罪邏輯的徹底重塑。”吳堅開門見山，“技術(shù)迭代不斷壓縮防御反應(yīng)時間，深度偽造技術(shù)正逐步瓦解人與人之間的信任根基，而AI的工業(yè)化應(yīng)用則讓欺詐行為得以規(guī)?；?，其影響遠(yuǎn)超傳統(tǒng)欺詐模式?！?/p>

談及AI技術(shù)的雙重屬性，吳堅直言：“AI技術(shù)始終是一把雙刃劍，挑戰(zhàn)與機(jī)遇并存?！彼M(jìn)一步解釋，一方面，深度偽造等AI技術(shù)讓欺詐行為變得更加隱蔽，給識別和防范帶來了極大難度；但另一方面，即便在虛擬資產(chǎn)交易等看似隱蔽的環(huán)節(jié)，AI應(yīng)用仍會留下可追溯的痕跡。

當(dāng)被問及當(dāng)前應(yīng)對AI欺詐的核心難點時，吳堅表示，現(xiàn)有證據(jù)規(guī)則與資產(chǎn)追蹤方法正面臨嚴(yán)峻挑戰(zhàn)，核心癥結(jié)在于“AI應(yīng)用的邊界尚未清晰界定，使用方式缺乏統(tǒng)一規(guī)范，運行過程中的風(fēng)險控制機(jī)制也仍不健全”。他特別強(qiáng)調(diào)了倫理規(guī)范的重要性：“更值得警惕的是人工智能倫理道德規(guī)范的缺失，若缺乏法律與道德的雙重約束，深度偽造內(nèi)容的甄別、溯源以及相關(guān)責(zé)任的認(rèn)定將變得愈發(fā)困難，這不僅會增加維權(quán)成本，更會對傳統(tǒng)證據(jù)規(guī)則和資產(chǎn)追蹤體系構(gòu)成系統(tǒng)性沖擊?！?/p>

在探討法律人與技術(shù)的關(guān)系時，吳堅給出了明確的定位：“技術(shù)問題終究需要技術(shù)回應(yīng)，而法律人的職責(zé)，就是在擁抱技術(shù)工具的同時守住專業(yè)邊界?！彼a(bǔ)充道，既要善用AI提升工作效率，更要以自身的專業(yè)能力完成最后的校驗，確保法律服務(wù)的嚴(yán)謹(jǐn)性與準(zhǔn)確性，這是法律人的底線。

針對“AI技術(shù)將從哪些維度影響欺詐犯罪的模式與規(guī)?！边@一問題，吳堅給出了具體解讀：“這種影響是結(jié)構(gòu)性的，主要體現(xiàn)在三個方面。”他逐一分析，首先是技術(shù)迭代極快，“通用人工智能(AGI)的應(yīng)用正以‘月’為單位加速推進(jìn)，這使得欺詐手段的更新周期被極度壓縮，防御方面臨著持續(xù)且快速演進(jìn)的技術(shù)挑戰(zhàn)”；其次是欺騙性質(zhì)變，“基于深度偽造的詐騙能夠?qū)崟r生成與親友完全一致的音視頻，徹底顛覆了基于身份、聲音的傳統(tǒng)信任驗證機(jī)制，讓識別與防范變得極為困難”；最后是犯罪工業(yè)化，“AI能實現(xiàn)詐騙流程的自動化與個性化，使犯罪團(tuán)伙能以前所未有的效率，同時對海量目標(biāo)實施定制化欺詐，既大大降低了犯罪門檻，也急劇擴(kuò)張了欺詐的潛在規(guī)?！薄?/p>

面對AI欺詐的挑戰(zhàn)，法律服務(wù)機(jī)構(gòu)該如何革新服務(wù)模式與工具？吳堅建議：“應(yīng)對AI驅(qū)動的欺詐，法律服務(wù)必須前置性地升級模式與工具。”

他鼓勵道，“律師尤其是年輕一代律師，應(yīng)主動將AI深度融入日常工作流程，讓其成為像法律檢索一樣高效的輔助工具?！蓖瑫r，他提醒，“關(guān)鍵在于為AI應(yīng)用設(shè)立清晰的邊界與完善的風(fēng)險控制機(jī)制——當(dāng)前AI仍有可能生成誤導(dǎo)性信息，因此所有AI產(chǎn)出的內(nèi)容，都必須經(jīng)過律師基于專業(yè)知識的‘雙重核查’，確保結(jié)果準(zhǔn)確可靠。”在他看來，“技術(shù)的價值在于服務(wù)并增強(qiáng)專業(yè)判斷，而絕不能替代人的最終責(zé)任?！?謝夢圓 王輝)

（原標(biāo)題：當(dāng)詐騙手段借AI迭代 法律該如何為權(quán)益筑起防線？）