熟悉的主持人面孔在廣告里推薦“神效”產(chǎn)品，你會信嗎？近日，北京市海淀區(qū)市場監(jiān)管局就查處了一起典型案例：某公司通過AI技術(shù)剪輯知名主持人視頻，植入虛假口播內(nèi)容，在自有網(wǎng)絡(luò)視頻賬號上以短視頻等形式發(fā)布普通食品“深海多烯魚油”廣告，宣稱“可以解決頭暈頭痛”等醫(yī)療功效，最終因違反了廣告法相關(guān)規(guī)定，已接受行政處罰。

隨著AI技術(shù)的發(fā)展，合成影像、克隆聲音已能以假亂真，不僅催生虛假廣告，更成為詐騙犯罪的“新工具”——視頻里的“家人”可能是陌生人，電話中熟悉的聲音或許來自AI合成。公眾該如何識別防范？打擊AI技術(shù)濫用又需社會各方怎樣協(xié)作？人民網(wǎng)就此采訪了內(nèi)蒙古自治區(qū)人民檢察院第四檢察部（知識產(chǎn)權(quán)檢察辦公室）檢察官助理翟慶濤。

識別AI騙局：從“防信息泄露”到“辨技術(shù)漏洞”

翟慶濤認為，防范AI合成類詐騙，核心要做好“意識提升”和“細節(jié)辨別”兩步。

首先，筑牢源頭防范意識。保護好個人及家人的生物信息（如人臉、聲音、指紋等），不輕易在非正規(guī)平臺留存。同時，不輕信非官方渠道的消息，從源頭減少信息被AI竊取、模擬的可能。

其次，留意技術(shù)合成漏洞。AI克隆的面容、聲音通常存在細節(jié)破綻。例如，AI合成聲音缺乏自然的情感起伏和呼吸停頓，畫面中的人物表情可能僵硬、眼神不自然，這些細微之處都可作為辨別依據(jù)。

再次，緊盯“錢財”核心目的。利用AI技術(shù)實施詐騙的根本目的是騙取錢財。翟慶濤強調(diào)，只要對方提出轉(zhuǎn)賬、提供銀行卡信息等涉及錢財?shù)囊?，必須立刻提高警惕。同時，應(yīng)摒棄“貪小便宜”“一夜暴富”的心態(tài)，樹立通過合法勞動創(chuàng)造財富的價值觀。

AI濫用的法律代價：或?qū)⒚媾R民事、行政、刑事等責(zé)任

翟慶濤指出，AI技術(shù)的應(yīng)用必須在法律框架內(nèi)，濫用行為將面臨多重法律制裁，具體可分為三個層面。

第一，民事責(zé)任。如AI換臉、克隆聲音、合成他人指紋等深度合成他人生物識別信息，可能會侵犯他人肖像權(quán)、名譽權(quán)；利用AI技術(shù)生成論文等，可能會侵犯他人著作權(quán)。

第二，行政責(zé)任。按照反電信網(wǎng)絡(luò)詐騙法等相關(guān)法律法規(guī)的規(guī)定，AI技術(shù)提供方負有安全評估、風(fēng)險提示等義務(wù)，若沒有履行應(yīng)盡的義務(wù)，可能會面臨警告、通報批評、責(zé)令暫停相關(guān)業(yè)務(wù)、停業(yè)整頓、吊銷相關(guān)業(yè)務(wù)許可證或吊銷營業(yè)執(zhí)照、罰款等行政處罰。

第三，刑事責(zé)任。利用AI技術(shù)實施犯罪可能會觸犯刑法規(guī)定的諸多罪名。如果直接實施詐騙行為，會被以詐騙罪嚴(yán)厲懲處；若明知他人利用信息網(wǎng)絡(luò)實施犯罪仍為其提供AI技術(shù)支持，或利用AI技術(shù)為其提供廣告推廣等幫助，可能涉嫌幫信罪等。

治理AI濫用：需多方協(xié)作形成“共治合力”

要從根本上打擊和治理AI技術(shù)濫用，翟慶濤建議社會各方協(xié)同發(fā)力。

第一，需加快專項立法進程。推動針對AI技術(shù)濫用的專項立法，明確技術(shù)濫用的界定標(biāo)準(zhǔn)及責(zé)任劃分，為執(zhí)法監(jiān)管提供根本遵循。

第二，應(yīng)強化監(jiān)管執(zhí)法能力。相關(guān)主管部門需加大監(jiān)管力度，建立AI技術(shù)應(yīng)用的行業(yè)標(biāo)準(zhǔn)，提升對技術(shù)濫用行為的識別和執(zhí)法效率。

第三，要壓實企業(yè)主體責(zé)任。督促AI技術(shù)提供方、應(yīng)用企業(yè)及從業(yè)人員履行安全審查、風(fēng)險提示義務(wù)，加強行業(yè)自律和技術(shù)倫理建設(shè)，確保技術(shù)開發(fā)與使用不觸碰法律底線。