近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期4個月的“清朗·整治AI應(yīng)用亂象”專項行動，分兩個階段集中整治AI服務(wù)違規(guī)和AI信息內(nèi)容傳播等14類突出問題。

這一“亮劍”之舉，既是對技術(shù)野蠻生長的必要糾偏，更是為整個行業(yè)健康有序前行校準(zhǔn)航向、劃清“安全邊界”。

近年來，人工智能技術(shù)以前所未有的速度融入社會生產(chǎn)生活，在極大促進數(shù)字經(jīng)濟繁榮和文化傳播的同時，也出現(xiàn)了一些令人擔(dān)憂的“走偏跑岔”現(xiàn)象。從“AI盜臉”“AI換聲”假冒公眾人物實施詐騙，到利用深度偽造技術(shù)制造虛假新聞、擾亂社會輿論環(huán)境；從AI“投毒”篡改高價值語料數(shù)據(jù)，再到濫用AI“魔改”經(jīng)典、生成邏輯混亂價值空洞的“數(shù)字泔水”，種種亂象不僅嚴(yán)重侵害公民隱私權(quán)及個人信息安全，更對社會倫理底線和青少年健康成長造成了多重沖擊。AI一旦被濫用如同一匹脫韁的技術(shù)猛獸，失去管束必然反噬整個社會的安全網(wǎng)絡(luò)。

中央網(wǎng)信辦“清朗·整治AI應(yīng)用亂象”專項行動，既是一場直面AI技術(shù)濫用的“排雷戰(zhàn)”，也是一項為新興領(lǐng)域產(chǎn)業(yè)發(fā)展清除路障、激濁揚清的系統(tǒng)工程。結(jié)束亂象非一日之功，筑牢安全監(jiān)管的堤壩也需持續(xù)發(fā)力。下一步推進“清朗·整治AI應(yīng)用亂象”專項行動，需要多方著手。

要進一步完善法規(guī)政策，實現(xiàn)“有法可依、執(zhí)法必嚴(yán)”。在專項行動推進中，各地網(wǎng)信部門應(yīng)抓緊制定配套實施細(xì)則與指引標(biāo)準(zhǔn)，重點針對AI虛構(gòu)操縱股市、醫(yī)療輿情等專業(yè)垂直場景風(fēng)險，出臺更加精細(xì)化的管理指南。要嚴(yán)查標(biāo)桿性違法違規(guī)案件，堅持“以案促改”，對違規(guī)賬號、MCN機構(gòu)和網(wǎng)站平臺依法進行頂格處罰，并定期集中曝光典型案例，形成強有力的震懾效應(yīng)。

要壓實平臺企業(yè)的主體責(zé)任，督促其切實盡到“看門人”的審核義務(wù)。督促更多平臺建立健全AI大模型及算法的備案公示與審計溯源流程，增強企業(yè)在模型訓(xùn)練階段的語料安全和數(shù)據(jù)合規(guī)意識。必須規(guī)范開源社區(qū)的身份認(rèn)證和安全管理責(zé)任，第一時間下架含有嚴(yán)重偽造、色情擦邊等違規(guī)內(nèi)容的數(shù)據(jù)集與模型，絕不縱容AI“去標(biāo)識”等違規(guī)工具服務(wù)在電商及各大平臺的暗中流通。

要借助科技治理手段賦能監(jiān)管，進一步補足專業(yè)領(lǐng)域的技術(shù)短板。為防止違規(guī)AI應(yīng)用在專項整治后又有“變異回潮”之勢，各級網(wǎng)信部門應(yīng)加快試點部署AI生成內(nèi)容鑒別引擎、數(shù)據(jù)投毒異動監(jiān)測系統(tǒng)等“以技防技”的先進工具，對深度偽造內(nèi)容進行平臺式跨域前置“標(biāo)識提醒”和實時攔截提示。目前，針對GPT式大語言模型的安全測評及準(zhǔn)入門檻等標(biāo)準(zhǔn)尚待統(tǒng)一，建議支持國家級AI安全沙箱試點機構(gòu)的建設(shè)，不斷強化對新發(fā)技術(shù)風(fēng)險的前瞻性辨識和極限測試能力。

技術(shù)創(chuàng)新是機遇，而法治與安全是讓人們得以安心擁抱機遇的堅實底線。未來只有始終同心同向，不斷完善監(jiān)管法規(guī)與技術(shù)平臺治理能力，才能確保我國人工智能在安全、可控、負(fù)責(zé)、向善的康莊大路上健步如飛，讓科技之光真正惠及每一位國民。（文：周雄，圖片由周雄借助AI生成）