我國首份生成式人工智能監(jiān)管性文件正式實施——立定行業(yè)新規(guī) 指明發(fā)展方向

光明網(wǎng)記者 李政葳 李飛

伴隨新一代信息技術(shù)的迅速發(fā)展，各行各業(yè)大模型“浪潮”此起彼伏。國家網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》），8月15日起正式落地實施。作為我國促進生成式人工智能發(fā)展和規(guī)范應(yīng)用的專門立法，《辦法》界定了該技術(shù)的基本概念，規(guī)定了對服務(wù)提供者的制度要求，為未來行業(yè)健康發(fā)展指明了方向。

賦能千行百業(yè)，推動數(shù)字化轉(zhuǎn)型

(資料圖)

日前，新華社研究院中國企業(yè)發(fā)展研究中心發(fā)布的《人工智能大模型體驗報告2.0》顯示，訊飛星火位列國產(chǎn)主流大模型測評榜首位；與今年6月首次發(fā)布的報告相比，當(dāng)前中國的大模型產(chǎn)品進步顯著。

8月15日，頗受關(guān)注的訊飛星火認知大模型再次迎來升級——在提升通用能力的基礎(chǔ)上，升級代碼能力和多模態(tài)能力。科大訊飛董事長劉慶峰表示，代碼能力是支撐認知大模型智慧的關(guān)鍵維度，多模態(tài)能力則是實現(xiàn)通用人工智能的必經(jīng)之路，大模型賦能個體和行業(yè)的大未來正在到來。

“當(dāng)前，人工智能不斷催生新場景、新業(yè)態(tài)、新模式、新市場，推動數(shù)字化轉(zhuǎn)型發(fā)展。”中國信息通信研究院政策與經(jīng)濟研究所所長辛勇飛說。

對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可也認為，作為通用人工智能的先行者，生成式人工智能將深刻影響人類經(jīng)濟、社會、文化、軍事等各個領(lǐng)域。

“生成式人工智能底層技術(shù)，實際上就是大模型。”百度創(chuàng)始人、董事長兼首席執(zhí)行官李彥宏表示，大數(shù)據(jù)、大算力、大模型，導(dǎo)致智能產(chǎn)業(yè)涌現(xiàn)；同時，人工智能也發(fā)生了方向性改變，從辨別式人工智能走向生成式人工智能。

在360集團創(chuàng)始人周鴻祎看來，以GPT為代表的大模型，是人工智能第一次能夠比較通用地解決問題，并且解決的都是各行各業(yè)共同的痛點和剛需。“它將會像當(dāng)年個人電腦一樣，帶來一次‘工業(yè)革命’。”周鴻祎說。

劃定法律紅線，構(gòu)建良性生態(tài)

今年暑期檔，聚焦互聯(lián)網(wǎng)詐騙主題的電影《孤注一擲》正在熱映。影片生動揭示了詐騙背后，人工智能等新技術(shù)帶來的虛假信息、隱私泄露、算法歧視等風(fēng)險問題。“近年來，人工智能技術(shù)取得了突飛猛進的發(fā)展，尤其是大模型的出現(xiàn)帶來了巨大便利；但隨之而來的是人們對大模型的過度依賴，以及可能產(chǎn)生的安全風(fēng)險。”中國工程院院士鄔賀銓這樣說。

一直以來，我國堅持發(fā)展和安全并重，《辦法》在鼓勵自主創(chuàng)新的同時，也強調(diào)了相關(guān)主體要依法承擔(dān)責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。周鴻祎認為，大模型是數(shù)字化的頂峰，同樣也是一把“雙刃劍”，帶來生產(chǎn)力提升的同時，也存在數(shù)據(jù)和算法安全問題等風(fēng)險。

“如何將海量的數(shù)據(jù)轉(zhuǎn)換為能為大模型訓(xùn)練所用的數(shù)據(jù)是重點。”在近日舉行的第十一屆互聯(lián)網(wǎng)安全大會上，中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長羅鋒盈表示，要提升新技術(shù)、新應(yīng)用安全風(fēng)險防范能力，善于把數(shù)據(jù)資源轉(zhuǎn)換為數(shù)據(jù)優(yōu)勢，構(gòu)建網(wǎng)絡(luò)安全教育技術(shù)產(chǎn)業(yè)融合發(fā)展的良性生態(tài)。

在全球范圍內(nèi)，意大利、德國、法國、西班牙等多個國家的監(jiān)管部門對人工智能表達擔(dān)憂或發(fā)起調(diào)查。中國電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記楊建軍表示，如何發(fā)展好、運用好、管理好生成式人工智能，已成為全世界面臨的共同挑戰(zhàn)。《辦法》作為國際上較早出臺的積極應(yīng)對生成式人工智能安全風(fēng)險的專門立法，為有序開展相關(guān)管理工作明確了方向。

推動多方協(xié)同，引導(dǎo)“科技向善”

“加強生成式人工智能大模型技術(shù)的安全向善、可信可控，是創(chuàng)新發(fā)展的前提，也是我們堅持攻克的方向。”周鴻祎表示，《辦法》內(nèi)容表明了國家相關(guān)部門鼓勵創(chuàng)新，支持人工智能產(chǎn)業(yè)發(fā)展的態(tài)度，為科創(chuàng)領(lǐng)域從業(yè)者提供了信心和保障。

針對未來行業(yè)發(fā)展，第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波建議，要持續(xù)完善人工智能數(shù)據(jù)安全監(jiān)管體系，用規(guī)范監(jiān)管保障安全發(fā)展。“比如，可以制定人工智能產(chǎn)品應(yīng)用服務(wù)的數(shù)據(jù)安全服務(wù)產(chǎn)品體系，通過檢測驗證提升產(chǎn)品安全性、成熟度，降低人工智能數(shù)據(jù)安全風(fēng)險。”

中國工程院院士鄔江興也提到，人工智能大模型存在神經(jīng)網(wǎng)絡(luò)“黑箱”特點導(dǎo)致人工智能存在不可解釋性、深度學(xué)習(xí)對訓(xùn)練樣本過度依賴導(dǎo)致學(xué)習(xí)結(jié)果不可判定性、神經(jīng)網(wǎng)絡(luò)推進過程不可逆導(dǎo)致結(jié)果不可推論性等內(nèi)生安全的個性問題，以及漏洞、后門等內(nèi)生安全的共性問題。未來，尚需監(jiān)管部門、企業(yè)共同發(fā)力，從政策、文化、人才等多方面入手。

除了本次實施的新規(guī)新策外，為應(yīng)對人工智能風(fēng)險問題，我國在網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法的基礎(chǔ)上，已陸續(xù)實施了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。楊建軍表示，通過加強監(jiān)管，探索優(yōu)化應(yīng)用場景，支持專業(yè)機構(gòu)在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、風(fēng)險防范等方面開展跨行業(yè)、跨領(lǐng)域協(xié)作，構(gòu)建良性的應(yīng)用生態(tài)體系。

騰訊集團高級執(zhí)行副總裁湯道生也充滿期待：“大模型只是開端，人工智能與產(chǎn)業(yè)融合必將持續(xù)綻放更有創(chuàng)造力的可能性。我們要堅持生態(tài)開放共建，加速人工智能產(chǎn)業(yè)的創(chuàng)新探索。”

《光明日報》（2023年08月16日 08版）

來源：光明網(wǎng)-《光明日報》

關(guān)鍵詞：