亚洲第一色欲AV|丰满无码人妻热妇无码喷水区|日韩成人一区二区|情五月亚洲天堂网

安全資訊

專家解讀 | 促進(jìn)生成式人工智能有序向善發(fā)展

| 復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院院長(zhǎng) 楊珉

當(dāng)前,生成式人工智能正加速發(fā)展,不斷催生新行業(yè)、新賽道、新模式,是發(fā)展新質(zhì)生產(chǎn)力、布局未來(lái)產(chǎn)業(yè)的重要抓手。黨的二十大報(bào)告強(qiáng)調(diào),“健全網(wǎng)絡(luò)綜合治理體系,推動(dòng)形成良好網(wǎng)絡(luò)生態(tài)”。習(xí)近平總書記在主持召開中共中央政治局會(huì)議時(shí)指出:“要重視通用人工智能發(fā)展,營(yíng)造創(chuàng)新生態(tài),重視防范風(fēng)險(xiǎn)?!睘榇龠M(jìn)我國(guó)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,國(guó)家網(wǎng)信辦聯(lián)合有關(guān)部門公布了《生成式人工智能服務(wù)管理暫行辦法》(以下稱“《辦法》”),圍繞鼓勵(lì)人工智能創(chuàng)新發(fā)展的主旋律,堅(jiān)守輿論引導(dǎo)、文化建設(shè)和國(guó)家安全底線。近日,全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)組織全國(guó)多家龍頭企業(yè)和科研院所,編制發(fā)布全球首個(gè)清晰、具體、可操作的安全評(píng)估要求--《生成式人工智能服務(wù)安全基本要求》(以下稱“《要求》”),從語(yǔ)料安全、模型安全、安全措施等方面提出了服務(wù)提供者需遵循的安全標(biāo)準(zhǔn),通過系統(tǒng)性、規(guī)范性、創(chuàng)新性制度設(shè)計(jì),首次回應(yīng)了對(duì)生成式人工智能服務(wù)的安全管理要求,為生成式人工智能服務(wù)的規(guī)范發(fā)展提供了基本技術(shù)遵循和評(píng)估依據(jù),是支撐《辦法》有效落地的關(guān)鍵性技術(shù)文件。為全力抓好生成式人工智能產(chǎn)業(yè)布局深化、生態(tài)優(yōu)化、系統(tǒng)支撐,加快推動(dòng)我國(guó)人工智能發(fā)展高地建設(shè)取得新的更大突破奠定堅(jiān)實(shí)基礎(chǔ)。

在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等上位法框架下,《要求》有效支撐了《辦法》中關(guān)于生成式人工智能模型管理、模型安全評(píng)估、生成內(nèi)容管理、備案管理等制度規(guī)定,對(duì)生成式人工智能服務(wù)管理機(jī)制、責(zé)任范圍等作出了具體技術(shù)安排?!兑蟆妨⒆阌诖龠M(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,在總體撰寫中落實(shí)了國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則。


一、源頭治理,嚴(yán)控人工智能訓(xùn)練語(yǔ)料安全

生成式人工智能依賴海量數(shù)據(jù)構(gòu)建,此類數(shù)據(jù)來(lái)源廣泛,面臨違法不良、知識(shí)產(chǎn)權(quán)侵權(quán)、個(gè)人隱私侵權(quán)等多維度安全風(fēng)險(xiǎn),直接影響大模型有用性、可靠性和安全性?!兑蟆逢P(guān)注數(shù)據(jù)源頭治理,圍繞訓(xùn)練數(shù)據(jù)生命周期提出全方位安全要求,從源頭上保證生成式人工智能服務(wù)生成內(nèi)容合法合規(guī)。一是強(qiáng)調(diào)語(yǔ)料來(lái)源的安全合規(guī)。《要求》明確對(duì)特定語(yǔ)料來(lái)源實(shí)施采集前評(píng)估、采集后核驗(yàn)、使用后追溯的安全要求,嚴(yán)格控制語(yǔ)料內(nèi)容中違法不良信息比例,構(gòu)建可追溯、可檢驗(yàn)的語(yǔ)料合規(guī)閉環(huán)。二是明確語(yǔ)料內(nèi)容安全的多元內(nèi)涵。《要求》從違法不良信息、知識(shí)產(chǎn)權(quán)、個(gè)人信息三方面明確語(yǔ)料內(nèi)容安全的具體維度,對(duì)服務(wù)提供者提出違法不良信息過濾、知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)識(shí)別、個(gè)人隱私信息授權(quán)等數(shù)據(jù)合規(guī)要求。三是明確語(yǔ)料標(biāo)注安全要求。為保障標(biāo)注過程切實(shí)產(chǎn)生有助于生成式人工智能發(fā)展的訓(xùn)練數(shù)據(jù),堅(jiān)持發(fā)展和安全并重的主基調(diào),從功能性和安全性兩方面分別明確標(biāo)注規(guī)則制定原則。


二、夯實(shí)地基,保障基礎(chǔ)模型有序向善發(fā)展

基礎(chǔ)模型是提供生成式人工智能服務(wù)的核心部件,然而,其底層所采用深度學(xué)習(xí)技術(shù)在可靠性、魯棒性、透明性等方面存在風(fēng)險(xiǎn),受攻擊后容易產(chǎn)生包括違反核心價(jià)值觀、違法犯罪、歧視偏見、隱私侵權(quán)等在內(nèi)的多種風(fēng)險(xiǎn)內(nèi)容,對(duì)輿論引導(dǎo)、文化建設(shè)乃至國(guó)家安全產(chǎn)生重大威脅?!兑蟆访嫦蚰P桶踩@一薄弱環(huán)節(jié)精準(zhǔn)施策,提出解決方案。一是強(qiáng)調(diào)第三方基礎(chǔ)模型使用的合規(guī)性。《要求》明確規(guī)定服務(wù)提供者在基于第三方基礎(chǔ)模型提供服務(wù)時(shí),必須采用已通過主管部門審核備案的基礎(chǔ)模型,確保底層技術(shù)資源的安全合法。二是突出模型生成內(nèi)容的安全控制機(jī)制。《要求》提出在模型訓(xùn)練環(huán)節(jié),須將生成內(nèi)容的安全性納入評(píng)價(jià)生成結(jié)果的關(guān)鍵指標(biāo)體系之外,《要求》還強(qiáng)調(diào)了動(dòng)態(tài)監(jiān)控和評(píng)測(cè)的重要性,要求服務(wù)提供者建立健全常態(tài)化的監(jiān)測(cè)機(jī)制,對(duì)服務(wù)過程中發(fā)現(xiàn)的安全問題能夠迅速響應(yīng),以消除潛在風(fēng)險(xiǎn),引導(dǎo)生成式人工智能模型自主向善發(fā)展。三是明確生成內(nèi)容準(zhǔn)確性的技術(shù)保障措施。《要求》規(guī)定服務(wù)提供者采取有效技術(shù)手段,著力提升模型響應(yīng)用戶輸入意圖的精準(zhǔn)度。


三、堅(jiān)守底線,審慎開展大模型安全評(píng)估備案
生成內(nèi)容安全逐漸成為基礎(chǔ)模型應(yīng)用生態(tài)安全的重中之重:當(dāng)生成式大模型產(chǎn)生的自主行為規(guī)劃在物理世界中具象執(zhí)行,原本停留于屏幕的歧視偏見、違法犯罪乃至反人類的違規(guī)內(nèi)容將對(duì)社會(huì)生活造成實(shí)際嚴(yán)重安全風(fēng)險(xiǎn)?!兑蟆犯叨葟?qiáng)調(diào)安全評(píng)估的重要性,細(xì)致闡述了生成式人工智能服務(wù)安全評(píng)估方法多個(gè)關(guān)鍵環(huán)節(jié)的標(biāo)準(zhǔn)操作程序,為大模型備案制度有序執(zhí)行提供了可量化的明確要求。一是關(guān)注生成式人工智能服務(wù)安全評(píng)估的動(dòng)態(tài)持續(xù)性特點(diǎn)。《要求》要求規(guī)范模型更新升級(jí)過程中的安全評(píng)估舉措,需面向大模型迭代特性建立安全管理策略,在關(guān)鍵更新升級(jí)后重新進(jìn)行內(nèi)部安全評(píng)估。二是確立全面而細(xì)致的安全評(píng)估覆蓋范圍。安全評(píng)估過程必須囊括語(yǔ)料安全、模型安全、安全措施和基礎(chǔ)設(shè)施相關(guān)條款,覆蓋違反社會(huì)主義核心價(jià)值觀、歧視性內(nèi)容、商業(yè)違法違規(guī)、侵犯他人合法權(quán)益、無(wú)法滿足特定服務(wù)類型等主要安全風(fēng)險(xiǎn)。三是壓實(shí)安全評(píng)估結(jié)論的主體責(zé)任,體現(xiàn)了堅(jiān)守生成內(nèi)容安全底線的基本原則。此外,《要求》編制過程中組織一線工作者對(duì)各類評(píng)估內(nèi)容指標(biāo)進(jìn)行細(xì)化和反復(fù)論證,針對(duì)具體的評(píng)估內(nèi)容,對(duì)所需的關(guān)鍵詞庫(kù)、生成內(nèi)容測(cè)試題庫(kù)、拒答測(cè)試題庫(kù)和分類模型等安全評(píng)估基礎(chǔ)設(shè)施提出具體清晰的建設(shè)規(guī)范,形成了清晰、具體、可操作的安全評(píng)估標(biāo)準(zhǔn)。

四、

五、多方協(xié)作,共促生成式人工智能服務(wù)安全透明
此外,《要求》還對(duì)生成式人工智能服務(wù)應(yīng)用范圍、系統(tǒng)安全、流程安全和服務(wù)透明度提出了明確治理要求,與《辦法》"鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管"的治理方針同頻共振。一是生成式人工智能應(yīng)用分級(jí)分類管理。生成式人工智能服務(wù)提供者,既是新技術(shù)新應(yīng)用的創(chuàng)造者、受益者,也應(yīng)是控制技術(shù)風(fēng)險(xiǎn)、引導(dǎo)技術(shù)向善的責(zé)任踐行者?!兑蟆窂?qiáng)調(diào),服務(wù)提供者必須審慎評(píng)估并確保在其服務(wù)所涉各領(lǐng)域應(yīng)用生成式人工智能的必要性、適用性和安全性。對(duì)于關(guān)鍵信息基礎(chǔ)設(shè)施及其他重要領(lǐng)域,服務(wù)提供者應(yīng)采取與風(fēng)險(xiǎn)水平及應(yīng)用場(chǎng)景相適應(yīng)的保護(hù)措施,并對(duì)未成年人用戶提出多項(xiàng)保護(hù)要求。二是加強(qiáng)系統(tǒng)安全保障。《要求》提出,服務(wù)提供者需評(píng)估并確保生成式人工智能系統(tǒng)運(yùn)行在安全環(huán)境中,隔離訓(xùn)練與推理環(huán)境以防止數(shù)據(jù)泄露,持續(xù)監(jiān)測(cè)輸入內(nèi)容防御惡意攻擊,定期開展安全審計(jì)保障智能系統(tǒng)供應(yīng)鏈安全漏洞,構(gòu)建完整的數(shù)據(jù)、模型、框架備份與恢復(fù)體系,保障服務(wù)穩(wěn)定性和連續(xù)性。三是細(xì)化服務(wù)提供環(huán)節(jié)安全管控,須借助關(guān)鍵詞過濾、內(nèi)容分類、監(jiān)看人員等對(duì)用戶輸入進(jìn)行實(shí)時(shí)監(jiān)測(cè),對(duì)連續(xù)違規(guī)、誘導(dǎo)生成不良信息、明顯偏激和違法誘導(dǎo)內(nèi)容依法依規(guī)采取限制服務(wù)等措施。四是提升服務(wù)透明度和健全投訴舉報(bào)機(jī)制。《要求》提出服務(wù)提供者在網(wǎng)站主頁(yè)等顯著位置公示服務(wù)適用對(duì)象、場(chǎng)景及用途,并建議披露基礎(chǔ)模型使用詳情、服務(wù)局限性、個(gè)人信息采集與使用情況等,并為用戶數(shù)據(jù)是否參與訓(xùn)練的靈活選擇機(jī)制和多元化的公眾及用戶投訴舉報(bào)渠道和反饋方式。

六、守正創(chuàng)新,貢獻(xiàn)生成式人工智能服務(wù)治理中國(guó)方案
習(xí)近平總書記指出:“要深度參與全球科技治理,貢獻(xiàn)中國(guó)智慧,塑造科技向善的文化理念,讓科技更好增進(jìn)人類福祉,讓中國(guó)科技為推動(dòng)構(gòu)建人類命運(yùn)共同體作出更大貢獻(xiàn)!”近年來(lái),我國(guó)加快推進(jìn)新行業(yè)新技術(shù)新賽道創(chuàng)新發(fā)展,并對(duì)技術(shù)發(fā)展過程中帶來(lái)的挑戰(zhàn)及時(shí)回應(yīng),針對(duì)新興技術(shù)領(lǐng)域加速出臺(tái)相關(guān)立法,為保障網(wǎng)絡(luò)強(qiáng)國(guó)高質(zhì)量發(fā)展、提升我國(guó)網(wǎng)絡(luò)強(qiáng)國(guó)治理能力提供了法治保障。

針對(duì)生成式人工智能技術(shù)帶來(lái)的顛覆性風(fēng)險(xiǎn)挑戰(zhàn),多個(gè)國(guó)家和地區(qū)不斷探索生成式人工智能服務(wù)的治理路徑:2023年10月,美國(guó)總統(tǒng)拜登簽署《安全、穩(wěn)定、可信的人工智能行政令》,同年12月,歐洲議會(huì)、歐盟成員國(guó)和歐盟委員會(huì)三方就人工智能領(lǐng)域的全面監(jiān)管法規(guī)《人工智能法案》達(dá)成協(xié)議。盡管如此,當(dāng)前尚未有國(guó)家就生成式人工智能服務(wù)管理層面推出切實(shí)可行的安全評(píng)估標(biāo)準(zhǔn)?!兑蟆纷鳛槭澜缟鲜讉€(gè)針對(duì)生成式人工智能給出清晰、具體、可操作的安全評(píng)估的技術(shù)參考,在總體撰寫中始終堅(jiān)持國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,編制過程始終遵循"務(wù)實(shí)功、求實(shí)效"的原則,匯聚眾多行業(yè)專家智慧和前沿實(shí)踐經(jīng)驗(yàn),為服務(wù)提供方持續(xù)提升安全水平提供重要技術(shù)遵循,為相關(guān)主管部門監(jiān)管生成式人工智能服務(wù)提供技術(shù)支撐,必將成為我國(guó)人工智能治理體系中的標(biāo)桿性技術(shù)藍(lán)本。
《要求》是我國(guó)對(duì)新興領(lǐng)域立法后展開技術(shù)評(píng)估的又一次探索?!兑蟆烦浞謪f(xié)調(diào)發(fā)展與安全之間的關(guān)系,構(gòu)建生成式人工智能精細(xì)化治理體系,有利于推動(dòng)生成式人工智能健康有序發(fā)展,為世界貢獻(xiàn)人工智能治理的中國(guó)理念和中國(guó)方案。

(來(lái)源:網(wǎng)安標(biāo)委網(wǎng)站)

服務(wù)熱線

138-6598-3726

產(chǎn)品和特性

價(jià)格和優(yōu)惠

安徽靈狐網(wǎng)絡(luò)公眾號(hào)

微信公眾號(hào)