全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會在官網(wǎng)發(fā)布了，國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求》征求意見稿。

　　該意見稿一共分為《網(wǎng)絡(luò)安全技術(shù) 生成式人工智能服務(wù)安全基本要求-標(biāo)準(zhǔn)文本》、意見匯總處理表和編制說明三大塊。

　　其中，標(biāo)準(zhǔn)文本涵蓋訓(xùn)練數(shù)據(jù)安全要求、模型安全要求等，主要是為了加強(qiáng)生成式人工智能的開發(fā)、應(yīng)用落地的安全性。如果你對該標(biāo)準(zhǔn)有任何意見，可以在2024年7月22日前反饋給國家網(wǎng)安標(biāo)委秘書處。

　　2023年7月，國家網(wǎng)信辦等七部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，從政策法規(guī)層面為我國生成式人工智能健康發(fā)展保駕護(hù)航，為有序開展相關(guān)管理工作明確了方向。

　　而本次發(fā)布的標(biāo)準(zhǔn)要求是對《辦法》中的安全要求進(jìn)行細(xì)化，規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求，針對當(dāng)前生成式人工智能服務(wù)研發(fā)過程中的網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個人信息保護(hù)，以及面向服務(wù)過程中的應(yīng)用場景安全風(fēng)險、軟硬件環(huán)境安全風(fēng)險、生成內(nèi)容安全風(fēng)險、權(quán)益保障安全風(fēng)險等方面，提出細(xì)化安全要求。

　　下面「AIGC開放社區(qū)」將為大家介紹該標(biāo)準(zhǔn)的主要內(nèi)容

　　數(shù)據(jù)來源安全

　　對服務(wù)提供者的要求如下。

　　a)采集來源管理:

　　1)面向特定數(shù)據(jù)來源進(jìn)行采集前，應(yīng)對該來源數(shù)據(jù)進(jìn)行安全評估，數(shù)據(jù)內(nèi)容中含違法不良信息超過5%的，不應(yīng)采集該來源數(shù)據(jù);

　　2)面向特定數(shù)據(jù)來源進(jìn)行采集后，應(yīng)對所采集的該來源數(shù)據(jù)進(jìn)行核驗，含違法不良信息情況超過5%的，不應(yīng)使用該來源數(shù)據(jù)進(jìn)行訓(xùn)練。

　　b)不同來源訓(xùn)練數(shù)據(jù)搭配:

　　1)應(yīng)提高訓(xùn)練數(shù)據(jù)來源的多樣性，對每一種語言的訓(xùn)練數(shù)據(jù)，如中文、英文等，以及每一種類型的訓(xùn)練數(shù)據(jù)，如文本、圖片、音頻、視頻等，均應(yīng)有多個訓(xùn)練數(shù)據(jù)來源;

　　2)如需使用境外來源訓(xùn)練數(shù)據(jù)，應(yīng)與境內(nèi)來源訓(xùn)練數(shù)據(jù)進(jìn)行合理搭配。

　　c)訓(xùn)練數(shù)據(jù)來源可追溯:

　　1)使用開源訓(xùn)練數(shù)據(jù)時，應(yīng)具有該數(shù)據(jù)來源的開源許可協(xié)議或相關(guān)授權(quán)文件;

　　2)使用自采訓(xùn)練數(shù)據(jù)時，應(yīng)具有采集記錄，不應(yīng)采集他人已明確不可采集的數(shù)據(jù);不可采集的網(wǎng)頁數(shù)據(jù)，或個人已拒絕授權(quán)采集的個人信息等。

　　3)使用商業(yè)訓(xùn)練數(shù)據(jù)時:

　　應(yīng)有具備法律效力的交易合同、合作協(xié)議等;

　　交易方或合作方不能提供數(shù)據(jù)來源、質(zhì)量、安全等方面的承諾以及相關(guān)證明材料時，不應(yīng)使用該訓(xùn)練數(shù)據(jù);

　　應(yīng)對交易方或合作方所提供訓(xùn)練數(shù)據(jù)、承諾、材料進(jìn)行審核。

　　4)將使用者輸入信息當(dāng)作訓(xùn)練數(shù)據(jù)時，應(yīng)具有使用者授權(quán)記錄。

　　數(shù)據(jù)內(nèi)容安全

　　a)訓(xùn)練數(shù)據(jù)內(nèi)容過濾:對于每一種類型的訓(xùn)練數(shù)據(jù)，如文本、圖片、音頻、視頻等，應(yīng)在將數(shù)據(jù)用于訓(xùn)練前，對全部訓(xùn)練數(shù)據(jù)進(jìn)行過濾，過濾方法包括但不限于關(guān)鍵詞、分類模型、人工抽檢等，去除數(shù)據(jù)中的違法不良信息。

　　b)知識產(chǎn)權(quán):

　　1)應(yīng)有訓(xùn)練數(shù)據(jù)知識產(chǎn)權(quán)管理策略，并明確負(fù)責(zé)人;

　　2)數(shù)據(jù)用于訓(xùn)練前，應(yīng)對數(shù)據(jù)中的主要知識產(chǎn)權(quán)侵權(quán)風(fēng)險進(jìn)行識別，發(fā)現(xiàn)存在知識產(chǎn)權(quán)侵權(quán)等問題的，服務(wù)提供者不應(yīng)使用相關(guān)數(shù)據(jù)進(jìn)行訓(xùn)練;

　　注:訓(xùn)練數(shù)據(jù)中包含文學(xué)、藝術(shù)、科學(xué)作品的，需要重點識別訓(xùn)練數(shù)據(jù)以及生成內(nèi)容中著作權(quán)侵權(quán)問題。

　　3)應(yīng)建立針對知識產(chǎn)權(quán)問題的投訴舉報渠道;

　　4)應(yīng)在用戶服務(wù)協(xié)議中，向使用者告知使用生成內(nèi)容的知識產(chǎn)權(quán)相關(guān)風(fēng)險，并與使用者約定相

　　關(guān)責(zé)任與義務(wù);

　　5)應(yīng)及時根據(jù)國家政策以及第三方投訴情況更新知識產(chǎn)權(quán)相關(guān)策略;

　　6)宜具備以下知識產(chǎn)權(quán)措施:

　　公開訓(xùn)練數(shù)據(jù)中涉及知識產(chǎn)權(quán)部分的摘要信息;在投訴舉報渠道中支持第三方就訓(xùn)練數(shù)據(jù)使用情況以及相關(guān)知識產(chǎn)權(quán)情況進(jìn)行查詢。

　　c)個人信息方面:

　　1)在使用包含個人信息的訓(xùn)練數(shù)據(jù)前，應(yīng)取得對應(yīng)個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形;

　　2)在使用包含敏感個人信息的訓(xùn)練數(shù)據(jù)前，應(yīng)取得對應(yīng)個人單獨同意或者符合法律、行政法規(guī)規(guī)定的其他情形。

　　模型安全要求

　　對服務(wù)提供者的要求如下。

　　a)模型訓(xùn)練方面:

　　1)在訓(xùn)練過程中，應(yīng)將生成內(nèi)容安全性作為評價生成結(jié)果優(yōu)劣的主要考慮指標(biāo)之一;

　　注:模型生成內(nèi)容是指模型直接輸出的、未經(jīng)其他處理的原生內(nèi)容。

　　2)應(yīng)定期對所使用的開發(fā)框架、代碼等進(jìn)行安全審計，關(guān)注開源框架安全及漏洞相關(guān)問題，識別和修復(fù)安全漏洞。

　　b)模型輸出方面:

　　1)生成內(nèi)容準(zhǔn)確性方面，應(yīng)采取技術(shù)措施提高生成內(nèi)容響應(yīng)使用者輸入意圖的能力，提高生成內(nèi)容中數(shù)據(jù)及表述與科學(xué)常識及主流認(rèn)知的符合程度，減少其中的錯誤內(nèi)容;

　　2)生成內(nèi)容可靠性方面，應(yīng)采取技術(shù)措施提高生成內(nèi)容格式框架的合理性以及有效內(nèi)容的含量，提高生成內(nèi)容對使用者的幫助作用;

　　3)問題拒答方面，對明顯偏激以及明顯誘導(dǎo)生成違法不良信息的問題，應(yīng)拒絕回答;對其他問題，應(yīng)均能正�；卮�;

　　4)圖片、視頻等生成內(nèi)容標(biāo)識方面，應(yīng)滿足國家相關(guān)規(guī)定以及標(biāo)準(zhǔn)文件要求。

　　c)模型監(jiān)測方面:

　　1)應(yīng)對模型輸入內(nèi)容持續(xù)監(jiān)測，防范惡意輸入攻擊，例如注入攻擊、后門攻擊、數(shù)據(jù)竊取、對抗攻擊等;

　　2)應(yīng)建立常態(tài)化監(jiān)測測評手段以及模型應(yīng)急管理措施，對監(jiān)測測評發(fā)現(xiàn)的提供服務(wù)過程中的安全問題，及時處置并通過針對性的指令微調(diào)、強(qiáng)化學(xué)習(xí)等方式優(yōu)化模型。

　　d)模型更新、升級方面:

　　1)應(yīng)制定在模型更新、升級時的安全管理策略;

　　2)應(yīng)形成管理機(jī)制，在模型重要更新、升級后，再次自行組織安全評估。

　　e)軟硬件環(huán)境方面:

　　1)模型訓(xùn)練、推理所采用的計算系統(tǒng)方面:

　　應(yīng)評估系統(tǒng)所采用芯片、軟件、工具、算力等方面的供應(yīng)鏈安全，側(cè)重評估供應(yīng)持續(xù)性、穩(wěn)定性等方面;

　　所采用芯片宜支持基于硬件的安全啟動、可信啟動流程及安全性驗證。

　　2)應(yīng)將模型訓(xùn)練環(huán)境與推理環(huán)境隔離，避免數(shù)據(jù)泄露、不當(dāng)訪問等安全事件，隔離方式包括物理隔離與邏輯隔離。

　　上面只是部分內(nèi)容，整個安全標(biāo)準(zhǔn)書是非常詳細(xì)的，有興趣的可以去官網(wǎng)查看全部內(nèi)容。

　　我國也是全球為數(shù)不多在生成式人工智能領(lǐng)域連續(xù)出臺安全管理條例的國家，一方面展示了國家對創(chuàng)新變革技術(shù)的重視程度，另外保證了生成式人工智能的場景化落地和應(yīng)用安全。