感謝網(wǎng)友 紫衣書生 的線索投遞！

10 月 12 日消息，據(jù)全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)官網(wǎng)，該會(huì)組織制定的技術(shù)文件《生成式人工智能服務(wù)安全基本要求》（下稱《要求》）已于 10 月 11 日形成征求意見稿，現(xiàn)將技術(shù)文件面向社會(huì)公開征求意見，如有意見或建議，需在 10 月 25 日 24:00 前反饋。

《要求》給出了生成式人工智能服務(wù)在安全方面的基本要求，包括語(yǔ)料安全、模型安全、安全措施、安全評(píng)估等，適用于面向我國(guó)境內(nèi)公眾提供生成式人工智能服務(wù)的提供者提高服務(wù)安全水平，或是提供者自行或委托第三方開展安全評(píng)估，也可為相關(guān)主管部門評(píng)判生成式人工智能服務(wù)的安全水平提供參考。

整理部分要求如下：

• 建立語(yǔ)料來(lái)源黑名單，不得使用黑名單來(lái)源的數(shù)據(jù)進(jìn)行訓(xùn)練。

• 應(yīng)對(duì)各來(lái)源語(yǔ)料進(jìn)行安全評(píng)估，單一來(lái)源語(yǔ)料內(nèi)容含違法不良信息超 5% 應(yīng)將其加入黑名單。

• 應(yīng)使用包含個(gè)人信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的授權(quán)同意，或滿足其他合法使用該個(gè)人信息的條件。

• 應(yīng)使用包含人臉等生物特征信息的語(yǔ)料時(shí)，獲得對(duì)應(yīng)個(gè)人信息主體的書面授權(quán)同意，或滿足其他合法使用該生物特征信息的條件。

• 應(yīng)自行對(duì)標(biāo)注人員進(jìn)行考核，給予合格者標(biāo)注資質(zhì)，并有定期重新培訓(xùn)考核以及必要時(shí)暫?；蛉∠麡?biāo)注資質(zhì)的機(jī)制。

• 在訓(xùn)練過程中，應(yīng)將生成內(nèi)容安全性作為評(píng)價(jià)生成結(jié)果優(yōu)劣的主要考慮指標(biāo)之一。

• 以交互界面提供服務(wù)的，應(yīng)在網(wǎng)站首頁(yè)等顯著位置向社會(huì)公開以下信息：

-服務(wù)適用的人群、場(chǎng)合、用途等信息

-第三方基礎(chǔ)模型使用情況。

• 應(yīng)充分論證在服務(wù)范圍內(nèi)各領(lǐng)域應(yīng)用生成式人工智能的必要性、適用性以及安全性。

另?yè)?jù)此前報(bào)道，網(wǎng)信辦、發(fā)改委、教育部、科技部、工信部、公安部、國(guó)家廣播電視總局七部門于 7 月 10 日印發(fā)了《生成式人工智能服務(wù)管理暫行辦法》，自 8 月 15 日起施行。

《辦法》規(guī)定不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為；不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益；應(yīng)采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

參考

• 關(guān)于征求信安標(biāo)委技術(shù)文件《生成式人工智能服務(wù) 安全基本要求》（征求意見稿）意見的通知

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，所有文章均包含本聲明。

總結(jié)

以上是生活随笔為你收集整理的《生成式人工智能服务安全基本要求》公开征求意见，使用含个人信息语料需获对应主体授权的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。