標(biāo)準(zhǔn)丨關(guān)于征集《大模型安全護(hù)欄能力技術(shù)規(guī)范》團(tuán)體標(biāo)準(zhǔn)參編單位的通知
2026年04月07日 15:54
各相關(guān)單位:
為積極響應(yīng)國(guó)家關(guān)于人工智能安全治理和生成式人工智能規(guī)范應(yīng)用的相關(guān)要求,推動(dòng)大模型應(yīng)用系統(tǒng)安全防護(hù)能力建設(shè),提升大模型在輸入、推理、輸出等關(guān)鍵環(huán)節(jié)的風(fēng)險(xiǎn)識(shí)別、風(fēng)險(xiǎn)攔截、安全干預(yù)和審計(jì)追溯能力,促進(jìn)大模型在政務(wù)服務(wù)、公共管理、金融、醫(yī)療、教育等領(lǐng)域安全穩(wěn)妥落地應(yīng)用,廣州市云山人工智能安全研究院聯(lián)合有關(guān)單位牽頭起草《大模型安全護(hù)欄能力技術(shù)規(guī)范》團(tuán)體標(biāo)準(zhǔn)。
此標(biāo)準(zhǔn)為相關(guān)建設(shè)廠商、大模型安全產(chǎn)品廠商、系統(tǒng)集成商及第三方測(cè)評(píng)機(jī)構(gòu)開展大模型安全護(hù)欄能力建設(shè)、產(chǎn)品研發(fā)、系統(tǒng)集成、能力評(píng)價(jià)和安全測(cè)評(píng)提供重要指引與參考。標(biāo)準(zhǔn)擬圍繞大模型安全護(hù)欄的總體架構(gòu)、功能組成、部署模式、輸入安全防護(hù)、推理過程安全防護(hù)、輸出安全防護(hù)、安全干預(yù)機(jī)制、日志與審計(jì)要求以及評(píng)價(jià)方法等方面進(jìn)行規(guī)范。
為進(jìn)一步提高標(biāo)準(zhǔn)廣泛性,更好地推進(jìn)標(biāo)準(zhǔn)編制工作,現(xiàn)公開征集標(biāo)準(zhǔn)參編單位,請(qǐng)有意參與的單位及專家填寫《團(tuán)體標(biāo)準(zhǔn)編制工作參與單位申請(qǐng)表》(見附件),并于5月8日前反饋至聯(lián)系人郵箱。
聯(lián)系人:張威(標(biāo)準(zhǔn)工作辦公室)010-57234929-1039/standard@isc.org.cn
附件:團(tuán)體標(biāo)準(zhǔn)編制工作參與單位申請(qǐng)表(點(diǎn)擊下載)
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)
2026年4月7日





