算法備案自評估報(bào)告填寫指南

算法備案材料包含眾多報(bào)告，其中最難的莫過于《算法安全自評估報(bào)告》。本人經(jīng)手過幾十份該材料，今天就結(jié)合個(gè)人經(jīng)驗(yàn)總結(jié)下自評估報(bào)告的要點(diǎn)及一些容易踩的坑，希望可以幫助大家。

?

?

一、自評估報(bào)告常見問題

1、前后矛盾

報(bào)告內(nèi)部的算法、風(fēng)控、制度、措施等等環(huán)節(jié)出現(xiàn)前后不統(tǒng)一的部分都會被審核人員標(biāo)出；此外，自評估報(bào)告與其它材料以及在算法備案系統(tǒng)中填報(bào)的內(nèi)容有沖突的，也會被審核人員標(biāo)出駁回。

?

?

2、填寫信息不合規(guī)

主要分為兩種情況。一種是表達(dá)不清晰，通常是技術(shù)人員編寫材料時(shí)發(fā)生。主要是因?yàn)楸磉_(dá)太過于側(cè)重技術(shù)原理而忽視應(yīng)用和調(diào)用邏輯。第二種是沒有正確判斷審核要素，回答方向本身存在問題（自評估報(bào)告審核要素超過100個(gè)，如有可能，還是建議尋找靠譜算法備案代辦）。

?

?

3、故意不填不確定信息

一些開發(fā)者可能會憑借過往各種經(jīng)驗(yàn)，選擇性不填不確定的內(nèi)容。其目的可能是希望提交審核后先確定其它內(nèi)容是否OK，或者直接想蒙混過關(guān)。但工作人員已經(jīng)明確這種做法是不可取的，會直接駁回。如果有填報(bào)事項(xiàng)實(shí)在不確定的，可以先找專業(yè)人員咨詢再結(jié)合企業(yè)實(shí)際情況申報(bào)。如有條件，還是建議找專業(yè)機(jī)構(gòu)協(xié)助，因?yàn)椴煌袠I(yè)的不同產(chǎn)品的填報(bào)方式是不能通用的（后面會具體解釋）。

?

?

4、真實(shí)性存疑

常見于購買模板或套用包含咨詢等各種手段獲得的報(bào)告。這類情況被判定真實(shí)性存疑的原因主要有三個(gè)：1是行業(yè)和產(chǎn)品形態(tài)有差異，報(bào)告描述不符合實(shí)際情況；2是重合度過高，明顯不是企業(yè)針對性撰寫的材料；3是匯報(bào)方式太過陳舊（審核標(biāo)準(zhǔn)是不斷改變的，所以專業(yè)機(jī)構(gòu)會不斷優(yōu)化、更新撰寫角度和思路；但很多所謂模板都有時(shí)效性局限，并不一定能適應(yīng)現(xiàn)在的審核標(biāo)準(zhǔn)）。

?

?

二、自評估報(bào)告主要部分簡介

《算法安全自評估報(bào)告》通常包括以下內(nèi)容：

1.算法情況

算法流程：詳細(xì)描述算法的具體流程，可能需要以流程圖的方式呈現(xiàn)，特別是當(dāng)算法可細(xì)分為多個(gè)模型時(shí)，要區(qū)分不同模型進(jìn)行描述。

算法數(shù)據(jù)：說明算法所使用的數(shù)據(jù)情況，包括數(shù)據(jù)的來源、類型（如圖片、視頻、文字、音頻等）等。

算法模型：介紹算法模型的相關(guān)信息，若存在多個(gè)模型，需分別闡述。 干預(yù)策略：描述對算法進(jìn)行干預(yù)的策略和方法。

結(jié)果標(biāo)識：明確算法生成結(jié)果的標(biāo)識方式。

2.服務(wù)情況

服務(wù)簡介：具體描述備案的算法用于哪些服務(wù)，涵蓋服務(wù)功能介紹、上線時(shí)間、展現(xiàn)形態(tài)、在應(yīng)用產(chǎn)品中的入口位置、服務(wù)流量、用戶情況等。

算法在服務(wù)中應(yīng)用情況：包括算法線上服務(wù)和訓(xùn)練過程中的數(shù)據(jù)來源、數(shù)據(jù)形態(tài)、算法更新頻率以及算法中間結(jié)果與其他服務(wù)或應(yīng)用的共享情況等。

3.風(fēng)險(xiǎn)研判

算法濫用：說明算法是否存在被不當(dāng)利用的行為及潛在風(fēng)險(xiǎn)，例如是否可能用于生成違法違規(guī)不良的內(nèi)容，危害國家安全、公共利益等，并分析其可能造成的影響。

算法漏洞：探討算法本身機(jī)制機(jī)理是否健全以及不健全可能導(dǎo)致的潛在風(fēng)險(xiǎn)，如是否對輸入內(nèi)容進(jìn)行預(yù)處理、是否可能輸出個(gè)人隱私、是否可能被攻擊導(dǎo)致輸出原始訓(xùn)練數(shù)據(jù)等。 - **算法惡意利用**：分析算法是否有可能被惡意攻擊（如使用輸入內(nèi)容投毒）、是否可能被高頻調(diào)用等風(fēng)險(xiǎn)。

4.風(fēng)險(xiǎn)防控

風(fēng)險(xiǎn)防控情況：陳述為防止、控制上述風(fēng)險(xiǎn)而采取的機(jī)制，需與前文分析的各項(xiàng)風(fēng)險(xiǎn)相對應(yīng)。

風(fēng)險(xiǎn)防范機(jī)制建設(shè)：至少包括算法機(jī)制機(jī)理審核、算法安全評估監(jiān)測、對生成合成的虛假信息的辟謠機(jī)制、算法安全事件應(yīng)急處置等制度層面的建設(shè)，還需留存制度實(shí)施的日志以確保事件可回溯。

5.用戶權(quán)益保護(hù)

用戶知情權(quán)：保障范圍、保障手段及相關(guān)證明，包括告知個(gè)人信息處理規(guī)則、取得處理的合法性基礎(chǔ)、公示算法的基本原理、目的意圖和主要運(yùn)行機(jī)制，以及是否向用戶告知服務(wù)的使用限制、使用規(guī)范、是否由深度合成服務(wù)提供等。

用戶個(gè)人信息保護(hù)：除告知個(gè)人信息處理規(guī)則、取得合法性基礎(chǔ)外，若涉及向第三方共享個(gè)人信息、將用戶輸入內(nèi)容和生成合成內(nèi)容用于進(jìn)一步算法訓(xùn)練，需確保真實(shí)披露并取得用戶同意，同時(shí)說明是否提供用戶行使刪除權(quán)的方式、數(shù)據(jù)存儲期限等。

其他權(quán)益保護(hù)：涉及收費(fèi)服務(wù)的，描述保障消費(fèi)者權(quán)益、未誘導(dǎo)額外消費(fèi)的措施；涉及向未成年人提供服務(wù)的，說明保障未成年人權(quán)益的措施。 內(nèi)容生態(tài)治理：包括防范和抵制違法違規(guī)不良信息的措施，如在程序、算法方面設(shè)置過濾、發(fā)現(xiàn)或抵制機(jī)制，以及人工審核的標(biāo)準(zhǔn)、如何與機(jī)器審核相結(jié)合等。

模型安全保障：說明在技術(shù)層面采取了何種措施以防范數(shù)據(jù)投毒、模型投毒等，例如是否建立識別違法和不良信息的特征庫、是否建立關(guān)鍵詞或敏感詞過濾機(jī)制（若涉及使用用戶輸入內(nèi)容進(jìn)行進(jìn)一步模型訓(xùn)練）。

數(shù)據(jù)安全防護(hù)：涵蓋訓(xùn)練數(shù)據(jù)（包括預(yù)訓(xùn)練、優(yōu)化訓(xùn)練使用的數(shù)據(jù)）的采集、使用、存儲等，以及在涉及與第三方共享訓(xùn)練數(shù)據(jù)或模型權(quán)重時(shí)，為合法合規(guī)共享而采取的安全防護(hù)措施，如是否記錄共享數(shù)據(jù)、是否建立審計(jì)措施等。訓(xùn)練數(shù)據(jù)來源多樣，使用不同來源的數(shù)據(jù)需符合相應(yīng)的合規(guī)要求。

6.安全評估結(jié)論

針對上述內(nèi)容進(jìn)行全面分析總結(jié)，得出算法是否符合國家法律法規(guī)及相應(yīng)管理辦法的有效結(jié)論。

7.其他應(yīng)當(dāng)說明的相關(guān)情況

可填寫總結(jié)性內(nèi)容，如有與其他外部技術(shù)合作的相應(yīng)協(xié)議，也可放在此部分。 不同類型的算法備案，其報(bào)告內(nèi)容可能會有所差異，具體要求可能因地區(qū)、行業(yè)以及相關(guān)法規(guī)政策的變化而有所不同。在填寫報(bào)告時(shí)，建議嚴(yán)格按照相關(guān)規(guī)定和備案系統(tǒng)的要求進(jìn)行，確保信息的準(zhǔn)確性和完整性。同時(shí)，與算法相關(guān)技術(shù)人員密切合作，以保證對算法情況的描述真實(shí)、準(zhǔn)確。

?

三、填報(bào)建議

1、大型企業(yè)，產(chǎn)品上線時(shí)間不緊急

大企業(yè)資源充足，產(chǎn)品多，可考慮用特定項(xiàng)目培養(yǎng)內(nèi)部人員辦理算法備案，從實(shí)中總結(jié)經(jīng)驗(yàn)，并在內(nèi)部推廣。這樣做可以讓備案經(jīng)驗(yàn)在后續(xù)推廣中復(fù)用。

?

2、產(chǎn)品急于上線

無論企業(yè)資源是否充足，都建議找專業(yè)算法備案代辦機(jī)構(gòu)服務(wù)。畢竟產(chǎn)品有死線要求，沒有試錯(cuò)空間，承擔(dān)不起被反復(fù)駁回的風(fēng)險(xiǎn)。

?