我國《個(gè)人信息保護(hù)法》對自動(dòng)化決策的管理框架

　　《個(gè)人信息保護(hù)法》中對自動(dòng)化決策做出了界定：“自動(dòng)化決策，是指通過計(jì)算機(jī)程序自動(dòng)分析、評估個(gè)人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等，并進(jìn)行決策的活動(dòng)”。緊接著在第24條規(guī)定：

　　第二十四條 個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。

　　通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營銷，應(yīng)當(dāng)同時(shí)提供不針對其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式。、

　　通過自動(dòng)化決策方式作出對個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求個(gè)人信息處理者予以說明，并有權(quán)拒絕個(gè)人信息處理者僅通過自動(dòng)化決策的方式作出決定。

　　《個(gè)人信息保護(hù)法》第55和56條規(guī)定，“利用個(gè)人信息進(jìn)行自動(dòng)化決策”前，應(yīng)當(dāng)進(jìn)行“個(gè)人信息保護(hù)影響評估”：

　　第五十五條 有下列情形之一的，個(gè)人信息處理者應(yīng)當(dāng)事前進(jìn)行個(gè)人信息保護(hù)影響評估，并對處理情況進(jìn)行記錄：

　　（一）處理敏感個(gè)人信息；

　　（二）利用個(gè)人信息進(jìn)行自動(dòng)化決策

　　（三）委托處理個(gè)人信息、向其他個(gè)人信息處理者提供個(gè)人信息、公開個(gè)人信息；

　　（四）向境外提供個(gè)人信息；

　　（五）其他對個(gè)人權(quán)益有重大影響的個(gè)人信息處理活動(dòng)。

　　第五十六條 個(gè)人信息保護(hù)影響評估應(yīng)當(dāng)包括下列內(nèi)容：

　　（一）個(gè)人信息的處理目的、處理方式等是否合法、正當(dāng)、必要；

　　（二）對個(gè)人權(quán)益的影響及安全風(fēng)險(xiǎn)；

　　（三）所采取的保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)。

　　個(gè)人信息保護(hù)影響評估報(bào)告和處理情況記錄應(yīng)當(dāng)至少保存三年。

　　在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》中，“應(yīng)用算法推薦技術(shù)，是指應(yīng)用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容”。

　　很自然產(chǎn)生的問題是，“自動(dòng)化決策”和“應(yīng)用算法推薦技術(shù)”是一回事嗎？或者說“利用個(gè)人信息進(jìn)行自動(dòng)化決策”（或者說“通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送”）等同于“應(yīng)用算法推薦技術(shù)”嗎？同時(shí)，“個(gè)人信息處理者”（《個(gè)人信息保護(hù)法》的規(guī)范對象）和“算法推薦服務(wù)提供者”（《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》的規(guī)范對象）是一回事嗎？

　　首先，“自動(dòng)化決策”在《個(gè)人信息保護(hù)法》中是一個(gè)活動(dòng)，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》與其可對比的概念應(yīng)該也是一個(gè)活動(dòng)，即“應(yīng)用算法推薦”。顯然，“自動(dòng)化決策”的內(nèi)涵要比“應(yīng)用算法推薦”要廣泛，例如自動(dòng)化定價(jià)屬于前者，而不被后者所涵蓋。從這個(gè)分析來看，“應(yīng)用算法推薦”與“自動(dòng)化決策”是個(gè)交叉的概念。

　　但“通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送”似乎與“應(yīng)用算法推薦”相比，也存在一定的差別。自動(dòng)化決策強(qiáng)調(diào)基于對個(gè)人特征（如“行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況”）的分析結(jié)果，對個(gè)人進(jìn)行決策。但應(yīng)用算法推薦并不強(qiáng)調(diào)這一點(diǎn)，而僅僅是客觀描述了一個(gè)過程——“應(yīng)用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容”。這些算法技術(shù)本身的形成過程可以不基于個(gè)人的特征，例如調(diào)度決策類、排序精選類等，完全可以按照事先預(yù)設(shè)的規(guī)則進(jìn)行，無需根據(jù)個(gè)人的特征。因此，“應(yīng)用算法推薦”的范圍應(yīng)比“通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送”要寬泛。因此，“通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送”是“應(yīng)用算法推薦”的子集。

　　為什么要如此細(xì)摳概念區(qū)別，因?yàn)橐_定多大程度上《個(gè)人信息保護(hù)法》中對自動(dòng)化決策的安全保護(hù)義務(wù)，要適用在“應(yīng)用算法推薦”中。

　　我國《個(gè)人信息安全規(guī)范》（35273）對個(gè)性化展示的管理框架

　　在35273中，對個(gè)性化展示做出了定義：

　　3.16 個(gè)性化展示 personalized display

　　基于特定個(gè)人信息主體的網(wǎng)絡(luò)瀏覽歷史、興趣愛好、消費(fèi)記錄和習(xí)慣等個(gè)人信息，向該個(gè)人信息主體展示信息內(nèi)容、提供商品或服務(wù)的搜索結(jié)果等活動(dòng)。

　　這個(gè)定義落腳點(diǎn)在于“展示”。當(dāng)時(shí)選擇這個(gè)詞而非“推送”的目的是盡可能地將各種情況納入，因?yàn)橥扑瓦@個(gè)詞，業(yè)界有相對固定的認(rèn)識，并不足與涵蓋發(fā)郵件、形成排序結(jié)果等情況，但無論如何信息內(nèi)容最終都需要向用戶展示。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》并沒有對“推薦”做出界定。從“應(yīng)用算法推薦技術(shù)”的定義中看到，該規(guī)定使用的是“向用戶提供信息內(nèi)容”的概念。所以在公號君看來，只要是基于個(gè)人信息的“應(yīng)用算法推薦技術(shù)”，應(yīng)該和“個(gè)性化展示”是一致的。但反過來，“個(gè)性化展示”也只是“應(yīng)用算法推薦”的一個(gè)子集而已。

　　《個(gè)人信息安全規(guī)范》中關(guān)于用戶畫像的規(guī)定和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》中的部分規(guī)定存在契合：

　　《個(gè)人信息安全規(guī)范》

　　7.4 用戶畫像的使用限制

　　對個(gè)人信息控制者的要求包括：

　　a） 用戶畫像中對個(gè)人信息主體的特征描述，不應(yīng)：

　　1） 包含淫穢、色情、賭博、迷信、恐怖、暴力的內(nèi)容；

　　2） 表達(dá)對民族、種族、宗教、殘疾、疾病歧視的內(nèi)容。

　　b） 在業(yè)務(wù)運(yùn)營或?qū)ν鈽I(yè)務(wù)合作中使用用戶畫像的，不應(yīng)：

　　1） 侵害公民、法人和其他組織的合法權(quán)益；

　　2） 危害國家安全、榮譽(yù)和利益，煽動(dòng)顛覆國家政權(quán)、推翻社會(huì)主義制度，煽動(dòng)分裂國家、破壞國家統(tǒng)一，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，傳播暴力、淫穢色情信息，編造、傳播虛假信息擾亂經(jīng)濟(jì)秩序和社會(huì)秩序。

　　c） 除為實(shí)現(xiàn)個(gè)人信息主體授權(quán)同意的使用目的所必需外，使用個(gè)人信息時(shí)應(yīng)消除明確身份指向性，避免精確定位到特定個(gè)人。例如，為準(zhǔn)確評價(jià)個(gè)人信用狀況，可使用直接用戶畫像，而用于推送商業(yè)廣告目的時(shí)，則宜使用間接用戶畫像。

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》

　　第十條 算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見性用戶標(biāo)簽。

　　此外，《個(gè)人信息安全規(guī)范》關(guān)于“個(gè)性化展示”的要求，與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》中的部分規(guī)定存在契合：

　　《個(gè)人信息安全規(guī)范》

　　7.5 個(gè)性化展示的使用

　　對個(gè)人信息控制者的要求包括：

　　a） 在向個(gè)人信息主體提供業(yè)務(wù)功能的過程中使用個(gè)性化展示的，應(yīng)顯著區(qū)分個(gè)性化展示的內(nèi)容和非個(gè)性化展示的內(nèi)容；

　　注：顯著區(qū)分的方式包括但不限于：標(biāo)明“定推”等字樣，或通過不同的欄目、版塊、頁面分別展示等。

　　b） 在向個(gè)人信息主體提供電子商務(wù)服務(wù)的過程中，根據(jù)消費(fèi)者的興趣愛好、消費(fèi)習(xí)慣等特征向其提供商品或者服務(wù)搜索結(jié)果的個(gè)性化展示的，應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對其個(gè)人特征的選項(xiàng)；

　　注：基于個(gè)人信息主體所選擇的特定地理位置進(jìn)行展示、搜索結(jié)果排序，且不因個(gè)人信息主體身份不同展示不一樣的內(nèi)容 和搜索結(jié)果排序，則屬于不針對其個(gè)人特征的選項(xiàng)。

　　c） 在向個(gè)人信息主體推送新聞信息服務(wù)的過程中使用個(gè)性化展示的，應(yīng)：

　　1） 為個(gè)人信息主體提供簡單直觀的退出或關(guān)閉個(gè)性化展示模式的選項(xiàng)；

　　2） 當(dāng)個(gè)人信息主體選擇退出或關(guān)閉個(gè)性化展示模式時(shí)，向個(gè)人信息主體提供刪除或匿名化定向推送活動(dòng)所基于的個(gè)人信息的選項(xiàng)。

　　d） 在向個(gè)人信息主體提供業(yè)務(wù)功能的過程中使用個(gè)性化展示的，宜建立個(gè)人信息主體對個(gè)性化展示所依賴的個(gè)人信息（如標(biāo)簽、畫像維度等）的自主控制機(jī)制，保障個(gè)人信息主體調(diào)控個(gè)性化展示相關(guān)性程度的能力。

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》

　　第十一條 算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息內(nèi)容。

　　第十五條 算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

　　算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。

　　用戶認(rèn)為算法推薦服務(wù)提供者應(yīng)用算法對其權(quán)益造成重大影響的，有權(quán)要求算法推薦服務(wù)提供者予以說明并采取相應(yīng)改進(jìn)或者補(bǔ)救措施。

　　簡短分析

　　以上所有的分析，主要目的在于表明《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》不是個(gè)單純的《個(gè)人信息保護(hù)》項(xiàng)下的立法，而是一個(gè)針對算法技術(shù)本身在信息內(nèi)容提供領(lǐng)域的規(guī)定，其本身具有超越《個(gè)人信息保護(hù)》規(guī)制范圍的內(nèi)容。因此，公號君認(rèn)為，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》是我國人工智能立法的一個(gè)重要發(fā)端。（完）