使用(yong)(yong)(yong)某個應(ying)用(yong)(yong)(yong)程序后(hou)，它就能“猜”到你喜歡什么，并且精準推(tui)送相關(guan)內容，滋生“信(xin)(xin)息繭(jian)房(fang)”、大(da)數(shu)據“殺熟”等(deng)問(wen)題。這樣的情況最(zui)近(jin)終(zhong)于開始有了(le)改變(bian)。隨著國家(jia)網信(xin)(xin)辦(ban)等(deng)4部門(men)聯合(he)發(fa)布(bu)的《互聯網信(xin)(xin)息服(fu)務(wu)算(suan)法推(tui)薦(jian)管理(li)規定》近(jin)日正式(shi)施行(xing)，很(hen)多APP先后(hou)上線(xian)算(suan)法關(guan)閉鍵，允許用(yong)(yong)(yong)戶在后(hou)臺(tai)一鍵關(guan)閉“個性化推(tui)薦(jian)”。專家(jia)表(biao)示(shi)，要繼(ji)續(xu)壓實平(ping)臺(tai)責任，促進算(suan)法應(ying)用(yong)(yong)(yong)向上向善(shan)，讓算(suan)法更(geng)好地(di)為用(yong)(yong)(yong)戶服(fu)務(wu)，推(tui)動信(xin)(xin)息服(fu)務(wu)行(xing)業長遠、健康發(fa)展。
可一鍵(jian)關(guan)閉“個性化推(tui)薦(jian)”
通過參考互聯網上的“攻略”，北京的王女士最近終于將一款社交應(ying)用中(zhong)的“個性化推薦”服(fu)務選項關閉，“再打開這個APP，感覺安心不少”。
王(wang)女(nv)士之所以下決心(xin)關(guan)掉(diao)“個性化推薦”服務，源于此前遇到(dao)的(de)(de)一些(xie)糟心(xin)經歷(li)。她在這款應用里曾發表過皮(pi)膚(fu)干燥(zao)的(de)(de)言論，此后(hou)便在各個平臺不斷收到(dao)面部“保鮮(xian)”秘笈(ji)的(de)(de)文章、美容產品的(de)(de)推銷廣告，讓王(wang)女(nv)士不堪其擾。
在移(yi)動互聯網(wang)時代，每(mei)一個人都在生產“數據”。此前，這些(xie)“數據”被平臺(tai)以各種方(fang)式(shi)采(cai)集，然后(hou)通過算法分析出(chu)用(yong)戶(hu)行為(wei)、習(xi)慣和(he)喜好，進而精準地提供信(xin)息(xi)、娛樂(le)、消費等各類服務(wu)。這種基于算法的技術創新在為(wei)用(yong)戶(hu)提供精準信(xin)息(xi)服務(wu)的同時，也滋生出(chu)不少問題。
《互聯網信息服(fu)務(wu)(wu)算(suan)法推(tui)(tui)薦(jian)管理規(gui)定(ding)》（以下簡(jian)稱《管理規(gui)定(ding)》）近日正式施行，將(jiang)算(suan)法推(tui)(tui)薦(jian)服(fu)務(wu)(wu)全面納入監管。《管理規(gui)定(ding)》提(ti)(ti)出，算(suan)法推(tui)(tui)薦(jian)服(fu)務(wu)(wu)提(ti)(ti)供者(zhe)應當(dang)向用戶(hu)提(ti)(ti)供不針對(dui)其個人特(te)征的選(xuan)項(xiang)，或者(zhe)向用戶(hu)提(ti)(ti)供便捷的關閉算(suan)法推(tui)(tui)薦(jian)服(fu)務(wu)(wu)的選(xuan)項(xiang)。
《管理規定》出臺(tai)(tai)后，多(duo)家(jia)平臺(tai)(tai)先(xian)后上線算法關(guan)閉(bi)鍵，允許用戶在后臺(tai)(tai)一(yi)鍵關(guan)閉(bi)“個(ge)性化(hua)推(tui)薦(jian)”。用戶關(guan)閉(bi)“個(ge)性化(hua)推(tui)薦(jian)”后，平臺(tai)(tai)會(hui)根據(ju)內容的熱(re)門程度進(jin)行分發，推(tui)送內容更加體現應用特色(se)。很多(duo)網(wang)友表示，以(yi)前總是被“安排(pai)”看(kan)一(yi)些內容，關(guan)閉(bi)“個(ge)性化(hua)推(tui)薦(jian)”后，感覺看(kan)到了更廣闊的世界。
記者在體驗后發現，目前多數APP還是默認打開“個性化推薦”，軟件開發公司關閉要找(zhao)到“個性化推薦”鍵并不太容易。以一款電(dian)商應用為例，需先后點擊進入數個頁(ye)面(mian)，然后在呈現的10多個選項里找(zhao)到“個性化推薦”的關閉按鈕。有(you)用戶(hu)認為，這(zhe)樣的設置方(fang)式難(nan)言“便捷”，其目(mu)的是讓用戶(hu)“知難(nan)而退”。
關(guan)閉個性化推薦(jian)，是否意(yi)味著算法(fa)推薦(jian)技術(shu)走到盡(jin)頭？中(zhong)國人民大(da)(da)學信(xin)息學院教授程絮森分析，隨(sui)著新規實施，如何使個性化推薦(jian)更(geng)加規范，是很(hen)大(da)(da)的挑戰，但(dan)也(ye)相(xiang)應(ying)促進(jin)了各互聯(lian)網平臺(tai)的技術(shu)發(fa)展(zhan)進(jin)步(bu)，有利(li)于(yu)加速(su)推進(jin)相(xiang)關(guan)行(xing)業的數字化轉型與平臺(tai)經濟的健(jian)康發(fa)展(zhan)。
合力推動產品向善
同樣的訂單(dan)，熟客比新客多付錢，被(bei)用戶(hu)質疑平(ping)臺利(li)用算法(fa)模型進行(xing)大(da)數據“殺(sha)熟”。《管理(li)規定》提出，算法(fa)推薦服(fu)務提供(gong)者(zhe)(zhe)向(xiang)消(xiao)(xiao)費(fei)者(zhe)(zhe)銷售商品或者(zhe)(zhe)提供(gong)服(fu)務的，應當保(bao)護消(xiao)(xiao)費(fei)者(zhe)(zhe)公平(ping)交易(yi)(yi)的權利(li)，不(bu)(bu)得根據消(xiao)(xiao)費(fei)者(zhe)(zhe)的偏(pian)好(hao)、交易(yi)(yi)習慣(guan)等(deng)特征，利(li)用算法(fa)在交易(yi)(yi)價格等(deng)交易(yi)(yi)條(tiao)件上實(shi)施不(bu)(bu)合(he)理(li)的差(cha)別(bie)待遇等(deng)違法(fa)行(xing)為。
中國信(xin)息安全研究院副院長左曉棟認(ren)為，大數據“殺熟”等(deng)頑疾歸根(gen)結底是(shi)濫用(yong)(yong)(yong)用(yong)(yong)(yong)戶個(ge)人信(xin)息導致的(de)。解決這類問題首先要(yao)(yao)在治理違法違規收集用(yong)(yong)(yong)戶個(ge)人信(xin)息上下功夫，其次要(yao)(yao)保障用(yong)(yong)(yong)戶的(de)選擇權、刪除權等(deng)權益。
“刷短視頻(pin)、玩游戲的時候，沒感(gan)覺(jue)時間過得很快，但(dan)每(mei)次放下手機，發現已(yi)經幾個小時過去了(le)。”在上(shang)海一家(jia)企業(ye)工作的陳先(xian)生感(gan)慨(kai)，每(mei)次拿起(qi)手機娛樂時，感(gan)覺(jue)像(xiang)中(zhong)毒(du)一樣(yang)停不下來。另有不少(shao)網友抱(bao)怨，當自己反復瀏覽某(mou)件(jian)商品(pin)時，平臺(tai)就會顯(xian)示一連串促銷優惠信息，很多人因此(ci)盲目(mu)下單。
《管理規定》提(ti)出，算(suan)(suan)法(fa)推薦(jian)服務提(ti)供者(zhe)(zhe)應當定期審核、評估、驗證算(suan)(suan)法(fa)機(ji)制機(ji)理、模(mo)型、數據(ju)和應用結(jie)果等，不得設置誘導用戶沉迷、過(guo)度消費等違(wei)反法(fa)律法(fa)規或者(zhe)(zhe)違(wei)背倫(lun)理道德的算(suan)(suan)法(fa)模(mo)型。
北京大學中國社(she)會(hui)與發展研究中心主任邱澤奇(qi)對記(ji)者說(shuo)，社(she)會(hui)學把人(ren)們(men)偏(pian)好的(de)(de)內容區分為兩個理想類(lei)(lei)型，一(yi)類(lei)(lei)是(shi)理性的(de)(de)，類(lei)(lei)似于(yu)對人(ren)對事(shi)物(wu)(wu)的(de)(de)觀(guan)點，這種對“自(zi)我”的(de)(de)偏(pian)好是(shi)人(ren)類(lei)(lei)認(ren)知(zhi)偏(pian)好的(de)(de)一(yi)部(bu)分，容易形(xing)成“信(xin)息繭房”效應或“回音(yin)壁”效應；另一(yi)類(lei)(lei)是(shi)感性的(de)(de)，類(lei)(lei)似于(yu)對人(ren)對事(shi)物(wu)(wu)的(de)(de)情(qing)(qing)感，人(ren)們(men)在情(qing)(qing)感上容易受到他(ta)人(ren)的(de)(de)感染，易產生“情(qing)(qing)緒傳染”效應。
邱澤奇認為(wei)，在數字時代(dai)，諸多產(chan)(chan)品都是動(dong)態產(chan)(chan)品，需(xu)要根據交互(hu)數據對產(chan)(chan)品不斷進行優化迭代(dai)，通過產(chan)(chan)品升級、算(suan)法(fa)升級以(yi)滿足用(yong)戶(hu)(hu)需(xu)求。基于(yu)人類認知偏(pian)好的復雜性，企業除了承擔產(chan)(chan)品責任，還要承擔起相(xiang)應社會責任，把用(yong)戶(hu)(hu)納入產(chan)(chan)品的開發、生產(chan)(chan)與服務中，通過政府、企業和用(yong)戶(hu)(hu)共同參與、建立相(xiang)應規(gui)則，不斷推動(dong)產(chan)(chan)品向善、科(ke)技向善。
實現負責任的創新
近年(nian)(nian)來，一些企業(ye)利用算法注(zhu)(zhu)冊(ce)虛假(jia)賬號、雇(gu)傭網絡“水軍”，鼓動“飯圈”粉絲互撕謾罵、刷量控評；操縱干預熱搜、榜單或檢(jian)索結果排序；向未(wei)成年(nian)(nian)人推送不良(liang)內容……針對這些問題，《管理(li)(li)規(gui)定》提(ti)(ti)出“建(jian)立健全算法機制機理(li)(li)審(shen)核(he)、科技(ji)倫(lun)理(li)(li)審(shen)查、用戶注(zhu)(zhu)冊(ce)、信息發布審(shen)核(he)等管理(li)(li)制度”“提(ti)(ti)供算法推薦(jian)服務，應當(dang)遵守(shou)法律(lv)法規(gui)，尊重社(she)會(hui)公德(de)和(he)倫(lun)理(li)(li)，遵守(shou)商業(ye)道(dao)德(de)和(he)職(zhi)業(ye)道(dao)德(de)”等措施。
從(cong)更(geng)深層意義看，因(yin)算(suan)法技(ji)(ji)術創新而衍生的(de)(de)一系列問題涉及科(ke)(ke)(ke)(ke)技(ji)(ji)倫理(li)。中共中央辦公(gong)廳、國務院辦公(gong)廳近(jin)日印發的(de)(de)《關于(yu)加(jia)強科(ke)(ke)(ke)(ke)技(ji)(ji)倫理(li)治(zhi)理(li)的(de)(de)意見》提出，加(jia)強源頭治(zhi)理(li)，注重預(yu)防(fang)，將科(ke)(ke)(ke)(ke)技(ji)(ji)倫理(li)要求貫穿科(ke)(ke)(ke)(ke)學研究、技(ji)(ji)術開發等科(ke)(ke)(ke)(ke)技(ji)(ji)活動(dong)全(quan)過程，促(cu)進科(ke)(ke)(ke)(ke)技(ji)(ji)活動(dong)與科(ke)(ke)(ke)(ke)技(ji)(ji)倫理(li)協調發展、良性互動(dong)，實現負責任(ren)的(de)(de)創新。
中國社(she)科院信息化研究中心主任(ren)姜奇平表示，從技(ji)(ji)術創新層(ceng)面看，應(ying)推動算(suan)法技(ji)(ji)術回到(dao)正常軌道，比如單純(chun)基于(yu)人(ren)們的(de)偏好推薦閱讀內容(rong)，錯誤(wu)之(zhi)處在于(yu)對人(ren)的(de)理解不足(zu)，把人(ren)理解成機器，沒(mei)有考慮到(dao)人(ren)還具有自(zi)由(you)意(yi)志。從價值倫(lun)理層(ceng)面看，哲學上的(de)善(shan)和(he)倫(lun)理的(de)本質(zhi)都源于(yu)自(zi)由(you)意(yi)志，因此應(ying)該在技(ji)(ji)術創新過程(cheng)中把人(ren)之(zhi)為人(ren)的(de)一(yi)面、人(ren)和(he)人(ren)的(de)關系擺(bai)進技(ji)(ji)術里(li)考慮。
專家認為，數字時代(dai)的算(suan)法技(ji)術創新應(ying)是一(yi)種負責任(ren)的創新，要進(jin)一(yi)步(bu)壓實(shi)平臺責任(ren)，確保(bao)科技(ji)活動(dong)符(fu)合科技(ji)倫理。只有堅持把消費者(zhe)對信息(xi)服務的評判權置(zhi)于采集權之上，才能更好把握個性化(hua)信息(xi)服務業態(tai)的發展(zhan)方向，促(cu)進(jin)數字經(jing)濟高質量發展(zhan)。（原標題(ti)：給(gei)“算(suan)法應(ying)用”立規矩：部(bu)分(fen)APP可一(yi)鍵關閉個性化(hua)推薦(jian)）來(lai)源：人民(min)日報海外(wai)版 | 作者(zhe) 彭(peng)訓文(wen)
