使用某(mou)个应(ying)用程(cheng)序后(hou)，它就能(neng)“猜(cai)”到你(ni)喜欢什么，并(bing)且精准推送相关内容，滋(zi)生“信(xin)息(xi)茧(jian)房(fang)”、大数据“杀熟”等问题(ti)。这样的情(qing)况最近终于开始(shi)有了改变。随着国家(jia)网信(xin)办等4部门联合发(fa)布(bu)的《互联网信(xin)息(xi)服(fu)务算法推荐(jian)管理规(gui)定(ding)》近日正(zheng)式施行(xing)，很多(duo)APP先(xian)后(hou)上(shang)线(xian)算法关闭(bi)键(jian)，允许(xu)用户(hu)在后(hou)台(tai)一键(jian)关闭(bi)“个性化推荐(jian)”。专家(jia)表示，要继(ji)续压(ya)实平台(tai)责任，促(cu)进算法应(ying)用向(xiang)上(shang)向(xiang)善(shan)，让算法更好地为用户(hu)服(fu)务，推动信(xin)息(xi)服(fu)务行(xing)业长远(yuan)、健康发(fa)展(zhan)。
可一键关(guan)闭“个性化(hua)推荐”
通过(guo)参(can)考互联网上的(de)“攻略”，北京的(de)王女士(shi)最近终于将一款社(she)交应用中的(de)“个性化推(tui)荐”服务选项关闭，“再打开这个APP，感觉安心不少”。
王女(nv)士(shi)之所以(yi)下决(jue)心(xin)关掉“个(ge)性化推荐”服务，源于此前遇到(dao)的(de)(de)(de)一些糟心(xin)经历。她在(zai)这款应用里(li)曾发表(biao)过皮肤干燥(zao)的(de)(de)(de)言论，此后(hou)便在(zai)各(ge)个(ge)平台不(bu)(bu)断收到(dao)面部“保(bao)鲜(xian)”秘笈的(de)(de)(de)文章(zhang)、美容产品(pin)的(de)(de)(de)推销广告(gao)，让(rang)王女(nv)士(shi)不(bu)(bu)堪其(qi)扰。
在移动互联网时(shi)代，每一(yi)个人都在生产(chan)“数(shu)(shu)据(ju)(ju)”。此前，这(zhei)些“数(shu)(shu)据(ju)(ju)”被平(ping)台以各种方式采集，然后通过算(suan)法分(fen)析(xi)出用(yong)户行(xing)为(wei)、习惯和喜好，进(jin)而(er)精(jing)准地提供信息(xi)(xi)、娱(yu)乐、消(xiao)费(fei)等各类(lei)服(fu)务。这(zhei)种基于算(suan)法的(de)技术创新在为(wei)用(yong)户提供精(jing)准信息(xi)(xi)服(fu)务的(de)同(tong)时(shi)，也滋生出不少(shao)问题。
《互联网信息服(fu)务(wu)算法(fa)(fa)推荐(jian)管(guan)(guan)理(li)规定(ding)》（以下简称《管(guan)(guan)理(li)规定(ding)》）近日正式施行，将算法(fa)(fa)推荐(jian)服(fu)务(wu)全面(mian)纳入监管(guan)(guan)。《管(guan)(guan)理(li)规定(ding)》提(ti)(ti)出，算法(fa)(fa)推荐(jian)服(fu)务(wu)提(ti)(ti)供(gong)者应(ying)当向用户提(ti)(ti)供(gong)不针对其个人特(te)征(zheng)的选(xuan)项(xiang)，或者向用户提(ti)(ti)供(gong)便捷的关闭算法(fa)(fa)推荐(jian)服(fu)务(wu)的选(xuan)项(xiang)。
《管(guan)理规定》出台(tai)(tai)后(hou)(hou)，多家平台(tai)(tai)先后(hou)(hou)上线算(suan)法关闭键，允许用户(hu)在(zai)后(hou)(hou)台(tai)(tai)一键关闭“个性化(hua)推(tui)荐(jian)”。用户(hu)关闭“个性化(hua)推(tui)荐(jian)”后(hou)(hou)，平台(tai)(tai)会根据(ju)内容(rong)的热门程度进(jin)行(xing)分发，推(tui)送内容(rong)更加体现(xian)应用特色。很多网友表示，以前总是被“安排(pai)”看一些内容(rong)，关闭“个性化(hua)推(tui)荐(jian)”后(hou)(hou)，感觉(jue)看到了更广(guang)阔的世界(jie)。
记者在体验后发现，目前多数APP还是默认打开“个性化推荐”，软件开发公司关闭要找到“个(ge)性化推(tui)荐”键并不太容(rong)易。以一款电商应(ying)用(yong)(yong)为(wei)例，需先后点击进入(ru)数(shu)个(ge)页(ye)面，然后在(zai)呈(cheng)现的10多(duo)个(ge)选项里找到“个(ge)性化推(tui)荐”的关闭按钮。有用(yong)(yong)户(hu)认为(wei)，这样的设(she)置方(fang)式难(nan)言“便捷”，其(qi)目的是让(rang)用(yong)(yong)户(hu)“知难(nan)而(er)退”。
关(guan)闭个性化(hua)推(tui)荐(jian)，是否(fou)意味着算法推(tui)荐(jian)技术走到尽(jin)头(tou)？中国(guo)人民(min)大学信息学院教授程(cheng)絮森分析，随着新规实施，如何(he)使个性化(hua)推(tui)荐(jian)更(geng)加规范(fan)，是很大的(de)挑战，但(dan)也相应促进(jin)(jin)了各互联网平台的(de)技术发展进(jin)(jin)步，有利于加速(su)推(tui)进(jin)(jin)相关(guan)行业的(de)数(shu)字化(hua)转型(xing)与平台经济的(de)健康发展。
合力推动产品向善
同样的(de)(de)订单，熟客(ke)比(bi)新客(ke)多付钱，被用户质疑平(ping)台(tai)利用算(suan)法(fa)(fa)模型(xing)进行大数据(ju)“杀(sha)熟”。《管(guan)理规定》提出(chu)，算(suan)法(fa)(fa)推荐服务(wu)提供者向消费者销售商(shang)品或者提供服务(wu)的(de)(de)，应当保护消费者公平(ping)交(jiao)(jiao)易(yi)的(de)(de)权利，不得根(gen)据(ju)消费者的(de)(de)偏好、交(jiao)(jiao)易(yi)习惯等(deng)特征，利用算(suan)法(fa)(fa)在交(jiao)(jiao)易(yi)价(jia)格(ge)等(deng)交(jiao)(jiao)易(yi)条件上实施不合理的(de)(de)差(cha)别待遇等(deng)违法(fa)(fa)行为。
中国信息(xi)安(an)全研究院(yuan)副院(yuan)长(zhang)左晓栋认为，大数据“杀熟”等(deng)顽疾归根结底是滥用用户(hu)个人信息(xi)导致(zhi)的。解决这类(lei)问题首先要在治(zhi)理违法违规收(shou)集用户(hu)个人信息(xi)上下功夫，其次(ci)要保(bao)障用户(hu)的选择权(quan)、删除(chu)权(quan)等(deng)权(quan)益。
“刷(shua)短视频、玩游戏的时(shi)候，没(mei)感(gan)觉(jue)时(shi)间过得(de)很(hen)快(kuai)，但(dan)每(mei)次(ci)放下手机，发现已经几个小时(shi)过去了(le)。”在上海一家(jia)企业工作的陈先(xian)生感(gan)慨，每(mei)次(ci)拿(na)起手机娱乐(le)时(shi)，感(gan)觉(jue)像中毒一样停不下来。另有(you)不少网(wang)友抱怨，当自己(ji)反复浏览某件商(shang)品时(shi)，平台就会(hui)显示一连串促销优惠信息，很(hen)多人(ren)因(yin)此盲目下单。
《管(guan)理(li)(li)规(gui)定(ding)》提(ti)(ti)出，算(suan)法推荐(jian)服务提(ti)(ti)供者应(ying)当(dang)定(ding)期(qi)审核、评估、验证算(suan)法机制机理(li)(li)、模型、数据和(he)应(ying)用结果等，不得设置诱导用户沉迷、过(guo)度消费等违(wei)反法律法规(gui)或者违(wei)背伦理(li)(li)道德的算(suan)法模型。
北(bei)京大学中(zhong)(zhong)国社会与(yu)发(fa)展研(yan)究中(zhong)(zhong)心主任邱(qiu)泽(ze)奇对(dui)(dui)记者说，社会学把(ba)人们偏好的(de)内(nei)容(rong)区分为两(liang)个理想类(lei)(lei)型，一(yi)类(lei)(lei)是理性(xing)的(de)，类(lei)(lei)似(si)于对(dui)(dui)人对(dui)(dui)事物的(de)观点，这种(zhong)对(dui)(dui)“自我”的(de)偏好是人类(lei)(lei)认知(zhi)偏好的(de)一(yi)部分，容(rong)易(yi)形(xing)成“信息茧房”效(xiao)应或“回(hui)音壁”效(xiao)应；另一(yi)类(lei)(lei)是感(gan)性(xing)的(de)，类(lei)(lei)似(si)于对(dui)(dui)人对(dui)(dui)事物的(de)情感(gan)，人们在情感(gan)上容(rong)易(yi)受到他人的(de)感(gan)染，易(yi)产(chan)生“情绪传染”效(xiao)应。
邱泽奇认(ren)为(wei)，在数字时代，诸多产(chan)品都是(shi)动态(tai)产(chan)品，需(xu)要根(gen)据(ju)交互数据(ju)对产(chan)品不断进行(xing)优(you)化迭代，通过产(chan)品升(sheng)级、算(suan)法升(sheng)级以满足(zu)用(yong)户(hu)需(xu)求。基于人类认(ren)知(zhi)偏好(hao)的(de)复杂性，企业除了承担产(chan)品责(ze)任(ren)，还要承担起相应(ying)社(she)会责(ze)任(ren)，把(ba)用(yong)户(hu)纳入产(chan)品的(de)开发、生(sheng)产(chan)与服务(wu)中，通过政(zheng)府、企业和用(yong)户(hu)共(gong)同参与、建立相应(ying)规(gui)则，不断推动产(chan)品向善、科技向善。
实现负责任的创新
近(jin)年来，一些(xie)企业利用算法注册虚假账(zhang)号、雇佣网络“水(shui)军”，鼓动(dong)“饭圈”粉丝(si)互撕谩骂(ma)、刷量控评；操纵干预热搜、榜单或检索结(jie)果排序；向未成年人推(tui)送不(bu)良内容……针对(dui)这些(xie)问题，《管理(li)(li)(li)规定》提出“建立健全算法机制机理(li)(li)(li)审(shen)(shen)(shen)核、科技(ji)伦理(li)(li)(li)审(shen)(shen)(shen)查、用户注册、信息发布审(shen)(shen)(shen)核等管理(li)(li)(li)制度”“提供算法推(tui)荐(jian)服务，应当遵守法律法规，尊重社会公德和伦理(li)(li)(li)，遵守商业道(dao)德和职业道(dao)德”等措施。
从更深层意(yi)义(yi)看，因算法技(ji)(ji)(ji)(ji)术创(chuang)(chuang)新(xin)而衍生的一系列问(wen)题涉及(ji)科技(ji)(ji)(ji)(ji)伦理。中(zhong)共(gong)中(zhong)央办公厅、国(guo)务院办公厅近日印发(fa)的《关于加(jia)强(qiang)(qiang)科技(ji)(ji)(ji)(ji)伦理治(zhi)理的意(yi)见(jian)》提出，加(jia)强(qiang)(qiang)源(yuan)头(tou)治(zhi)理，注重预防(fang)，将科技(ji)(ji)(ji)(ji)伦理要求(qiu)贯穿(chuan)科学研究、技(ji)(ji)(ji)(ji)术开发(fa)等科技(ji)(ji)(ji)(ji)活(huo)动全(quan)过程，促进科技(ji)(ji)(ji)(ji)活(huo)动与(yu)科技(ji)(ji)(ji)(ji)伦理协调发(fa)展、良性互动，实(shi)现负(fu)责任的创(chuang)(chuang)新(xin)。
中(zhong)国(guo)社科院信息化(hua)研究(jiu)中(zhong)心主任姜奇(qi)平表示(shi)，从技术(shu)创新层(ceng)面看，应(ying)推动算法技术(shu)回(hui)到(dao)正常轨道(dao)，比如单纯(chun)基于人(ren)(ren)(ren)(ren)们的偏好(hao)推荐(jian)阅读(du)内容(rong)，错误之(zhi)(zhi)处在于对人(ren)(ren)(ren)(ren)的理解不足，把人(ren)(ren)(ren)(ren)理解成机器，没有考虑到(dao)人(ren)(ren)(ren)(ren)还具(ju)有自由意(yi)(yi)志。从价值伦理层(ceng)面看，哲学上(shang)的善和伦理的本质都源(yuan)于自由意(yi)(yi)志，因此(ci)应(ying)该在技术(shu)创新过程中(zhong)把人(ren)(ren)(ren)(ren)之(zhi)(zhi)为人(ren)(ren)(ren)(ren)的一面、人(ren)(ren)(ren)(ren)和人(ren)(ren)(ren)(ren)的关系摆进(jin)技术(shu)里(li)考虑。
专家认(ren)为(wei)，数字(zi)时代的算法技(ji)术创新应是一(yi)种负责(ze)任的创新，要进(jin)(jin)一(yi)步压实(shi)平台责(ze)任，确保科(ke)(ke)技(ji)活动符合(he)科(ke)(ke)技(ji)伦理。只有坚持把消费者对信息服(fu)务的评判权置(zhi)于采集(ji)权之上，才能更好把握个性化信息服(fu)务业态的发展方向，促进(jin)(jin)数字(zi)经济(ji)高(gao)质量(liang)发展。（原标题：给(ji)“算法应用”立规(gui)矩：部分APP可一(yi)键关闭个性化推荐）来源：人民日报海(hai)外版 | 作者 彭训文
