人民日报:算法推荐忽略真伪善恶,致劣质信息层出不穷

文章正文
发布时间:2024-07-15 11:30

    网络配图

  很多人都有过这样的经历:浏览一些网络APP,如果你曾打开一条关于健身的消息,之后经常会收到各种关于健身知识、健身产品的 广告推送……随着信息技术的迅猛发展、大数据应用的兴起,算法推荐带来的信息定制化、资讯分众化已经得到较广泛应用。

  算法推荐满足了人们多元化、个性化的信息需求。通过定制化、智能化的信息传播机制,实现了用户与信息的快速精确匹配,大大降低信息传播和获取的成本,为生活带来便利。但是,算法推荐在带来高效与便捷的同时,也引发了诸如大量低俗劣质信息精准推送、大数据杀熟等诸多乱象。

  网络时代,我们究竟需要怎样的“算法”?又该如何规范“算法”以趋利避害,实现网络空间的清朗生态环境?

  算法推荐背后乱象频发

  今年4月,针对“快手”和“今日头条”旗下“火山小视频”在内的直播短视频平台出现的大量未成年早恋早孕视频,国家网信办依法约谈“快手”和“火山小视频”相关负责人,责令其全面进行整改,并要求暂停有关算法推荐功能。

  大量精准传播恶劣低俗内容,只是算法推荐技术所引发乱象的“冰山一角”。除此之外,一些夸大其词的广告、博人眼球的标题党、极端情绪化的文章等信息,都更多更频繁地出现于一些平台的算法推荐序列中。对此,有网友总结了算法推荐劣质信息的三大特质:真假难辨、价值导向错乱、缺乏深度。

  为什么在算法推荐技术深度应用的网络世界,这些劣质信息的野蛮生长加快了、放大了、频繁了?

  算法推荐技术事实上充当了传统内容分发过程中的“编辑”角色。内容能否推送、推送给谁,都是预先设定好的程序说了算,而依据的标准往往就一条:能不能获取流量、能不能吸引关注。作为一项技术应用,算法推荐本身是中性的,但在“技术中性”的背后,却潜藏着推送者的价值导向。正是这种“流量至上”的单一价值导向,让推送者忽略了内容本身的真伪和善恶,最终导致劣质信息层出不穷。

  “更重要的是,基于这种价值导向的算法推荐,还会形成一个充斥恶劣低俗内容的‘信息茧房’。”中国人民大学法学院教授刘俊海认为,算法推荐很容易让人形成自动过滤掉“不感兴趣”“不认同”的信息,实现“看我想看,听我想听”,但通过推送传播博人眼球的劣质低俗内容,以获取关注和流量的取悦用户之举,事实上导致了网络空间中劣质内容的“劣币”驱逐了优质内容的“良币”。

  “技术中性”不能等同于“价值中性”

  “技术中性”不能等同于“价值中性”,不能让价值观成为算法技术的附庸。算法推荐毋庸置疑是一个价值观问题,技术可以没有价值观,但是作为技术发明者、操纵者的人,不能没有价值观。因此,应纠正“流量为王”的价值观,用积极健康、符合公序良俗的价值观,指引算法推荐的设计和应用。

  “算法推荐不仅是价值观问题,还是法律问题。”中国政法大学传播法研究中心副主任朱巍认为,当下由算法推荐引发的各类问题,都涉及内容监管和法律规范。朱巍举例,目前直播内容相关的专门立法并不少,从网络安全法到网信办的相关规定,都对内容安全作了具体规范。

  但从直播内容存在的时空权重看,内容产生于用户,分发于平台,接受于用户。实践中,立法对内容产生者——短视频制作者和主播作出了较明确的规定,甚至各平台也作出了进一步的公约自律细则;对直播观看者和传播者,立法也规定了举报权利和传播者责任。

  网络空间不是法外之地。近年来,针对算法推荐引发的诸多乱象,相关监管部门频频依法重拳出击——约谈、处罚整改、永久下架、暂停算法推荐功能等手段多措并举。然而,现实中却总能看到这样的现象:即便不断地打击、处罚和整治,却难以遏制劣质内容“换个马甲”、变换渠道再次生长。这是为什么?

  朱巍表示,首先,算法决定了内容的展现形式——不论用户上传的是文字和图片,还是视频或直播,算法都需要将这些抽象出特征,分门别类进行统筹标记。其次,算法决定让什么样的人群看到什么样的内容——算法推荐分发系统,会按照用户标签、兴趣点、位置、相似用户喜爱偏好、在线时间、使用机型等行为细节来设置算法匹配,实现“不是用户决定自己想看什么,而是平台决定用户能看到什么”。

  “由此可见,算法如此重要,但当下法律对算法推荐本身,却缺乏足够和直接的规范。” 朱巍认为,这导致只能针对具体现象,进行“头痛医头、脚痛医脚”式的监管,而难以从源头上遏制算法推荐乱象。

  强化对算法推荐本身的法治监管

  2017年6月1日起施行的网络安全法第九条明确规定,网络运营者开展经营和服务活动,必须遵守法律、行政法规,尊重社会公德,遵守商业道德,诚实信用,履行网络安全保护义务,接受政府和社会的监督,承担社会责任。

  治理算法推荐引发的乱象,依法施治是根本之策。近年来,我国互联网治理迈向法治化快车道,相关法律、行政法规、部门规章等日渐完善,构建起一套系统完备的网络监管法律体系。对推送恶劣信息等乱象依法打击惩治,这并非权宜之计,而需要常抓不懈。

  在北京大学法学院副院长、教授薛军看来,治理算法推荐引发的乱象,不能仅呼吁平台、技术研发者道德自律,不能只停留于倡导“算法也应具备良好的价值伦理”,而应将算法的价值伦理上升为法律规范和原则,使其具有法律的刚性,以强化对算法推荐本身的法治监管。“基于维护社会公共利益和公序良俗的需要,应将无差别不歧视、保护基本人权、尊重个人隐私等原则纳入对算法的法律规制中。”

  “当然,算法推荐作为一种商业秘密和技术秘密,应用过程中又往往涉及社会公共利益,如何平衡、把握对算法推荐法律规制的边界,是面临的一大难题。”薛军建议,对算法推荐的法律规制,可采用分层次、分类别的多元共治模式。例如,对那些影响公众基本权利、涉及重大社会公共利益的算法,应通过立法对分发内容、内容判断标准、推荐标准、干预手段等关键性环节,进行更强的公共监管;而对其他不同层次的算法推荐,可通过制定行业标准、向监管部门自我申报等方式来实现监管。

  “此外,还可通过立法提升算法推荐的透明度、多元性,以提升公众的知情权和自主选择权。”薛军举例,电子商务法(草案)三次审议稿第三十九条规定:“电子商务平台经营者应当根据商品或者服务的价格、销量、信用等以多种方式向消费者显示商品或者服务的搜索结果;对于竞价排名的商品或者服务,应当显著标明 ‘广告’。”

  在薛军看来,针对算法推荐带来的新问题、新挑战,在法律制度的研究方面未雨绸缪,强化对算法推荐本身的法治监管,将有助于实现技术运用与价值伦理、商业价值和社会价值的良性互动。