“构建网上网下同心圆”的重点,就在于对算法的治理。
近日,国家网信办发布了《互联网信息服务算法推荐管理规定(意见稿)》(简称新规)公开向社会征求意见。
与之前的相关立法集中在特殊行业、主体、行为或责任等方面不同,新规主要针对的是算法技术,重点在于界定算法主体责任范畴。
因此,这部新法不仅是算法技术法治化进程的重要指引,而且还将成为配合《个人信息保护法》、《电子商务法》等其他法律在算法判定方面的解释与指南。
大数据时代
实际是“算法为王,数据次之”
当前,很多观点认为,大数据时代是“数据为王”,但这种理解存在偏差。
如果将数据比作是网络时代的石油,那么,算法就是将原油提炼出来的渠道,就是将成品油最终利用于汽车等工业产品的技术。算法新规,就是要确保加油过程的安全,确保这些易燃易爆油品不被坏人用作放火工具,确保每个加油站都应以安全优先,确保消费者获取油品价格、机会和渠道的公平性。
从这个角度看,大数据时代实际是“算法为王,数据次之”。
算法新规首次明确了算法安全主体责任,其中特别规定平台应“制定并公开算法推荐相关服务规则”,这也是世界范围内首次明确平台对算法规则的公开制度。
从性质上说,算法属于知识产权和商业秘密,但从运作规则和表现方式上看,算法本质属于网络服务与行为规则。尤其是,互联网具有天然的大众传播属性,一些会涉及公众知情权、公共利益和国家安全方面问题。
为此,新规对具有舆论属性和社会动员能力的算法,规定应依法进行安全评估和备案。
而根据《网络安全法》,以及2018年国家网信办和公安部联合发布的《具有舆论属性和社会动员能力的互联网信息服务安全评估规定》要求,算法纳入评估范围可能包括论坛、微博、短视频、直播、公众号等多类别产品和服务。
“揭开”技术面纱
新规对算法进行嵌入式监管
算法治理的难点,在于如何平衡自动化与人工干预之间的关系。为此,新规明确了算法干预的不同方面。
首先,用户有权利关闭算法推荐模式,平台应为用户提供选择、删除或修改用户标签的渠道。新规出来后,将极大提升用户对互联网内容自主选择权利,也会在一定程度降低平台对用户精准广告、精准营销既得利益。
对于算法推荐页面,新规也强化了生态管理,比如在热搜、榜单、弹窗、首页等区域应“积极呈现”主流价值导向内容。以后,热榜被“饭圈”等泛娱乐化霸占的局面,有望得到有效遏制。
而且,新规对未成年人提供了更大的算法保护。对孩子的特殊保护体现在反网络沉迷、禁止诱导孩子危险行为、禁止传播违反社会公德和不良嗜好的行为等方面。这些对算法干预新规,都是夯实平台履行主体责任的要求,是网络法治化的必经之路。
从商业利益角度看,“算法为王”不能被滥用,商业道德和法律底线必须得到严格遵守。新规再次明确“大数据杀熟”属于违法行为,这与即将生效的《个人信息保护法》规定保持一致,都是强调数据与算法,不能被当作不良平台“割韭菜”的工具,也不是利用用户自己的数据进行价格歧视的工具。
在互联网市场竞争中,“二选一”“自我优待”“流量造假”“流量劫持”等行为的背后都有算法影子。算法好比双刃剑,在促进网络技术发展的同时,也存在被滥用的风险。特别是长期以来,算法一直被认定为技术和商业秘密,隐藏在不正当行为之后。
而新规就是要“揭开”技术的面纱,做到全方位嵌入式监管,最大程度发挥互联网技术红利、减少技术糟粕。
算法也有价值观
不能游离于现实法治之外
根据用户网络行为数据分析,对应呈现的“数据画像”“兴趣点”等模式,是平台搜集用户数据挖掘商业价值的重要方面。
根据这些大数据展现“标签”,平台既可以通过精准营销推送商业信息,也可以依据用户偏好推送相关内容,还可以通过数据分析来引发、引导和转移社会舆论。
从这个角度看,数据分析兴趣点等模式属于平台核心商业价值范围。但新规明确,平台不得将违法和不良信息作为关键词计入用户标签,更不得向其推送相关信息。
为此,平台想留住用户,获得更多的流量,就不能仅依靠对个别用户低俗需求的满足,更在于鼓励创新,创作和传播具有积极社会价值的作品。
从实践来看,很多低俗、庸俗和媚俗的短视频、公众号等信息最容易形成“爆款”,很难根治的核心原因,不仅在于内容生产本身,更在于算法的推波助澜。有什么样的算法,就有什么样的内容,有什么样的用户,就会出现什么样的算法。
这种算法、人群与内容之间相互影响的逻辑关系,将从算法本身被彻底打破。低俗不能成为爆款的标签,黑红不应红,更不能红,算法的价值观和方法论不能游离于现实法治之外。
再进一步讲,互联网产出价值,也输出了价值观。价值观源起于网络内容,内容依靠传播,算法既决定传播,也影响内容生产。
因此,“构建网上网下同心圆”的重点,就在于对算法的治理工作,只有让好的作品广为流传,让不好的信息无人问津,才能“更好凝聚社会共识”,防止互联网价值观的偏移。