算法戴上金箍, 如何立地成佛? | 捷径与通途

算法在便利数字时代生活的同时,也是备受诟病的“黑箱”。8月27日,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定(征求意见稿)》(下称《意见稿》)并公开征求意见。

《意见稿》提出,不得实施流量造假、控制热搜等影响网络舆论;外卖及网约车平台对劳动者、消费者的双重算法需规范,保证劳动者算法的公正透明,抵制算法对消费者“大数据杀熟”;用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务等。

近期针对平台算法的问责层出不穷,在法律界和舆论中间引发热议。隔三差五就有企业在算法上踩雷让人感慨,同时也暴露出这些企业,尤其是互联网平台企业对通过算法快速成功的迷恋,以及在“不费吹灰之力涌来的财富”面前还缺少把控力。

国家网信办日前所发《互联网信息服务算法推荐管理规定(征求意见稿)》亮剑算法推荐,再度在平台企业中间引起震动。如果大家有关注过前段时间表决通过的个人信息保护法,就会发现这个《意见稿》不是突然出台的,它既是针对当下公众反映最强烈、问题最突出的算法治理问题作出的先导性回应,也是对包括个人信息保护法、网络安全法、数据安全法等上位法的配合和落实,同时还透露出了对算法领域焦点问题进行系统全面治理的一些方向。

通篇下来,我认为《意见稿》有两个突出特点:围绕“算法推荐服务提供者”这个核心主体,一要强调系统治理,一要突出主题责任。

有鉴于此,意见文本对包括用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等在内的方方面面作出规定,体现出了全流程、全生命周期治理的思路,我相信在新规的落实过程中,也会是一个系统治理、全员参与,共筑公共信任的过程。

目前我们已经进入算法社会,这是无可阻挡的潮流。作为一种新的工具和模式,算法极大的方便了我们的生活,也极大的提升了资源配置的效率,并同时促成了很多企业财富神话和快速成功。客观说,这种诱惑对任何企业都是考验,很多小企业和初创公司大多都曾寄希望于算法鲤鱼跳龙门,大企业则希望通过算法进一步扩大市场占有率

但需要认识到的是,销量的快速增长同时也意味着责任和风险的同时聚集。很多被问责的企业就是缺乏这样的认识。为追求极致的利润和增长,这些企业对算法任性的滥用和挥霍,不仅导致了大数据杀熟、歧视和差别待遇、侵犯个人隐私等很多问题,同时还对国家的互联网治理生态和网络安全等方面造成很大的消极影响。

这都导致了后面接二连三问责和监管的加码。

就我个人理解,强监管同样还体现出了对消费者的保护。借助平台算法,企业在供需关系中进一步占据支配地位,消费者也进一步成为弱势。如果供需关系任其失衡,不仅不利于市场健康发展,从长远来来看也不利于企业的可持续运营。

监管层对此自然是早有察觉。此番发布的《意见稿》,我们就可以发现,在对平台算法进行约束的同时,也在为用户充分赋权,多项自主权利重新回到消费者手中,五一将一定程度扭转用户在算法和企业面前的弱势地位,对于构建和谐、有序、平等的供求格局和市场环境意义重大。

还有一点需要警惕的是,近年来舆论提及算法,总是与作恶、监管相联系,这是当下算法“效率优先”这一主流逻辑的生动写实,但我们同样不能忽略了算法在提升效率和服务美好生活方面的正向意义。在这方面,我们了解的不够,媒体宣传的不够,企业坦诚的不够,很多课都还需要补上。

但要尽量释放算法的正向价值,个人认为,治理的焦点是透明度,治理的核心则是影响管理。

要知道,越先进的模式、越有潜力的市场机会,潜在的约束力也应越强。这种约束不仅来自于企业的内部管理升级,要学会识别和分析算法这种新工具产生影响的性质、大小,认识到影响力与责任及风险的高度匹配,充分发挥正向和积极影响,规避可能发生的不利影响,降低已经发生的负面影响;同样还需要建立健全用于识别违法和不良信息的特征库,强化数据采集的合规合法,保持和监管机构常态、良性的互动,实现有效的风险管控和多层次的透明度。

这一切最根本的,其实还有赖于意识层面的革命。平台公司(尤其是互联网新兴创业公司)和算法服务提供者,只有真正从内心去心怀敬畏,摒弃将效率作为算法唯一价值导向,转而将解放人力、回归人本和造福社会作为这种新工具价值实现的最终归宿,企业才有可能真正可持续的成功,产品也才能从蹿红成为业绩长红。

而在企业和监管之外,我们的社会同样也需要做出机制性安排,学好、用好法律赋予我们的自主权利。需求侧积极的反馈,哪怕是激烈反抗,都会倒逼那些处于供给侧的平台公司重新检视自己、崭新上路

最后谈一些感受。

在所有人都大谈算法的捷径和监管的尺度之时,我感觉那些对于消费者所需的关切、对于市场凉热的体察、对于产品质量的打磨,似乎伴随着的算法的出现也变得少有人去关注了。如果一个营销经理开始把销量业绩押宝在算法上面,天天往技术部门跑而不是往车间跑,天天和流量监测员打成一片而不是和消费者们打成一片,那一定是对算法的误解,也实非算法本意

在技术把我们带进突飞猛进的增长之中,有些东西真的不像产品迭代是说丢就能丢的。

文|小赵

编辑:十八

图片:网络,如侵权,请联删

 

本文首发于微信公众号:金蜜蜂。文章内容属作者个人观点,不代表和讯网立场。投资者据此操作,风险请自担。