如何治理大数据杀熟？北大沈艳提高算法透明度与可解释性，推动算法审计

　　文/戚梦颖
　　＂算法通效率，但不够通人性。＂
　　12月16日，在《中国经营报》触角学院深度合作的＂北大国发院承泽课堂·平台经济十二讲＂系列直播课中，北京大学国家发展研究院教授、北大数字金融研究中心副主任沈艳表示，当下出现的大数据杀熟、算法黑箱等问题，折射出算法正在成为社会治理的核心。
　　她指出，算法带来的利弊像是硬币的一体两面，我们不应妖魔化平台和算法。解决算法带来的问题，平台方要承担相应的社会责任，提高算法透明度，增加算法的可解释性。监管方则应积极推动算法审计等治理方式。
　　从看不见的手到数字之手
　　在数字时代，人与机器之间、真实世界与线上世界之间都有着越来越多的融合，数字平台的发展也带来技术突破、效率提升。
　　沈艳表示，数据也有着＂从0到1＂与＂从1到N＂两个变化，即过去没办法使用的信息现在可以被使用，以及因数据收集成本的降低带来的大量个性化的产品。
　　因此，在数字时代，算法的使用意味着个体在用数据换取所谓的免费服务，人本身成为数字社会的新资源。算法也在逐渐取代人成为产品定价的主导。
　　无论是衣食住行，还是医疗、就业，甚至是司法审判领域，关于人的重要决定，已经越来越多由算法做出。算法在不知不觉中影响了我们的生活，相应也带来诸多新问题，大数据杀熟就是其中备受争议的现象。
　　沈艳对相关案例进行搜索，发现最早的报道出现于2000年9月，亚马逊依照电脑浏览器的个人特征信息以不同价格销售DVD。国内首次提出＂大数据杀熟＂的说法，则是源于2018年2月的酒店房价事件。
　　除大数据杀熟外，沈艳还列举算法导致的另外三个问题。第一是因用户不清楚算法如何输入输出等信息的算法黑箱。二是人们由于兴趣引导收获狭窄信息的茧房效应。三是算法使用者因立场、能力而造成的算法不平等。
　　算法真的客观吗？
　　针对算法带来的诸多问题，沈艳指出这是由算法的特点导致的。
　　沈艳解释，其一，无论是聚类算法、文本分析或是图像识别，机器学习的方法重要在于＂预测得准＂，而非＂为什么要这样预测＂。
　　其二，＂重视速度而非因果＂，算法的可解释性较差。预测越准确的算法模型往往越复杂，涉及参数甚至上百万个。因此，得到结果时，技术人员也很难解释其中一个变量发挥着怎样的作用。
　　其三，算法在效率公平及有效性方面的作用被高估，而负外部性又被低估。大数据的代表性、人工参与的参数设定的客观性都有待商榷，机器也缺少＂关于未来的信息＂以及专业知识等人类掌握更多的软信息。
　　其四，在平台经济发展过程中，算法一方面减少了部分信息不对称性，另一方面却可能制造着新的不对称。
　　在沈艳看来，人类往往高估算法的作用，忽略人在决策方面的长处。但如今，新的思潮已经出现。＂人的决策有利有弊，但不应忽略人的作用。要更多地关注人和算法间的互动，把两者搭配好。＂
　　算法审计是关键一步
　　从认知和执行两个层面，沈艳提出了一些解决思路。
　　沈艳认为，各方都要认识到平台在数字经济发展中的重要作用，要对其当下问题的解决抱有信心。对于平台而言，因运营过程中为商家、消费者、劳动者制定的算法规则会影响他们的行为，平台也应深刻认识到自己所承担的一定的公权力。＂算法通效率，但是不够通人性。＂因此各方也要对算法相应的弊端有深刻的充分的认知。
　　基于这样的认知，沈艳建议平台从两个层面改善算法目前带来的问题。
　　首先，为了长期稳健发展，平台应考虑增加决策的可解释性。
　　沈艳提到，2018年欧盟出台的《通用数据保护条例》已经对此作出规范，要求运用自动化算法的企业能够保证算法具有透明性和可解释性。这也就意味着，那些不可解释的模型，将成为非法应用。＂如果想去欧洲发展业务的话，就要增强国际竞争力，研究怎样增加自己决策的可解释性。＂沈艳说。
　　其次，要增加信息的透明度。
　　心理学家卡尼曼的研究结果显示，消费者非常厌恶不公平。涉及价格差异时，消费者更能接受涨价的原因是成本增加而非需求增加。沈艳强调，多项研究表明，大数据时代的杀熟对于平台来说或许并非权宜之计。＂弱势的消费者对于杀熟的厌恶，带给相关企业的负收益会超过优势消费者享受个性化定制所带来的正收益。长久来看，个性化定价可能会导致消费者对平台的信任度降低。＂
　　与此相对的是，有实证研究表明，如果增加信息的透明度，那么消费者对于价格差异的接受度也会增加。
　　从监管者的角度来看，国际经验是用发展技术来解决技术带来的问题。＂尽量通过制定恰当的治理机制，通过机制实现取长补短。＂沈艳认为，大数据杀熟等问题是平台提升服务过程中产生的副产品，在治理时不适合一刀切，更不应妖魔化。
　　因此，短期来看，监管部门要推动平台建立更清晰的规则，加大治理人为的信息不对称，将治理结果公之于众，让公众理解这些问题有着相应的投诉和处理机制。而从长期来看，增加可解释性与透明度，推动算法审计是非常关键和重要的一步。
　　沈艳解释：＂算法审计就是指搜集算法在特定环境中使用时表现的数据，然后评估算法是否对某些利益产生负面影响，从而判断算法本身的好坏，是否需要做出相应的调整。＂
　　沈艳表示，算法审计可以帮助判断算法是否合法合规，评估算法的透明度与可解释性，以及数据安全和信息保护等方面。
　　沈艳建议，国家需要建立相关部门，负责数据相关事务。＂比如说数据审查委员会或者是小组。具有一定的公信力，同时鼓励市场有新的审计公司。＂通过算法的审计帮助消费者、平台商家以及劳动者，能够对平台的实际状况有更多的认知，从而提升对平台的信任度。
　　《中国经营报》触角学院与北京大学国家发展研究院主办的＂北大国发院在线公开课系列＂达成长期战略合作，系列课程旨在为宏观经济发展、企业生存策略提供更好的建议。