理论前沿 • 如何规制消费者被算法“剥削” ?
2019-11-25 11:06:28
  • 0
  • 0
  • 0

来源:新金融法    原创: Wagner etc.

本文系统性地研究并解读电子商务个性化B2C(business to customer)交易模式的弊端。

第一,商业公司日益频繁地参与一级价格歧视,以便从消费者处获得收益;

第二,商业公司系统化充分利用消费者的行为偏见;

第三,商业公司使用精准目标广告和推荐内容来塑造消费者偏好,引导其进入特定的消费模式。

寻租、利用偏见及偏好塑造从形式上看互异,但拥有共同内核:商业公司利用新颖、复杂的技术手段来实现利润的最大化,从而“剥削”消费者。因此,个性化B2C交易的弊端可被视为消费者“被算法剥削”,使其失去交易盈余,从事降低福利的交易,逐渐陷入狭窄的生活空间。

对应前述三方面的问题,作者提出了自己的应对策略。首先,一级价格歧视是否会引起效率问题尚不清晰,但可以肯定的是它必然会引起分配正义问题。文章建议以向消费者发出明确提示(即消费者正在获得个性化的定价)的方式来解决,同时消费者有权利拒绝参与个性化定价的方案中。其次,消费者行为偏见并不必然会降低消费者的交易效率,但是消费者应当有机会在接受商业公司所提供的剥削性算法技术时反馈自己的选择;最后,通过精准目标的广告和建议来塑造消费者偏好,局限了消费者的购物体验,消费者有权选择退出那些可能让他们陷入困局的技术引导机制。

因为竞争性市场不会保护处于信息劣势或弱势的消费者免受剥削,所以本文所提出的监管思路是必要的。在数字时代,消费者拥有普遍意义上的“匿名权”(right to anonymity)是解决上述问题的宏观方案;如果这项权利被法律认可并保护,消费者就可以最大程度的收获个性化定价的好处,同时也能避免其中所隐藏的大多数陷阱。

01
获取利益

当一家商业公司提供相同或类似商品或服务,并向不同的消费者群体收取差异化费用时,就意味着B2C的交易中存在着价格歧视,价格的差异往往与对象有关而与成本无关。

个性化定价

价格歧视有不同的表现形式:三级价格歧视表现为不同消费者群体获得差异化价格,如个别消费者会收到优惠券;二级价格歧视表现为商业公司根据消费者所购买商品(服务)的数量或质量向不同消费者收取不同的费用;一级价格歧视表现为商业公司会根据消费者个人的喜好和价格期望而提供不同的价格。前述三类价格歧视都需要商业公司拥有足够的市场支配力(market power),从而对消费者分层并防止不同层级之间消费者的套利行为(arbitrage),例如亚马逊、谷歌、Facebook基于网络效应(network effects)而拥有巨大的市场支配力。

个性化定价评估

评估一级价格歧视并不是依靠数学运算而是取决于所选择的测量标准。为便于理解,我们可以将生产者(卖方)和消费者(买方)的总盈余作为衡量标准,从而定性地评估个性化定价及价格歧视的影响。当卖方能够确定消费者的期望价格,他们可以从交易中获得全部的交易盈余 。伴随着个性化的定价,商品的市场价格消失;当边际消费者之外群体按照市场价格来购买商品或服务时,厂商就可以获得这部分盈余。如果消费者高估自身可以从商品(服务)中获得的利益,他们的购物体验将因个性化定价而变得更糟;此时,商业公司和一部分消费者受益,而另一部分消费者将深受价格歧视之害。

另外,我们还应该考虑第二层面的影响。一方面,可能向消费者极力推销使其按照厂商的个性化定价消费,从而带来超出目标群体及失去获利交易的结果。消费者可能因为担心自己的隐私而停止消费。

精明的消费者可以使用工具软件(如比价网站)来保护自己的隐私并提高自己的议价能力,这样商业公司和精明消费者就陷入了囚徒困境。这既增加了商业公司的运营成本,又降低了消费者需求。另一方面,价格歧视可以通过增加商业公司的竞争而使消费者群体受益,比如商业公司的竞争者可以向消费者提供更低的价格,但商业公司仍然可以通过更复杂的价格歧视算法来降低自身成本,增加在与消费者博弈中的总利润。

总体而言,一级价格歧视对商业公司有利,对消费者有害,而总影响不能单纯通过实证来衡量。

消费者自救及其局限

消费者会认为价格歧视非常不公平,所以可能尝试使用自助救济的方式来避免在交易中受损,比如消费者尝试对商业公司匿名。然而,这样的自助行为必然不能完全实现消费者的预期,比如拒绝跟踪cookies来拒绝个人数据的泄露,很可能被排除在某些交易之外或是无法享受优惠价格。

消费者与商业公司之间的囚徒困境正在造成大量的无谓损失,而这部分成本在多数时候会由大多数消费者承担(精明的消费者通过复杂的自助救济避免损失也可能引起严重的公平问题)。因此,消费者的自助救济并非一级价格歧视的唯一解决方案。

可能的监管对策

自助救济工具以外的监管可能性在不同的法律领域中已经存在,如合同、反垄断、不公平贸易行为规则和税收领域。作者认为,任何监管都将有助于将算法推向“正确”的方向:促进创新并防范风险。具言之,宽松的监管措施旨在提高消费者对个性化定价的认识,披露一级价格歧视的义务有益而无害,可以有效的强化消费者的自主权。消费者有权利了解自己正在参与价格歧视的交易活动,并有权选择退出。选择退出机制将显著降低自助成本:消费者可以轻松、低成本地摆脱个性化定价的陷阱。

综上所述,针对个性化定价的提示可以作为解决厂商寻租问题的监管措施,而且消费者应当有权选择退出个性化定价服务。

02
利用偏见

消费者陷入策略化构建的理性陷阱中

消费者购物偏见是众所周知的,本文所讨论的关键问题是大数据和人工智能的兴起所带来新的监管挑战。本部分关注商业公司是否在滥用新的技术工具,从而引导消费者进入策略化构建的理性陷阱。

交易环境对消费者购物偏见的影响至关重要,比如常常吸烟的消费者想要戒烟,但他却被香烟广告所环绕,又或者是他会受到戒烟药物或口香糖治疗方法的连番轰炸。事实上,商业公司正系统地运用消费者的购物偏见,并利用其为消费者提供高度个性化的信息。大数据和智能算法为带来了严峻的挑战:它们无处不在。

理性陷阱中消费者自助救济的评估

策略化构建的理性陷阱有利于提高效率,所以很难准确评估是否需要监管以及监管干预的合理性。消费者可能会进行防御性活动(自助救济行为),但技术发展带来的问题是多方面的。首先,商业公司与消费者之间的博弈(囚徒困境下的抉择)会导致无谓的效率损失;其次,消费者所使用的防御算法工具也可能由商业公司开发或提供,致力于培养消费者的兴趣偏好;最后,这些工具往往仅被精明的消费者使用,所以这场战略游戏的失败方将是那些受到消费偏见影响最大的消费者群体。

可能的监管对策

对于不太精明的消费者们,信息披露的方式似乎也不能作为有效的补救方法,因为他们不会仔细阅读算法说明细则;个性化的“内嵌通知”可能更为有效(在消费界面屏幕中直接显示)。此外,作为消费者保护的工具,应当提供重要的救济方法:撤销权。欧洲消费者拥有这样的权利,在订立合同后拥有机会反思自己的选择是否明智。当消费者的偏见被外部利用时,撤销权的行使是正当合理的。撤销权虽不是万灵药,但市场实践显示交易趋势正在朝着这个方向发展。大多数商业公司的退货政策已经允许消费者自愿退货,所以消费者群体之间的差异扭曲不应该被肆意夸大。

03
塑造偏好

“过滤泡沫”后的消费

假如引导消费者的算法发挥着良性的作用,它们的设计是为了反馈并满足消费者的真正偏好,如此还需要担心吗?答案是需要,因为消费者们碰巧购买的商品(服务)会对个人消费者后续自身的选择范围产生严重影响。

“过滤泡沫”这一术语是在公共政策和民主选择的背景下出现的,指的是持续暴露在个性化新闻推送中,会重塑个体的政治偏好。具言之,当人们被限制在接受强化政治倾向的新闻资讯中,公共舆论就会发生变化,甚至可能对选举的结果产生影响。类似地,个性化算法可以通过搜索和呈现符合消费者偏好的信息,以加强对用户偏好的塑造。

当“过滤泡沫”延伸到市场选择中时,商业公司只提供符合消费者预期的偏好信息,这减少了多样性,并鼓励消费者被动地接受各个消费环节(无论是买书还是订餐,都将为消费者规划出符合预期的服务):第一步收集偏好信息,第二步规划下一阶段并提供报价,第三步精确算法,呈现出更窄的选择子集。这样,消费者所表达的第一个偏好将引领自己走向更加个性化的选择之路,让自己处在购物的舒适区,就如同政治主张的塑造一样,结果消费者被推向极端的消费模式中。

消费者福利的蒸发

从动态的角度看,算法虽然可以节约交易成本并提高消费者的满意度,但它缩小了消费者选择范围、限缩了消费者的世界。塑造消费者的偏好,就难免排斥新鲜事物,因为偏好是长期养成而非突然被创造;偏好具有内源性,是由之前的一系列决策逐渐衍生的。毕竟算法的设计者是一个自利的市场参与者,所以消费者更有可能被自己的偏好所操纵。这对于慢慢熟悉并习惯新技术的成年人的影响可能不会特别严重,但对于未成年人的影响格外明显。

算法诱导下的消费者需求破坏了微观经济学的基本假设(效率是基于个人偏好的最佳满足),也使讨价还价确保双方的偏好得到最佳满足的功能变得毫无意义,因为消费者几乎没有还价的余空间,所以社会福利(个人福利的总和)也变得虚无缥缈。

可能的监管对策

考虑到“过滤泡沫”的潜在危害,商业领域的个性化算法应当符合公平原则。算法应该秉持无歧视原则并引入随机性元素来缓解消费者过去选择对当前行为的限制,算法应该在专业软件工程师的帮助下完成设计,重点放在保护消费者自身的救济措施上。单纯依靠合同法下消费者的标准救济措施(个性化服务的信息披露)是不足够的,算法也应该公开透明(算法概要和参数信息同样需要被披露);消费者还应享有在个性化体验和非个性化体验之间的选择权。

04
数字化市场失灵

市场从来不是完美的,消费者也没有被完全告知全部信息。在传统市场中,卖方不了解客户的“痛点”所以无法在市场交易中取得绝对的优势地位。而在数字化市场中,对单个用户信息水平和偏好充分掌握的商业公司(卖方)可以最大程度地炮制价格歧视。此时,市场并不能提供任何保护,反而,每个人构成了自己的市场。市场保护力的减弱不仅使卖方可以进行价格歧视,还促进了卖方对消费者偏见的利用,以及从塑造消费者偏好之中获利。

05
结论

尽管个性化服务会对消费者产生有益的影响,基于大数据分析可以提高效率并优化购物体验,但个性化的光明面不应将它的阴暗面完全遮盖。首先,一级价格歧视变得可行,意味着消费者被剥夺了其可以从交易中获得的任何剩余。其次,个性化会让卖方自主、系统地利用消费者偏见并获取利益;最后,个性化算法极大地消减了消费者接触信息的多样性,最终使消费偏好被强化,每个人过着孤独、贫困的生活。

总体而言,寻租、利用偏见及偏好塑造正在给基本社会价值产生严重的负面影响。在这种背景下,本文主张轻触式(light-touch)监管,既不限制算法的应用,也为其设计施加框架;本文主张为消费者提供退出的权利,并向消费者披露个性化算法使用的情形。因此消费者有权选择退出个性化定价安排并坚持接受商业公司按市价报价;有权撤销在受销售算法影响下的自愿购物;保留在网上匿名购物的权利。

翻译:李析原

最新文章
相关阅读