以反垄断法规制“大数据杀熟”,企业如何做到算法合规?

金诚同达 金诚同达
2021-11-05 15:23 1107 0 0
我国央行行长公开表示,将发挥好与反垄断部门的监管合力,遏制滥用市场优势地位的垄断行为,积极应对算法歧视等新型垄断问题

作者:张国栋、李太阳

来源:金诚同达(ID:gh_116bfa8fc864)

近日,我国央行行长公开表示,将发挥好与反垄断部门的监管合力,遏制滥用市场优势地位的垄断行为,积极应对算法歧视等新型垄断问题。算法歧视问题再次引起了广泛关注。事实上,早在几年前,我国媒体就曾广泛报道票务预订平台“杀熟”[1]、出行服务APP针对“苹果”等不同品牌手机收取不同费用[2]等问题,这些实际上都涉及平台利用算法实施价格歧视等问题。下文针对我国对算法歧视的反垄断规制及企业合规应对予以介绍。

一、算法歧视的界定

关于算法歧视,目前最广为人知的表现形式为“大数据杀熟”。国务院反垄断委员会将“大数据杀熟”界定为“社会公众对互联网平台利用大数据和算法对用户进行‘画像’分析,从而收取不同价格等行为的概括性说法。”[3]

参考上述界定,算法歧视可理解为平台等在为用户提供‘量身定制’的商品、服务时,基于其所收集的用户数据(大数据),利用算法技术对用户进行“画像”分析,并基于该“画像”结果有针对性地对不同用户实施差别待遇或歧视待遇,其中包括价格歧视或交易条件歧视、身份或性别歧视、就业歧视、教育歧视、信贷歧视等。

关于平台实施算法歧视的具体表现形式,结合《国务院反垄断委员会关于平台经济领域的反垄断指南》(国反垄发〔2021〕1号,以下简称“平台反垄断指南”)第十七条,具体包括:(一)基于大数据和算法,根据交易相对人的支付能力、消费偏好、使用习惯等,实行差异性交易价格或者其他交易条件;(二)实行差异性标准、规则、算法;(三)实行差异性付款条件和交易方式等。

二、算法歧视的背景

算法歧视的产生与互联网技术的兴起有着直接关系。特别是随着平台经济、数字经济的到来,以算法为代表的人工智能与大数据相结合的自动化决策技术在各个领域得到广泛使用,算法日益渗透到我们生活的方方面面。平台广泛收集各种个人信息,根据消费者过去对特定商品的浏览时间、关键字的使用、搜索频率及购物历史等“足迹”、利用算法准确预测消费者的价格预期与兴趣偏好,为不同消费者推荐不同商品、确定不同价格,从而提升个性化数字购物体验、节省了选购时间。 

同时,对于平台等经营者而言,算法定价也具有相当的优势,不仅大幅降低了复杂定价、变更价格的成本,而且显著提高了定价决策的质量,实现商业利益的最大化。如果没有算法技术,经营者往往无从判断买家的支付意愿和心理预期,而借助大数据、算法技术,经营者便可通过海量数据分析了解客户具体需求和预期,针对性地为客户提出目标商品与目标定价方案,应客户需求变化优化定价策略,实施动态价格管理,最终促成交易并将定价成本降至最低。

正是由于算法具有上述优势,导致其在各个领域的应用日益扩大。但随着大数据、人工智能、算法的结合,其在产生积极作用的同时,也正在改变着许多市场和行业的竞争格局,引发了价格歧视等各种问题。

算法歧视的产生、发展有其自身的原因和背景。首先,算法具有预设的价值取向,算法无法完全摈弃设计者自身的价值取向、意图或者局限,难以完全实现中立、客观。其次,作为算法计算基础的“数据”也可能存在瑕疵,这会从根本上影响算法的计算结果。最后,技术本身的发展也具有不可预期性,特别是随着深度学习技术的发展,从输入数据到输出结果的全过程都可能形成外界无法获知的“算法黑箱”,这可能也会加剧算法歧视等问题。

随着利用算法的自动化决策在金融信贷、投保、招聘筛选、公共服务等越来越多的场景中得到运用,如果对算法歧视等问题予以放任,除了可能对消费者的知情权、选择权和公平交易权造成侵害外,还可能导致并加剧其他经济、社会问题,引发社会结构固化、资源流动受阻、加剧社会不公等。

因此,如何在充分利用算法自动化决策积极作用的同时,降低或消除算法歧视等消极作用,是现今各国加强算法规制所面临的共同背景和挑战。

三、我国对算法歧视的规制体系

我国对算法歧视的规制体系,总体而言,可分为国家战略规划、相关法律法规、技术标准等三个层次。

关于国家战略规划,如2017年发布的《国务院关于印发新一代人工智能发展规划的通知》明确提出“制定促进人工智能发展的法律法规和伦理规范”、“建立健全公开透明的人工智能监管体系,实行设计问责和应用监督并重的双层监管结构,实现对人工智能算法设计、产品开发和成果应用等的全流程监管。促进人工智能行业和企业自律,切实加强管理,加大对数据滥用、侵犯个人隐私、违背道德伦理等行为的惩戒力度。”此外,国家网信办等九部门最新发布的《关于加强互联网信息服务算法综合治理的指导意见》(国信办发文〔2021〕7号)进一步提出,利用三年左右时间,逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。

在法律法规层面,除《反垄断法》相关规定外,《电子商务法》、《个人信息保护法》等多部法规都对算法规制作出规定,具体如下表所示:

除了上述规定外,我国还颁布了大量的实施细则、政策规定。2019年12月15日发布的《网络信息内容生态治理规定》第十二条明确要求,网络信息内容服务平台采用个性化算法推荐技术推送信息的,应当设置符合法律要求的推荐模型,建立健全人工干预和用户自主选择机制等。2020年8月20日发布的《在线旅游经营服务管理暂行规定》第十五条明确规定,在线旅游经营者不得滥用大数据分析等技术手段,基于旅游者消费记录、旅游偏好等设置不公平的交易条件,侵犯旅游者的合法权益。

在技术标准体系层面,我国目前已发布《国家新一代人工智能标准体系建设指南》、个人信息及信息技术安全等一系列国家标准体系及认证监管体系。以个人信息为例,国家标准《GB/T 35273—2020信息安全技术 个人信息安全规范》对个人信息、用户画像使用等作出明确限制。按其规定,个人信息控制者在业务运营或对外业务合作中使用用户画像,不应侵害公民、法人和其他组织的合法权益……除为实现个人信息主体授权同意的使用目的所必需外,使用个人信息时应消除明确身份指向性,避免精确定位到特定个人。例如,为准确评价个人信用状况,可使用直接用户画像,而用于推送商业广告目的时,则宜使用间接用户画像。

总体而言,由于算法技术仍在不断发展,因此,相关法律规定也处在动态的变化之中,仍需持续关注。下文,我们将主要从反垄断法角度就我国算法歧视相关规制予以说明。

四、我国对算法歧视的反垄断法规制

目前,我国关于算法歧视反垄断规制最具体的规定为平台反垄断指南第十七条。该条规定专门就平台利用自动化决策机制实施差别待遇作出规定,并列明了具体的表现形式。

按照平台反垄断指南的规定,具有市场支配地位的平台经济领域经营者通过大数据和算法对交易条件相同的交易相对人实行差别待遇,如差异性定价或其他交易条件、实行差异性标准、规则、算法或实行差异性付款条件和交易方式,可能属于滥用市场支配地位、排除和限制竞争的行为,并受到反垄断法的规制。但并非所有的差异性定价、差别待遇均属于滥用市场支配地位的违法活动。在下列情形下,平台经济领域经营者实施差别待遇行为可能具有一定的正当性:根据交易相对人实际需求且符合正当的交易习惯和行业惯例,实行不同交易条件;针对新用户在合理期限内开展的优惠活动;基于平台公平、合理、无歧视的规则实施的随机性交易;能够证明行为具有正当性的其他理由。

结合上述规定来看,合法、正当地利用算法进行用户画像、自动化决策并区别对待仍然为法律所允许、鼓励。但是,超过合法、正当的范围,则可能会受到反垄断法的规制。

截止目前,我国反垄断执法机构已对多起涉及网络平台的滥用市场支配地位案件进行了查处,比如在最近国家市场监管总局查处的阿里巴巴案、美团案中,都涉及利用算法、大数据及技术优势实施滥用市场支配地位的行为。

同时,在上述案件中,反垄断执法机构除作出相应的处罚决定外,还发布了《行政指导书》要求企业整改,其中特别要求:“不得利用技术手段、平台规则和数据、算法等,实施垄断协议和滥用市场支配地位行为,排除、限制市场竞争。”“依法为消费者提供全面、真实、准确、及时的交易信息,不得违法收集个人信息和违法实施算法推荐,依法保护消费者个人信息和隐私,维护消费者利益。”

总体而言,对于网络平台经济领域算法歧视等滥用市场支配地位的查处,和其他类型的滥用市场支配地位一样,也遵循大体相同的规制思路,即界定相关市场并确定当事人具有市场支配地位,然后再分析是否存在市场滥用行为以及是否存在正当理由等抗辩事由。

在大数据和算法时代,滥用市场支配地位实施差别待遇行为的形式愈发多样、手段愈发隐蔽,导致今后对其的规制需要更多地考虑算法规则、自动化决策过程等技术性问题,这也加大了反垄断执法机构的查处难度。但这些问题并不会从根本上降低相关违法违规行为被查处、处罚的风险。

相反,考虑网络平台算法歧视对市场竞争的重大危害,反垄断执法机构日益关注这一领域的垄断行为。平台反垄断指南的颁布以及我国《反垄断法(征求意见稿)》都体现了这一点。因此,通过建立反垄断合规制度、确保算法合规,有助于平台企业在日常经营中预防、减少垄断行为,最大程度降低垄断法律风险和成本。                                         

五、企业算法合规基本要求及其对应

对于算法合规的原则和方法,国家网信办于今年8月27日发布了《互联网信息服务算法推荐管理规定(征求意见稿)》,对应用算法推荐技术[5]提供互联网信息服务的基本原则、基本管理制度作了较为全面而系统的规定。这也可以作为企业建立算法合规的一个重要参考,现将其主要内容整理如下:

当然,上述互联网信息服务算法推荐管理规定(征求意见稿)》并非最终发布的正式规定,对其后续立法动态还需关注。 

此外,算法合规只是平台企业反垄断合规的一环,为确保平台运营整体合法合规、降低风险,平台企业还需从多维度考量、并综合考虑各个相关因素所可能带来的影响。如除了算法本身合规之外,还涉及到商业模式规则、反垄断、个人信息保护、数据安全、知识产权等方面合法合规。对于各个企业而言,其各自的商业模式、业务规则、技术路径等不尽相同,具体的合规策略会有所差异,企业还需结合自身实际情况建立有效的合规体制并贯彻落实。

注:文章为作者独立观点,不代表资产界立场。

本文由“金诚同达”投稿资产界,并经资产界编辑发布。版权归原作者所有,未经授权,请勿转载,谢谢!

原标题: JT&N观点 |​ 以反垄断法规制“大数据杀熟”,企业如何做到算法合规?

金诚同达

关注金诚同达律师事务所公众号,及时获取事务所最新动态,了解法律服务

115篇

文章

10万+

总阅读量

特殊资产行业交流群
厂家证券
推荐专栏
更多>>
  • 愉见财经
    愉见财经

    倦了,归来。 我夜夜守在这里,陪你观金融江湖,有浪有风月。

  • 政信三公子
    政信三公子

    铛煮山川,粟藏世界,有明月清风知此音。呵呵笑,笑酿成白酒,散尽黄金。

  • 齐精智
    齐精智

    齐精智律师,金融、合同、公司纠纷专业律师,北大法学院北大法宝学堂特约讲师,微信号qijingzhi009。

  • 敲响法槌
    敲响法槌

    致力于法律服务,案事件研究。(公众号ID:qiao18305313373)

  • ATFX
    ATFX

    ATFX是一家国际化在线差价合约经纪商,持有多国牌照包括英国FCA、塞浦路斯CySEC及阿联酋FSRA为确保所有客户资金都受到保护。 ATFX为全球投资者提供近100种差价合约交易产品,其高效安全的出入金体验备受投资者青睐。 ATFX已在全球不同城市设立了11个办事处为客户订制专属的服务和交易支持。伦敦、利马索尔、曼谷、胡志明、阿布扎比、迪拜、马尼拉、台湾、香港、吉隆坡、新山。我们用最专业的知识和具有本地特色的语言服务当地客户。 ATFX同时也在全球获得了众多荣誉奖项,英国网上个人财富"2018年最佳无交易员平台(NDD)外汇经纪商",“2019佳外汇差价合约经纪商”,2018最佳外汇差价合约经纪商”,“2017年欧洲增长最快速外汇经纪商”“2017 最佳外汇客户服务商”“英国年度最佳经纪商”,“创意及卓越金融市场”等全球殊荣。

  • 中国破产法论坛
    中国破产法论坛

    中国人民大学破产法研究中心和北京市破产法学会秘书处负责运维的官方公益学术交流平台,与中国破产法论坛及其专题研讨会、破产法文库互补,相得益彰,砥砺思想,传播理念,促进跨部门跨领域跨地域的破产法学术交流。(公众号ID:bjbankruptcylaw)

微信扫描二维码关注
资产界公众号

资产界公众号
每天4篇行业干货
100万企业主关注!
Miya一下,你就知道
产品经理会及时与您沟通