同是一家互联网平台的用户,忠诚度较高、消费能力更强的VIP用户购买某项服务的费用却远高于新客户,甚至服务质量还不及新客户。类似这种“不同人不同价”的情况,相信不少人都遇到过。
这背后其实是算法不合理应用在“捣鬼”。
近年来,算法应用在给社会、经济发展注入新动能的同时,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序。在此背景下,国家网信办等四部门日前发布《互联网信息服务算法推荐管理规定》(以下简称《管理规定》),对“大数据杀熟”等进行规范。业界认为,《管理规定》的出台意味着算法推荐相关行业开始迈入严监管时代。
价格可“私人定制”
越是熟客价越高
记者在某消费者投诉服务平台输入“大数据杀熟”,跳出2073条投诉,投诉对象包括主流电商平台、外卖和网约车平台等。
一位在该平台投诉的消费者表示,使用某App团购用餐套餐时,同样的时间、同样的套餐,不同手机就会显示不同金额;还有消费者投诉,线上预订酒店标间时页面标价为87元/晚,可付完款后标价却下降了5元。
除了普通消费者,也有一些互联网平台的VIP会员“吐槽”并未享受更优待遇。一位消费者称,在某购物软件上购买路由器时,自己作为会员账号购买价格显示的是649元,可普通账号购买仅需要579元。
此外,记者梳理消费者投诉记录注意到,多家大型互联网服务平台均存在用户反馈“大数据杀熟”的情况。
一位从事大数据相关工作的业内人士向记者透露,当前大型互联网企业确实存在“大数据杀熟”等现象,他们除利用自身积累的数据外,还在外部采购采集数据。
为一探究竟,记者进行了一番体验。在某社交平台,用户朦朦(化名)的账号已是VIP会员,记者本人则新申请了一个账号,在同样购买一个月会员的情况下,记者仅需花费12元,且平台会再额外赠送1个月会员,朦朦却需要花费15元,平台也仅赠送15天会员。
很明显,两人被平台“区别对待”,朦朦被平台“杀熟”。
无锡数字经济研究院执行院长吴琦对记者表示,“大数据杀熟”之所以屡禁不绝,从平台商家的角度来看,熟客基本都是会员,能花钱或者通过非免费方式成为会员的用户大都是忠诚度较高、消费能力更强的用户,消费需求相对而言更加刚性,这些用户对价格相对不敏感,更注重消费效率与体验。加之平台与用户信息不对称,平台通过数据分析、页面设置、信息隐藏等方式展示高价商品,使得用户不知不觉就被“杀熟”了。
“从监管部门角度看,相关法律法规尚有待健全,特别是对于电商平台的定价标准等,导致平台大数据杀熟的违规成本偏低。”吴琦说。
“利用算法推荐对个人定制不同的信息和服务存在两个风险。”中国信息安全研究院副院长左晓栋表示,一是用户个人信息保护风险,平台运营者可能违法违规收集、滥用公民个人信息;二是算法操纵风险,因为每个人收到的信息、使用的服务由互联网平台运营者定制,有可能会引发舆论安全风险。因此,加强算法推荐管理,既是维护公民个人权益的需要,也是维护国家安全的需要。
严肃整治
促算法推荐服务健康发展
事实上,去年以来监管部门对“大数据杀熟”高度重视并出台了相关规定。
例如,2021年4月13日,市场监管总局会同中央网信办、税务总局召开互联网平台企业行政指导会指出,“实施‘大数据杀熟’等问题必须严肃整治”;2021年7月2日,市场监管总局发布的《价格违法行为行政处罚规定(修订征求意见稿)》,亦对电商平台经营者利用“大数据杀熟”等作出规定;2021年11月1日起实施的《中华人民共和国个人信息保护法》强调,不得过度收集个人信息,禁止商家通过自动化决策“大数据杀熟”。
值得关注的是,日前出台的《管理规定》明确了算法推荐服务提供者的用户权益保护要求,包括保障算法知情权,要求告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等。要求“不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为”。
“这对网络销售、生活服务、社交娱乐、信息资讯、金融服务、计算应用等领域的互联网平台企业影响较大。”吴琦表示,这些企业靠海量数据和算法,进行千人千面的智能推荐,每个用户被推荐到的商品内容不同。按照规定,用户拥有算法知情权,平台需要告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等,并明确相应的惩罚机制。
国家互联网信息办公室有关负责人表示,在互联网信息服务领域出台具有针对性的算法推荐规章制度,是防范化解安全风险的需要,也是促进算法推荐服务健康发展、提升监管能力水平的需要。
加强个人隐私保护
已有公司积极布局
记者注意到,在《管理规定》于今年3月1日正式实施前,部分投资者在沪深交易所互动平台上对相关上市公司“大数据杀熟”和收集个人信息业务等情况进行提问,有公司回复称已在积极布局。
一家电子数据收据收集企业表示,公司目前在检测取证和数据安全方面推出了执法端和企业端相关产品,专门针对Android恶意应用行为进行动态分析,全方位对App行为实时分析,如App读取用户信息、操作用户行为等分析,为个人隐私保护提供了快速和专家型的检测方案。
贵州数据宝产品研究院院长李可顺认为,通过算法驱动的公司,在《管理规定》发布实施后,用户在整个服务使用过程的干预会减少,平台算法会逐渐向合规方面调整,部分流量可能会流失,但市场竞争会更加公平。
一位为互联网平台提供数据服务的业内人士认为:“算法管理新规加持个人信息保护法,能够对相关企业产生震慑力,规范整个行业良性运行。”
国家互联网信息办公室有关负责人表示,算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公平、规范透明,促进算法推荐服务向上向善,营造更加清朗的网络空间。
“接下来,监管层、行业和企业要形成协同治理的模式。”在吴琦看来,监管部门需完善协同治理的政策法规体系,依法依规查出违法违规行为;平台企业应切实履行主体责任,建立健全相应的管理制度和技术措施。
原标题:“大数据杀熟”乱象何时休?监管重拳出击去“顽疾”