第02版:城事

版面概览

上一版   下一版  

放大  缩小  默认  上一篇 

大数据杀熟、虚假种草、算法诱导……AI时代消费风险如何避免?

专家共议消费者权益保护新路径


刚搜了某个品牌,首页就全是它的广告,价格还比朋友买的贵了一截;刷了半小时短视频,下单了一堆“种草”却根本不需要的东西……这些日常的消费烦恼,可以被称为“算法诱导”“大数据杀熟”,当AI深度介入消费决策,这些问题正在变得更复杂、更隐蔽。

4月28日,2026年第二期“提振消费 维护权益”大讲堂在上海开讲。

本次活动由上海市消保委、上海市消保基金会主办,上海静安国际中心协办,以“AI时代的消费者权益保护”为主题,汇聚政府部门、科技企业、品牌平台、法律专家等各界代表,共同探讨智能时代消费维权的新路径、新方案。

你察觉到被算法“套路”了吗?九成受访者:有

活动现场,上海市消保委发布《AI时代消费者认知与消费决策调查报告》。本次调查覆盖3200位上海市消保委公众号用户,涵盖不同年龄、收入与消费层级,数据直接、扎心。

《报告》显示,当下消费者的矛盾处境可以用“高依赖、低信任”六个字精准描述。

比如,购物时最在意“品质可靠”的受访者占76.72%,远高于“价格最低”的51.38%——这说明消费者正在变理性。

然而,消费信息获取上,60.06%的受访者主要依赖平台推荐,但超过90%的人同时感知到平台推荐存在信息偏差或算法诱导——其中46.03%“经常察觉”,44.25%“偶尔察觉”,只有9.72%的人“从未察觉”。换句话说,几乎所有人都觉得自己被算法左右过,但依赖平台推荐来购物这件事,还是没法停。

对AI智能体,消费者的态度同样是“又爱又怕”。调查显示,超过94%的受访者对AI智能体有所了解,91%以上表示愿意尝试全流程AI消费服务;但64.22%的人担心隐私数据安全,62.53%质疑AI决策的准确性,还有28.17%顾虑售后责任说不清楚。

AI时代,消费者的知情权和隐私面临新风险

昨天,市消保委同步发布《AI Agent(智能体)时代消费者权益保护展望:从对抗信息差到守护算力公平》,专门研判AI智能体时代的新型消费风险。

《展望》指出,AI智能体并不只是个更好用的搜索引擎,它正在成为替消费者做决策的“数字代理人”——帮你选品、比价、下单、维权,甚至管理你的健康档案。但与此同时,它也掌握着你最完整的个人数据画像:消费习惯、财务状况、健康信息……一旦这些数据泄露或被滥用,危害远超以往任何一次“信息泄露”事件。

商家的AI和消费者的AI,或许正在暗中较劲:商家的AI智能体可能伪造评价、设置算法陷阱,而普通消费者用的开源或免费AI智能体,往往算力有限。当大量商家的AI智能体联合定价,消费者可能连议价空间都没有,陷入“算法囚徒困境”。

责任归属也是一道难题。出了问题,是消费者的“锅”、AI智能体运营商的“锅”,还是商家或商家AI智能体的“锅”?传统的投诉、维权、诉讼路径,很难追得上这种跨平台、全自动、全周期的新型消费纠纷。

《展望》建议,从立法到监管到技术,都要同步推进:修订《消费者权益保护法》,明确消费者的“算法知情权”和“AI智能体忠实义务”;建立消费类AI智能体备案和算法公平审查机制;支持开源、中立的消费者AI工具开发,不让头部企业形成新的“数字守门人”垄断。

AI的技术便利与使用风险,必须有法治护航

在昨天的主旨分享环节,行业专家们带来了落地实践。

腾讯研究院高级研究员陈东明提到,当下“AI智能体热”中,普通用户盲目部署开源框架,很容易遭遇误操作、网络劫持乃至病毒植入;他推荐了一些适合大众的AI工具,现场展示了用AI快速研判虚假宣传视频、批量处理消费投诉等实际场景。蚂蚁阿福上海区域负责人钱馨然则聚焦健康消费,介绍了一款让中老年人也能用上的“靠谱的AI医生”。腾讯合规部门的林浩然带来更日常的应用:微信AI搜索、元宝、ima知识库、腾讯较真辟谣小程序四款轻量工具,覆盖信息查询到谣言识别,帮消费者低门槛避坑。

圆桌研讨环节,上海市律协社会服务委员会主任张磊表示,AI已在法治宣传、维权案例研究等领域发挥重要作用,律师行业也在通过规范指引防范AI使用风险,提升公众法律服务效能。

小红书广告合规中心总经理粟鑫介绍,小红书已将AI用于内容审核、AIGC标识、商品合规和投诉响应等环节,并率先对“AI托管账号”进行规制。她同时呼吁,行业应尽快建立统一的AIGC内容标识规范,让消费者一眼看出哪些内容是AI生成的。

上海市人大法制委原主任委员陆晓栋表示,AI全面融入消费生活是大势所趋,但技术红利必须有法治护航,要在鼓励创新与保护权益之间找到真正的平衡,加快推进AI领域立法和消保法修订,守护透明、公平、可问责的消费环境。

晨报记者 徐妍斐

新闻晨报

 

内 容 版 权 归 新 闻 报 社 所 有