二手平台让AI帮卖货却捅了大篓子

“AI可以是个好参谋，但不能当参谋长。”

这几天，一些在闲鱼App出物的用户，反过来开始质问平台：“我什么时候说要出这个物了？”

“闲鱼疯了吧，偷偷把我手机里的文物照片上架了！”

5月30日，一位网友发现，自己的闲鱼账号主页上，挂着一件陕西历史博物馆的镇馆之宝，唐鎏金舞马衔杯纹皮囊式银壶，并标价6000元。

荒谬的是，作为账号主人的她对此全程不知情，直到被人私信说“卖文物”，才发现自己手机的照片被闲鱼上架了。

而整场“售卖”的操盘手，是闲鱼的AI。它不仅用了文物照片，还给它定价、配售卖文案，甚至最后自动发布了售卖帖子。

图源：小红书@顾德拜

据新黄河大鱼财经报道，闲鱼方面有关负责人表示，经核查，相关商品系AI将图片识别为普通文玩商品，并生成建议标题、描述等信息，目前相关链接已由用户主动下架。

这不是个例。社交平台上有人发现，自己几个月前发的吃剩的鸡架，也被挂了上去，AI还标价5元。评论区中，不少网友都有类似遭遇。

闲鱼客服回复网友称，很多人可能是因为使用了闲鱼3月推出的新功能，闲鱼AI相机。据官方介绍，用户打开App后，如果点击拍照，5秒内AI就能识别出商品。公测不到1个月，已有超1200万用户使用了闲鱼AI相机，累计发布新增商品超5000万件。

图源：闲鱼官方小红书

但很多网友表示，照片被闲鱼上传之前，自己没有进行任何操作。而这两年，越来越多App和硬件，都在因为加入了AI功能而变得“不再好用”。比如，有美图秀秀的用户反映，自己试用了“AI免费修图”，当天就被扣了一年的AI修图费用。

AI的自动化，正在改变App和用户的关系，只是这种改变，有时会是惊吓。

01

谁动了我的相册

现在，闲鱼能售卖的物品，已经扩展到“二手食物”了。

“出一个被我喝过的蜜雪冰城杯子，进过星巴克，只使用了30分钟，爽快赠红色吸管一根，加5元给柠檬片。”这是一条网友看到的出物帖子，文末还配了一张喝空的蜜雪冰城杯子的照片。

同样上桌的还有薯条。有网友拍的薯条照片被自动上架，AI标价7元，并给出了“完整无咬痕，纸盒未压扁”的文案，甚至真有用户私聊询问“薯条多少钱”。

AI对“什么是可以拿来卖的东西”的判断，比想象中宽泛得多，只要相册里有具象物体，它都不介意替你试一试。很多网友发现，自家宠物被标了几百元拿出来售卖。

它甚至识别不出AI照片。有网友用AI生成的孩子骑猪图，被AI识别出“一只粉白相间的小香猪”，不仅标价350元，还顺手给猪做了体检，“步态稳健，精神状态良好”。

AI给的部分估价更是没有“分寸”。一网友发现，自己市价几十元的周边产品被闲鱼自动上架，还被标价几百元，最后自己被人当成了“黄牛”。还有网友拍的故宫，“差点被闲鱼用50块给卖了”。

尽管文案与配图让人啼笑皆非，但回过神来，不少用户都“觉得恐怖”。自己相册中的照片在被AI调用、配文、定价、最后被售卖的全过程，没有任何一步需要用户确认。

对此，闲鱼官方5月27日对Vista看天下表示，产品侧不存在自行打开用户相册上传照片的动作，用户反映的“自动上架”，可能是误解。

经Vista看天下实测，在闲鱼App底部有一个“卖闲置”的相机按钮，点进去会出现“闲鱼相机”入口，介绍语是“拍张照片，看看宝贝值多少”及“拍照卖闲置，一张照片就能卖”。

用户打开闲鱼相机或选择相册照片后，AI就会在1分钟内识图，生成标题文案，给出参考定价，然后直接将其上架至“闲鱼空间”。

5月31日，针对“闲鱼上架文物”一事，闲鱼客服表示，“闲鱼空间”是闲鱼的新功能，其初衷是为了帮用户突破“每天手动发布50条商品”的上限，方便用户出售更多闲置物品。

但这个“空间”的照片默认公开可见，且可能会被推送到首页或搜索结果。不管照片背景是什么，只要AI识别出一个“具象物体”，就会综合市场行情自动生成价格并上架。目前，这个功能暂不支持关闭。

客服也提到，整个过程中，平台并没有就“照片将被直接上架为商品”向用户作出明确提示。闲鱼对此也致歉，称后续将尽快加强商品上架提醒和用户确认。

从前，在闲鱼上卖东西是件颇有仪式感的事。从拍照、选图、写描述，到定价、发布，每一步都得用户亲自操作。

但在AI的加持下，这些步骤被压缩到了“拍照”这一步。“相机作为入口，一直都是二手交易平台的普遍交易方式，闲鱼这次只是通过AI提供了更多辅助。”互联网分析师张书乐说。

闲鱼相机识别后，出现的出物帖

不过，他认为，闲鱼相机目前只是个玩具，“帮不了忙、只是帮闲”。目前对于二手交易而言，AI估价应该作为一个辅助选项，而非主要凭证。

但比起“AI做得好不好”，让用户更在意的是“AI做得对不对”。AI疑似“未经我同意就操作”的体感，让很多用户不适。对闲鱼解释中提到的“误解”，不少网友并不买账，在评论区表示“我又不是不会用闲鱼”“我真的没点过‘卖闲置’按钮”。

当“让产品变得更智能”几乎是所有公司的KPI，AI是绕不开的趋势。但“让AI替用户做主”这一步，是不是走得太急了？

02

“公司应该采取最低限度索取”

“互联网最基本的思维，就是先解决有没有，再完善出现的问题。”张书乐说。

在过去20多年里，不少App是先上线、再迭代，或是功能先推出、再优化。代价可能是一个不顺手的交互，或是一个找不到的按钮，而这些都还在用户可承受的范围内。

在AI时代，对企业来说，“先上线”变得越来越重要。AI产品需要海量数据反复训练，只有获得用户的真实使用和反馈，才能不断迭代。用户既是消费者，也是AI成长的数据来源。

图源：闲鱼官方小红书

但AI产品“先上线再迭代”的前提是，用户得知道自己正在“参与”这件事。而这种“用户表示自己在不知情的情况下被AI替办”的情况，时有发生。

2024年底，有美图秀秀用户在社交平台反映，自己想体验“7天免费试用”的AI修图，结果使用之后，当天就被自动扣了218元年费。

还有用户称，自己想体验AI换脸，上传了照片建立面部档案后，发现需要付费，便不想继续了。但当她想要删除个人档案时，被客服告知，需要先花钱体验后，才能删除。

图源网络

Snapchat也走过类似的路。这款海外聊天软件在2023年推出了AI聊天机器人“My AI”，默认置顶在所有用户的聊天列表最上面，且非付费会员根本无法移除。

功能上线一周后，Snapchat在App Store的1星差评率高达67%，平均评分跌到1.67。很多用户觉得“不需要这个功能”，且怀疑其在偷偷读取用户位置信息。

这些案例的共同问题，都是在用户非自愿的情况下，产品把AI功能强推给了用户。要么默认开启，要么用一个看似无害的“试用”按钮代替了准确知情的同意。

“确认”这一步，并不只是“产品礼貌”，更是法律明确要求的。

《中华人民共和国个人信息保护法》第二十四条对“自动化决策”有专门规定，“通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式”。

但在实际应用中，不少App的隐私协议长达多页，字小得需要用放大镜看，专业信息密集，用户勾选“同意”的时候根本来不及看完，部分App还把“拒绝”按键藏在设置菜单的深处，知道它存在的人都不多。

AI生成

“AI能从一张自拍、一个定位中分析出很多用户隐私，其管控难度更大。”张书乐指出，公司通过AI深度分析用户大数据能获得商机，“但这是对用户隐私的一种‘强占’”。

而解决这些问题，需要平台方的自制力。张书乐认为，“公司应该采取最低限度索取，索取时有风险告知等前置门槛，以此来自我限制”。

平台也要平衡人与AI的关系。“AI可以是个好参谋，但不能当参谋长。”张书乐说。

与此同时，监管也应及时介入。张书乐指出，国内互联网新赛道几乎都走过一条路，先野蛮生长，再行业自律，最终监管部门一锤定音。“行业自律是个弱约束，明确监管才能真正防止越界。”

“一个好的AI功能，就如同钢铁侠里的AI管家贾维斯一样，有理有节有据，能帮大忙却也恪守边界。”张书乐说。

AI的边界，最终不是技术问题，而是产品对用户的尊重问题。