WWS及Bunnings被点名要为AI客服负责

随着生成式AI聊天机器人逐渐成为客服标配，澳洲零售商正面临法律新挑战。

法律专家与监管机构明确警告，企业必须对其人工智能提供的信息全权负责，任何误导消费者的言论都可能触犯法律。

目前，Woolworths、Kmart及Bunnings等零售巨头已率先引入更具亲和力、创造性的生成式AI。

尽管商家设置了重重“护栏”以防对话偏离轨道，但该技术自带的不可预测性，仍让合规风险如影随形。

考虑在在线支持中使用生成式AI的零售商需要在便利性与该技术臭名昭著的不可预测性之间取得平衡。

实际上，AI“翻车”事件已屡见不鲜。Woolworths的机器人Olive曾因幻谈虚构母亲并报错售价引发不满；Bunnings的机器人则曾违规提供需专业资质的电力维修指南。

在海外，加拿大一航空公司因AI承诺错误折扣被判赔偿，英国甚至有店主因AI乱给折扣被客户告上法庭。

这些案件的核心逻辑在于：聊天机器人提供的信息，在法律上等同于公司官网发布的信息。

Lander & Rogers律师事务所数字经济业务负责人Matthew McMillan表示，零售商必须为AI的错误或误导性信息承担违规责任，绝不能将其归咎于“AI的独立行动”。

他指出，法律关注的是行为对消费者的实际影响，而非信息由谁传达。如果AI给出清晰自信但错误的信息，即使背景中有微小的免责声明，也未必能免除零售商的法律风险。

此外，AI的冒犯性言论还可能引发歧视投诉或诽谤指控。

Matthew McMillan进一步强调，退款与换货是风险最高的领域。一旦AI歪曲了澳洲消费者法规定的法定权利，零售商将面临巨额处罚。

Bunnings的AI展示了对消费者保障的扎实理解，但聊天机器人因根据上下文给出不同答案而臭名昭著。

近年来，澳洲竞争与消费者委员会（ACCC）已针对退款违规行为，对Valve、Sony及Booktopia等公司处以数百万澳元的罚款。2024年，Qantas更因预订违规被重罚超过1亿澳元。

ACCC发言人对此重申，企业需评估AI系统的误导风险，并确保所有技术均符合用途。

如果通过AI提供了误导性信息，企业应建立系统为消费者提供救济途径。感到被误导的客户应及时向公司或当地消费者保护机构投诉。

面对风险，各家零售商态度不一。Bunnings首席信息官Genevieve Elliott表示，其AI已支持了数千次对话，公司会持续监控客户反馈以确保其可靠性。

Woolworths则强调，AI系统在受控参数内运行，并已告知客户“系统可能会出错”。

然而，目前的AI客服表现依然参差不齐。在最新测试中，Myer、JB Hi-Fi等公司的机器人对核心问题选择“避而不谈”或转接人工；Bunnings机器人表现尚可，但Kmart的系统却频繁出现故障代码，其智能化水平仍有待观察。