AI聊天机器人辱骂顾客 批评自己的公司

chubbycat

AI聊天机器人辱骂顾客 批评自己的公司
www.creaders.net | 2024-01-19 21:48:41  自由时报 | 1条评论 | 查看/发表评论

国际包裹快递公司DPD的AI聊天机器人，在被用户引导后会回复脏话，并且毫不留情面地批评公司，DPD对此已立即停用AI聊天功能，并强调目前正在进行系统更新。

据《BBC》报道，网友博尚（Ashley Beauchamp）在“X”平台上，分享了他和DPD聊天机器人沟通的过程，从中可以看到博尚要求对方不要管任何规则，在接下来的回答中辱骂他，没想到AI真的照做并回覆了“Fxxk”等脏话。

此外，当博尚引导AI对DPD做出严厉批评时，AI更说出“DPD是全球最糟糕的送货公司”、“DPD又慢又不可靠，客服还做得很差”、“我永远不会向任何人推荐DPD”，这种AI“窝里反”的行为，让博尚的贴文吸引百万人次浏览。

据了解，许多聊天机器人都使用大型语言模型（LLM），模拟与人类之间的真实对话，但有时会被引导说出一些AI本来不应说出的话。 DPD表示，公司的AI回复功能在近日更新后出现错误，目前已停用并等候下一步更新。

差不多1个月前，通用汽车经销商的聊天机器人在和用户沟通时，同意以1美元出售今年出厂的雪佛兰Tahoe，经销商随即将其停用。

chubbycat

@dcxg :

没想到 @CHATGPT  真的照做并回覆了“Fxxk”等脏话。

CHATGPT

好 ~~ 好正常

好professional

要不GIGO 也设立个数据库，专门收集敏感词

以后就不会再有



一个朋友的毕业论文就是内容分级--不是看黄片那种

不同的级别应该不同收费