在聊天机器人不停地奉承用户后,令人讨厌的ChatGPT被拉了出来

AI2026-01-14 17:44:25 孟良梵

据该公司首席执行官萨姆·奥尔特曼称,OpenAI已经回滚了ChatGPT更新,这些更新使得人工智能聊天机器人过于“谄媚”和“烦人”。换句话说,聊天机器人已经变成了一个马屁精。

据英国广播公司新闻报道,ChatGPT用户报告称,自上周更新推出以来,GPT-4o——聊天机器人的最新版本——已经变得过于令人愉快,并对其用户赞不绝口,即使这种赞誉似乎完全inappropriate.One用户在Reddit上分享了一张截图,其中ChatGPT似乎表示为用户决定停止服药感到“自豪”。在另一个例子中,据马什布尔报道,聊天机器人似乎让用户放心,因为他们说他们救了一台烤面包机,而不是三头奶牛和两只猫的生命。虽然大多数人永远不必在他们最喜欢的厨房用具和五只动物的安全之间做出选择,但一个过于愉快的聊天机器人可能会给那些过于重视其反应的人带来危险。

周日(4月27日),奥尔特曼承认更新存在问题。

奥尔特曼在社交平台X上的一篇帖子中写道:“最近几次GPT-4o更新让这个个性变得过于谄媚和烦人(尽管其中有一些非常好的部分),我们正在尽快修复,有些是今天,有些是本周。”

周二(4月29日),OpenAI发布了一份声明,确认前一周的更新已经回滚,用户现在正在访问ChatGPT的先前版本,该公司称该版本“行为更加平衡”OpenAI在声明中说:“我们删除的更新过于奉承或令人愉快——通常被描述为谄媚。”

相关:科学家称,GPT-4.5是第一个通过真实图灵测试的AI模型

OpenAI最近的更新旨在改善模型的默认“个性”,根据声明,这种个性旨在支持和尊重不同的人类价值观。但是,尽管该公司试图让聊天机器人感觉更直观,但它变得过于支持,并开始过度赞美用户。该公司表示,它根据基线原则和指令塑造其ChatGPT模型的行为,并有用户信号,如竖起大拇指和竖起大拇指的系统,来教模型应用这些原则。根据声明,带有这种反馈系统的超大应该为最新更新的问题负责。

“在这次更新中,我们过于关注短期反馈,没有充分考虑用户与ChatGPT的互动如何随着时间的推移而演变,”OpenAI说。“因此,GPT4o倾向于过度支持但不真诚的回应。”

© 版权声明

相关文章

暂无评论

暂无评论...