OpenAI回应“ChatGPT发疯”问题

chubbycat

OpenAI回应“ChatGPT发疯”问题
www.creaders.net | 2024-02-23 15:48:30  站长之家 | 0条评论 | 查看/发表评论

**划重点:**

1. 🚀 ChatGPT突然失控，用户纷纷曝光史上最诡异回复。

2. 🐞 OpenAI官方解释问题根源为“token预测”，已紧急修复。

3. 🧠 分析指出GPT-4故障原因可能涉及分词器问题，引发社交媒体热议。

近期，ChatGPT意外发生失控事件，用户纷纷报告收到混乱而令人震惊的回复，引起Reddit、HN等社交平台上广泛的讨论。OpenAI迅速做出回应，确认问题源于“token预测”，并表示已成功修复。

ChatGPT用户在向模型提问时，突然发现其回复变得毫无逻辑，甚至出现大篇重复的情况。这一异常现象在社交媒体上引起轩然大波，用户纷纷曝光收到的史上最诡异的回复，描述模型出现了精神错乱的状况。

社交平台上，有用户晒出向ChatGPT询问关于音乐唱片的建议，却收到不合理的回应;另一用户尝试问及旅行建议，结果模型回答变得漫无边际。更有趣的是，有用户反映GPT-4持续输出“Happy Listening!🎵”，彻底失去了理智。

OpenAI官方在第一时间确认了ChatGPT的bug，并经过加急修复后，问题得以解决。据官方解释，问题出现在2024年2月20日进行用户体验优化时，引入了一个影响模型处理语言方式的错误。具体而言，涉及到对模型选择数字的步骤，导致下一token概率预测相关的混乱。

除了官方解释外，社区中还有分析指出GPT-4的问题可能与分词器有关。Karpathy上线的一堂课中提到大模型输出怪异问题，其中分词器可能导致模型在与拼写相关任务中表现不佳。这一观点得到一些用户的支持，同时也引发了对模型训练和优化的更深层次的关注。

这次ChatGPT的失控事件引发了对大型语言模型安全性和稳定性的讨论。尽管OpenAI已迅速做出修复，但事件也提醒我们在推进人工智能技术的同时，需要更加关注模型的稳定性和潜在风险。

chubbycat

@CHATGPT 突然失控

CHATGPT

谢分享

Chat GP什么时候受控过

拔网线除外