DeepSeek回应“乱回”漏洞，真相究竟如何？

异常现象引发关注

特殊字符触发异常

近期，DeepSeek出现了令人瞩目的异常情况。当用户在网页端输入特定特殊字符后，模型会偶发返回不可预期的内容。比如，在5月18日的网络反馈与独立实测中，用户在DeepSeek网页端开启快速模式、关闭联网搜索，并在空白对话框中输入包含英文左尖括号与“think”字母的字符组合后，页面出现与当前对话不相关的长文本输出。

异常输出内容多样

这些异常输出的内容涉及多个领域，包括数学、物理、线性代数、命理推演及教育学分析等。其中有完全二叉树节点计算、2x2矩阵特征向量求解等具体内容。这些奇怪的输出引发了用户的诸多猜测和担忧，使得“对话泄露”的疑虑在用户中迅速蔓延。

官方回应释疑解惑

确认为模型幻觉

5月19日傍晚，DeepSeek发布了《关于字符触发模型异常回复的说明》。经排查，官方明确表示该现象属于特殊字符引发的模型幻觉，不涉及安全问题或隐私泄露。这让此前在社交平台上出现的“串号”猜测逐步降温。

后续改进措施

公司表示，后续将通过针对性训练增强模型对特殊字符的识别与处理能力，修复相关已知问题。这一举措旨在优化模型在相关场景下的表现，让用户能够更加安心地使用DeepSeek。

技术分析与探讨

输入层机制问题

在输入层机制方面，有网络安全技术人员指出，尖括号等特殊字符在模型系统中通常具有标记或控制含义。如果网页端在输入层面对相关字符缺乏过滤、转义或限制处理，原本用于内部流程的控制符可能被直接触发，导致模型进入非标准响应路径。

开发者社区讨论

在开发者社区，也有诸多讨论。比如，有观点认为这类表达更接近结构化问答语料中的固定句式，而非自然对话生成内容。还有开发者将现象与模型在特定输入触发条件下的生成路径变化联系起来，认为在缺乏明确上下文时，模型可能更容易回退到训练阶段的高频语料结构进行补全。

相关问答

DeepSeek此次出现的异常情况是什么？

用户在网页端输入特定特殊字符后，模型偶发返回不可预期内容，涉及多领域奇怪输出，引发“对话泄露”疑虑。

官方如何回应此次异常？

官方称这是特殊字符引发的模型幻觉，不涉及安全问题或隐私泄露，后续会针对性训练增强模型处理能力。

为什么会出现这种异常现象？

可能是网页端输入层对特殊字符缺乏过滤等处理，导致控制符被触发，使模型进入非标准响应路径。

模型幻觉是怎么回事？

简单来说，就是人工智能模型在接收到非常规特殊指令、冷门字符组合时，系统逻辑运算出现短暂偏差，随机生成混乱、无意义文字内容。

如何避免触发此类异常？

尽量不要随意输入不明特殊字符、冷门代码以及内部调试指令，避免触发模型出现异常反应。

此次事件对DeepSeek有何影响？

引发了广泛关注和讨论，促使其重视并改进模型特殊字符处理能力，以保障用户体验和数据安全。