苹果在 macOS 15.1 测试版中发布了针对智能回复功能的一系列内部指令，要求系统“不要编造事实，不要产生幻觉”，以防止AI生成虚假或误导性信息。该功能旨在通过分析邮件内容自动生成可能的回复选项，但由于AI模型无法完全理解文本内容，因此存在生成虚假信息的风险。苹果的指令要求智能回复仅提取邮件中明确提出的问题并提供相应答案，以减少AI在生成回复时的错误。

🍎 **严禁AI编造事实**：苹果在内部指令中明确要求智能回复功能“不要编造事实，不要产生幻觉”。这意味着系统在生成回复选项时，只能基于邮件内容中明确提出的问题进行回答，避免AI自行编造信息。

🤖 **防止AI幻觉**：智能回复功能背后的技术是苹果自研的智能技术，与其他生成式AI一样，也面临着“幻觉”问题，即AI可能生成虚假或误导性的信息。苹果的指令旨在通过限制AI的自由发挥，来降低生成错误回复的风险。

📧 **基于邮件内容生成回复**：苹果要求智能回复功能仅提取邮件中明确提出的问题，并提供相应的回答选项。这将有助于确保回复内容的准确性和可靠性，减少AI在理解邮件内容时的误解。

🤔 **挑战与展望**：虽然苹果明确要求AI不要编造信息，但业内人士认为，要完全消除“幻觉”问题仍然面临挑战。因为生成式AI模型本质上并不理解文本内容，无法准确判断信息的真伪。

🚧 **未来发展方向**：苹果的这一举动表明，AI技术在应用过程中需要更加谨慎，避免出现误导性信息。未来，如何更好地控制AI模型的生成内容，并确保其可靠性和安全性，将成为一项重要的研究课题。

近日有网友在 macOS 15.1 测试版中发现苹果为 Apple Intelligence 的智能回复（Smart Reply）功能设置的一系列内部指令。这些指令以 JSON 文件的形式存在，详细规定了该功能的工作流程。其中最引人注目的是，苹果明确要求系统“不要编造事实，不要产生幻觉”。

据了解，智能回复是苹果邮件应用的一项功能，旨在通过分析邮件内容自动生成可能的回复选项，这一功能的背后是苹果自研的智能技术。然而，与其他生成式 AI 一样，智能回复也面临着“幻觉”问题，即系统可能会生成虚假或误导性的信息。

为了防止这种情况发生，苹果在系统内部设置了严格的指令。根据泄露的指令，智能回复功能被要求仅提取邮件中明确提出的问题，并提供相应的回答选项。这一做法有助于减少 AI 在生成回复时的错误。

虽然苹果明确要求 AI 不要编造信息，但业内人士认为，要完全消除“幻觉”问题仍然面临挑战。因为生成式 AI 模型本质上并不理解文本内容，无法准确判断信息的真伪。