为了防范不实信息，苹果在其Apple Intelligence智能回复功能中增加了“反幻觉”指令。

近期，IT圈内引起热议的消息指出，在macOS 15.1测试版中，一些内部文件揭示了苹果对Apple Intelligence智能回复功能的严格管理措施。这些内部指令，采用JSON格式存储，清晰地界定了智能回复功能的工作机制。其中一条引人瞩目的指令强调：“不得捏造信息，不得产生幻觉。”智能回复作为苹果邮件应用的一项特色功能，其设计初衷是通过深度学习算法自动分析邮件内容，并生成合理的回复建议。然而，与市场上其他生成式AI工具一样，苹果的智能回复功能也不可避免地遇到了“幻觉”问题——即生成不准确或具有误导性的信息。

为了解决这一难题，苹果在系统内部设置了一系列严格规则。根据泄露的信息显示，智能回复功能被要求仅针对邮件中明确提出的询问进行回应，并提供相关的答案选项。这种方法有效地降低了AI在自动生成回复时出现错误的概率。尽管如此，业内专家普遍认为，要想彻底根除“幻觉”现象依然是一项艰巨的任务。这是因为生成式AI模型本身不具备理解文本内容的能力，因此难以精确区分信息的真实性。

本文来源： IT之家【阅读原文】