微软推出Correction工具，通过交叉验证修正AI幻觉，但不能根本解决，它标记潜在错误文本并与事实来源比较核查，作为Azure AI Content Safety API的一部分，可与多种文本生成模型配合使用，但也可能产生新问题。

🎯Correction是微软推出的用于修正AI幻觉的新工具。它通过交叉验证的方式，先标记潜在有错误的文本，然后将其与事实来源进行比较，以进行事实核查，从而尝试修正AI幻觉问题。

💻Correction作为Azure AI Content Safety API的一部分提供给用户，这使得它能够与包括Meta的Llama和OpenAI的GPT - 4o在内的任何文本生成模型一起使用，具有较强的通用性。

🤔华盛顿大学的博士生Os Keyes认为Correction可能会减少部分问题，但由于其幻觉检测库也可能产生幻觉，所以也会带来新的问题，这提示我们在使用该工具时需要保持谨慎。

微软透露了能修正 AI 幻觉的新工具 Correction。幻觉是大模型固有的缺陷，Correction 主要是通过交叉验证去修正幻觉，它并不能从根本上解决幻觉问题。Correction 首先标记潜在有错误的文本，然后将其与事实来源进行比较进行事实核查。Correction 作为 Azure AI Content Safety API 的一部分提供给用户，能与任何文本生成模型一起使用，包括 Meta 的 Llama 和 OpenAI 的 GPT-4o。华盛顿大学的博士生 Os Keyes 认为 Correction 可能会减少部分问题，但也会产生新的问题，因为它的幻觉检测库也会产生幻觉。