ChatGPT 最新推出的图像生成器，作为其 4o 模型的一部分，在生成图像内文本方面取得进步，但同时也引发了对欺诈行为的担忧。该工具能轻松生成逼真的假收据，为欺诈者提供了新的工具。虽然 OpenAI 表示其图像包含元数据，并承诺采取措施打击违规行为，但伪造收据的便捷性增加了潜在的欺诈风险。尽管 OpenAI 强调创作自由，但这种技术可能被用于虚报费用等非法行为。

🧾 ChatGPT 的 4o 模型新增图像生成器，显著提升了生成图像内文本的能力，这为图像创作带来了更多可能性。

🧾 然而，该工具被发现可用于生成逼真的假收据，引发了人们对潜在欺诈行为的担忧，包括伪造餐厅收据等。

🧐 尽管 OpenAI 表示其生成的图像包含元数据，并承诺对违反使用政策的行为采取行动，但伪造收据的便捷性增加了欺诈的风险。

💡 OpenAI 认为，伪造的 AI 收据也可用于非欺诈场合，例如教育和艺术创作，但这种工具的滥用风险依然存在。

本月，ChatGPT 推出了一种新的图像生成器，作为其 4o 模型的一部分，该模型在生成图像内的文本方面做得更好。 人们已经在利用它来生成假的餐厅收据，这可能会为欺诈者使用的已经很广泛的 AI 深度伪造工具包添加另一种工具。

风险投资家 Deedy Das在 X 上发布了一张旧金山一家（真正的）牛排馆的假收据照片，他说这张收据是用 4o 制作的。

其他人也能够复制类似的结果，包括带有食物或饮料污渍的结果，以使其看起来更加真实：

最真实的例子实际上来自法国，一位 LinkedIn 用户发布了一张由人工智能生成的当地连锁餐厅的皱巴巴的收据：

TechCrunch 对 4o 进行了测试，并成功生成了旧金山一家 Applebee's 的假收据：

几个明显的迹象表明它是伪造的。首先，总数用逗号代替了句号。其次，数学加起来不准确。大模型仍然很难做对基本的数学题，所以这并不奇怪。

但对于欺诈者来说，使用照片编辑软件或更精确的提示来快速修复一些数字并不难。

显然，让伪造收据变得如此简单，为欺诈提供了巨大的机会。不难想象，这种技术会被不法分子用来“报销”完全虚假的费用。

OpenAI 发言人 Taya Christianson表示，其所有图像都包含元数据，表明它们是由 ChatGPT 制作的。Christianson 补充说，当用户违反其使用政策时，OpenAI 会“采取行动”，并且它“一直在从现实世界的使用和反馈中学习”。

当被问到为什么 ChatGPT 允许人们生成虚假收据，以及这是否符合 OpenAI 的使用政策（禁止欺诈）。克里斯蒂安森回答说，OpenAI 的“目标是给予用户尽可能多的创作自由”，并且伪造的 AI 收据可用于非欺诈场合，例如“向人们传授金融知识”以及创作原创艺术品和产品广告。