苹果在iOS 18.1开发者测试版中首次推出了个人智能化系统Apple Intelligence，其中写作工具Writing Tools引发争议。该工具旨在帮助用户改写、校对和摘要文本，但当用户处理包含脏话、毒品、杀人等敏感内容时，系统会发出警告，提示AI生成的建议内容质量可能不高。有网友测试发现，Writing Tools改写脏话时效果不佳，甚至出现字对字翻译的尴尬情况。苹果表示，该工具并非为处理这类内容而设计，并可能通过禁止AI处理某些单词、主题和语调来避免争议。

🍎 **Writing Tools在处理敏感内容时存在缺陷:** 当用户尝试改写包含脏话、毒品、杀人等敏感内容的文本时，系统会发出警告，提示AI生成的建议内容质量可能不高。 例如，有网友测试发现，Writing Tools改写“Let’s fxxx daddy”这句话时，AI生成的結果完全是字对字翻译，效果不佳。这表明，Writing Tools在处理这类内容时，可能缺乏足够的训练数据和算法，导致生成的建议内容质量低下。

🍎 **苹果可能通过限制AI处理范围来解决争议:** 面对争议，苹果可能会采取措施来避免Writing Tools在处理敏感内容时引发问题。 一种可能的方案是禁止AI在重写句子时处理某些单词、主题和语调。例如，苹果可能会建立一个敏感词库，当AI遇到这些词语时，就会发出警告，提醒用户不要使用该工具进行改写。 另一种方案是加强AI的训练数据和算法，使其能够更好地理解和处理敏感内容。例如，苹果可以收集更多包含脏话、毒品、杀人等内容的文本数据，并利用这些数据训练AI，使其能够生成更加准确和合理的建议内容。

🍎 **Writing Tools并非为从头开始生成新内容而设计:** 苹果强调，Writing Tools主要用于改写、校对和摘要现有的文本内容，并非为从头开始生成新内容而设计。 这意味着，用户不能指望Writing Tools能够像ChatGPT那样，根据用户的指令生成全新的文章或故事。Writing Tools更适合用于对现有文本进行润色和优化，例如修改语法错误、调整语气、简化句子等。 苹果希望Writing Tools能够帮助用户更有效地进行写作，但同时也要提醒用户，该工具并非万能，在使用过程中需要注意其局限性。

🍎 **苹果在AI领域持续探索，但仍面临挑战:** 除了写作工具，苹果还推出了其他AI功能，例如Siri的新功能、邮件的新功能、照片的新功能等。 苹果在AI领域持续探索，但仍面临挑战。例如，Writing Tools引发争议，表明苹果在AI伦理和安全方面的研究还有待加强。 此外，苹果的AI功能目前仅面向开发者开放，未来是否能够面向更广泛的用户群体，以及如何应对用户反馈，都是需要苹果认真思考的问题。

🍎 **苹果未来将推出更多AI功能，但仍需谨慎:** 苹果计划在明年推出更多AI功能，包括图像创作功能Image Playground、创建应景Genmoji、通知功能Priority Notifications、具有屏幕感知功能的更强大Siri等。 这些功能的推出，将进一步提升iPhone和iPad的智能化水平，但也需要苹果更加谨慎地考虑AI伦理和安全问题，避免出现类似Writing Tools这样的争议。 苹果需要平衡创新和责任，确保AI技术的应用能够为用户带来真正的价值，同时避免对社会造成负面影响。

本文作者：李丹

来源：硬AI

上周苹果的个人智能化系统Apple Intelligence通过iOS 18.1的开发者测试版首次落地iPhone等苹果设备。IPhone人工智能（AI）的首批功能之一——写作工具Writing Tools才亮相一周就引发争议，遭到网友吐槽。

据苹果介绍，Writing Tools让用户能在几乎任何场景下对文本进行改写、校对和摘要，包括邮件（Mail）、备忘录（Notes）、Pages 文稿和各类第三方App。曾有网友展示，该工具可以把对话中语气生硬的话修改得更加委婉。但有媒体指出，当用户处理某些主题时，该工具会向用户展示，AI 生成的建议内容可能质量不高。

具体来说，当用户需要重新调整文本时，几乎可以在新iOS系统的任何地方调用Apple Intelligence，但如果尝试改写包含脏话的段落或者句子，就会看到一条系统警告，告知用户：“Writing Tools 不是为处理这种类型的内容而设计的。” 系统通过这种文本警告用户，AI重写的内容质量可能会和原文有所不同。

在社交媒体X，有用户发布了以下短视频展示用Apple Intelligence改写短信“Let’s fxxx daddy”这句话，AI生成的结果“不忍直视”，完全是字对字翻译，改成要和老爸性交。

这个帖子下面，有网友热评称AI改写内容“有毒”，有人称很尬，有人讽刺说，苹果这是添加了什么街头AI来嘲讽Siri吗。还有网友称，想象下，你真把改写的这话发出去会怎样。

改写脏话不是唯一会让iOS系统发出警告的情况。如果用户的内容提及毒品、杀人或谋杀也会出现这类警告，比如媒体展示的以下截图警告。

有媒体称，当用户使用未经训练的单词或短语时，Apple Intelligence 也会显示句子建议警告。其提到，有一次在试用AI写作工具时，该媒体的人士将“sh***y”一词用“crappy”替换，想通过这种方法让AI警告消失，但AI 工具返回的建议警告与未替换前完全相同。对此，该媒体已要求苹果提供更多信息，说明协作工具没有接受哪些主题的训练。

媒体认为，苹果可能会通过禁止 AI 在重写句子时处理某些单词、主题和语调来避免任何争议。无论如何，Apple Intelligence 驱动的写作工具并不适用于从头开始生成新内容。苹果希望当 AI 正在查看原文词语时向用户发出警告。

除了被曝引起争议的写作工具，苹果上周还发布了一些AI功能，包括：Siri的新功能，让Siri能在文本和语音间任意切换，能回答如何使用iPhone等苹果设备的数千问题；邮件的新功能，邮件有紧急电邮区、提供邮件全文摘要；照片的新功能，用户可用日常语言查找照片、输入文本后AI可利用照片制作影片，以及语音可转录为文本并生成摘要。

还有不少苹果在今年6月全球开发者大会（WWDC）上介绍的AI功能未上线，苹果称将在明年上线，包括图像创作功能Image Playground、创建应景Genmoji、通知功能Priority Notifications、具有屏幕感知功能的更强大Siri，同时，苹果还未将Chat GPT接入iPhone和iPad的AI。而且，目前的iPhone AI只有注册开发者能体验。明年如果苹果上线更多AI功能，并面向更多用户，可能会有更多吐槽。

本文来自微信公众号“硬AI”，关注更多AI前沿资讯请移步这里