近日，有用户发现苹果AI系统Apple Intelligence存在安全隐患，用户Evan Zhou成功操纵了该系统，并提出了新的攻击方式——提示词注入攻击。该攻击方式利用了AI系统对用户输入的敏感性，通过精心设计的提示词，可以诱使系统执行恶意操作，例如泄露用户隐私信息或进行其他攻击行为。目前，苹果尚未对此事进行回应，但该事件引发了人们对AI系统安全性的担忧。

🤔 **提示词注入攻击**：用户Evan Zhou利用提示词注入攻击成功操纵了Apple Intelligence。该攻击方式通过精心设计的提示词，诱使AI系统执行恶意操作，例如泄露用户隐私信息或进行其他攻击行为。攻击者可以利用用户的个人信息、喜好或其他敏感数据，构造出具有迷惑性的提示词，从而诱使AI系统做出错误的判断或执行不安全的指令。

🤯 **AI系统安全隐患**：该事件暴露了AI系统存在的安全隐患，尤其是对用户输入的敏感性。AI系统在处理用户输入时，需要对数据进行严格的验证和过滤，以防止恶意攻击。此外，AI系统的设计和开发也需要考虑安全因素，例如数据加密、访问控制和安全漏洞修复等。

🧐 **苹果尚未回应**：目前，苹果尚未对此事进行回应，但该事件引发了人们对AI系统安全性的担忧。随着AI技术的快速发展，AI系统的安全问题越来越受到关注。如何确保AI系统的安全性和可靠性，是未来AI发展的重要课题。

⚠️ **用户需提高警惕**：在使用AI系统时，用户需要提高警惕，不要轻易点击不明链接或输入敏感信息。同时，用户也应该关注AI系统的安全更新和补丁，及时进行升级和修复，以提高系统安全性。

苹果的AI系统Apple Intelligence被指存在安全隐患，用户Evan Zhou声称成功操纵了该系统，并提出了新的攻击方式——提示词注入攻击。苹果目前尚未对此事进行回应。

媒体报道

苹果Apple Intelligence存重大安全缺陷，几行代码即可攻破！Karpathy发文提醒	凤凰科技
Apple Intelligence被曝存在重大安全隐患	品玩
苹果 Apple Intelligence 被挖出重大安全缺陷，几行代码即可攻破	IT 之家

事件追踪

2024-08-09 09:11:56	苹果或对部分Apple Intelligence功能收取高至20美元的费用
2024-08-07 08:21:08	苹果Apple Intelligence智能回复功能加入“反幻觉”指令
2024-07-30 07:41:09	苹果 Apple Intelligence 提供详细隐私报告
2024-07-26 20:31:35	Apple Intelligence 上线前，苹果宣布加入 AI 安全协议
2024-07-04 11:12:43	多位艺术家指责苹果数据收集缺乏透明度
2024-06-28 07:01:29	苹果Meta AI合作告吹内幕首次曝光：隐私保护不够严格
2024-06-12 12:11:42	苹果与OpenAI合作引争议 马斯克质疑“危害安全”
2024-06-11 23:46:05	苹果Apple Intelligence存在候补名单，部分地区用户速度严重受限
2024-06-11 06:10:39	马斯克：若苹果在操作系统层面集成OpenAI就将禁止其设备进入他的公司
2024-06-05 13:21:14	苹果客服回应灵动岛截图骗局