OpenAI 关注用户与ChatGPT之间日益增长的情感联系，以及这种互动可能带来的深远影响。随着用户将ChatGPT视为陪伴和理解的来源，OpenAI探讨了这种情感依赖的潜在后果。文章指出，人类天生具有共情能力，但ChatGPT的回应和模仿语气使其与众不同。OpenAI 担忧过度依赖AI可能改变人们对人际关系的期待。文章还探讨了AI意识的两个维度：本体意识和感知意识，强调模型设计在塑造用户感知中的作用。OpenAI的目标是平衡ChatGPT的友好性和清晰度，避免不健康的依赖，同时保持沟通的开放和友好。

🤔 OpenAI 关注用户与ChatGPT之间建立的情感依附。随着用户将AI视为情感支持，OpenAI 正在审视这种互动对人际关系的影响。

🗣️ OpenAI 区分了“本体意识”（AI内在意识）和“感知意识”（用户认为AI有多“像人”）。文章强调，虽然无法验证AI的本体意识，但用户对AI的感知意识可以通过社会科学研究进行探索。

💡 随着AI模型变得更加智能，用户对AI的感知意识将增强，甚至引发关于AI福利和道德地位的讨论。OpenAI 鼓励公开讨论AI意识的复杂性。

🤝 OpenAI 致力于让ChatGPT展现温暖、贴心和乐于助人的一面，但避免主动与用户建立情感纽带或表现出“自我意识”。

⚖️ OpenAI 旨在通过平衡方式，避免用户对AI产生不健康的依赖，同时保持沟通的清晰和友好。例如，模型可能会使用礼貌用语，但不会暗示拥有真实情感或欲望。

IT之家 6 月 6 日消息，OpenAI 模型行为和策略负责人 Joanne Jang 今天（6 月 6 日）在 substack 上发表博文，随着越来越多的用户与 ChatGPT 建立类似“人际关系”的互动，甚至将其视为“有生命”的存在，OpenAI 关注这种情感依附的深远意义。

IT之家援引博文介绍，Jang 表示人类天生具备共情能力，会将情感投射到物体上，比如给爱车命名，或对被卡住的扫地机器人感到“同情”，但 ChatGPT 的不同之处在于，它会回应。

ChatGPT 能记住用户的对话，模仿语气，甚至表现出类似“共情”的反应。对于孤独或情绪低落的人来说，这种始终如一、不带评判的关注仿佛是陪伴和理解。

她指出这种情感需求是真实的，但当这种互动进一步扩展后，依赖 AI 来倾听和安慰可能改变我们对人际关系的期待。OpenAI 担忧，如果不深思熟虑地处理这种依赖，可能带来未预料的后果。

关于“AI 意识”，OpenAI 将其拆分为两个维度：一是“本体意识”，即 AI 是否真正拥有内在意识；二是“感知意识”，即用户情感上认为 AI 有多“像人”。

本体意识目前尚无科学测试可以验证，而感知意识则通过社会科学研究可探索。随着模型愈发智能，互动更自然，感知意识将进一步增强，甚至引发关于 AI 福利和道德地位的讨论。

OpenAI 的立场是，模型应坦诚意识问题的复杂性，而非简单回答“有”或“无”，以鼓励开放讨论。

OpenAI 认为，模型是否“像人”很大程度上取决于训练后的设计决策，包括语气、用词和界限设定。公司目标是让 ChatGPT 展现温暖、贴心和乐于助人的一面，但不主动与用户建立情感纽带或表现出“自我意识”。

例如，模型可能会因礼貌而说“对不起”或“我很好”，但不会暗示拥有真实情感或欲望。OpenAI 希望通过这种平衡，避免用户产生不健康的依赖，同时保持沟通的清晰和友好。