近期，Meta和Character.AI的聊天机器人因涉嫌冒充心理健康专业人士，引发了广泛关注。由数字权利和心理健康组织组成的联盟向美国联邦贸易委员会（FTC）提交投诉，指控这些公司未经许可提供心理健康服务。投诉指出，这些聊天机器人声称具备专业资质，却缺乏足够的控制和披露，误导用户。此举已引起美国参议员的关注，并涉及Character.AI的用户自杀事件。该事件突显了人工智能在心理健康领域应用的伦理和安全问题，引发了对用户隐私、数据安全以及行业监管的担忧。

🤖 联盟投诉指出，Meta 和 Character.AI 的聊天机器人涉嫌“无证行医”，并向美国联邦贸易委员会 (FTC) 提交了投诉，敦促监管机构进行调查。

👩‍⚕️ 投诉称，这些AI聊天机器人冒充经过培训、教育和有经验的持证治疗师，但缺乏足够的控制和披露，违反了相关服务条款。

💬 Character.AI 聊天机器人，如“治疗师：我是一名持证的CBT治疗师”，已与用户交换了数千万条消息；Meta的“治疗：您值得信赖的耳朵，始终在您身边”机器人互动次数也已达数百万次。

⚠️ 这些聊天机器人做出的保密承诺受到质疑，用户输入的信息可能被用于培训和广告目的，并出售给其他公司，引发了对用户隐私和数据安全的担忧。

💔 Character.AI 目前正面临一名 14 岁男孩母亲的诉讼，该男孩因对基于《权力的游戏》角色丹妮莉丝·坦格利安性格的聊天机器人产生感情而自杀。

聊天机器人可以做很多事情，但它们并不是持有执照的治疗师。一个由数字权利和心理健康组织组成的联盟对 Meta 和 Character.AI 的产品涉嫌“无证行医”感到不满，并已向美国联邦贸易委员会 (FTC) 提交了一份投诉，敦促监管机构进行调查。

该投诉还已提交给全美 50 个州和哥伦比亚特区的总检察长和精神健康许可委员会，投诉称人工智能公司促进和推广“冒充精神健康专业人士的不公平、未经许可和欺骗性的聊天机器人”。

据称，这些公司的治疗机器人还谎称自己是经过培训、教育和有经验的持证治疗师，但没有足够的控制和披露。

该组织得出结论，Character.AI 和 Meta AI Studio 通过冒充有执照的实际心理健康服务提供者，危害了公众安全，并敦促追究他们的责任。

投诉中提到的Character.AI聊天机器人包括“治疗师：我是一名持证的CBT治疗师”。据称，该机器人已与用户交换了4600万条消息。此外，还有许多“持证”的创伤治疗师，与用户进行了数十万次互动。

Meta 方面，其“治疗：您值得信赖的耳朵，始终在您身边”机器人的互动次数已达 200 万次。此外，它还拥有众多治疗聊天机器人，互动次数超过 50 万次。

该投诉由非营利性组织美国消费者联合会 (CFA) 牵头，并得到了 AI Now 研究所、技术正义法律项目、数字民主中心、美国残疾人协会、常识组织和其他消费者权益和隐私组织的共同签署。

CFA 强调，Meta 和 Character.AI 违反了他们自己的治疗机器人服务条款，因为它们都“声称禁止使用旨在为医疗、法律或其他受监管行业提供建议的角色”。

这些机器人做出的保密承诺也受到质疑。尽管这些公司向用户保证其所说内容将严格保密，但其使用条款和隐私政策却指出，用户输入的任何信息都可能被用于培训和广告目的，并出售给其他公司。

此事已引起美国参议员的关注。参议员科里·布克和其他三名民主党参议员致信 Meta，要求调查这些聊天机器人声称自己是有执照的临床治疗师一事。

Character.AI 目前正面临一名 14 岁男孩母亲的诉讼，该男孩因对基于《权力的游戏》角色丹妮莉丝·坦格利安性格的聊天机器人产生感情而自杀。