36kr 07月09日 15:24
刚刚,为对抗哥大退学生开发的AI作弊器,哥大学生造了个AI照妖镜
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

本文介绍了针对AI桌面助手Cluely的反制工具Truely。Cluely是一款备受争议的AI工具,能捕捉用户屏幕内容和声音,引发了对其是否作弊的讨论。为了应对Cluely,哥伦比亚大学的学生开发了Truely,通过检测对方设备上的进程来判断是否在使用Cluely。文章还提及了Cluely对发布其提示词的Jack Cable采取法律行动的事件,引发了对安全研究者和知识共享的讨论。

🕵️Truely是一款旨在检测用户是否使用Cluely等作弊工具的软件。它通过要求对方安装软件,监控设备上的进程标识符(PID),从而判断是否正在运行Cluely。

🚨Truely的核心功能包括实时进程监控、模拟用户加入Zoom会议、自动聊天警报等。当检测到可疑进程时,会向会议聊天发送警报,提醒用户可能正在使用作弊工具。

⚠️Truely的运作方式较为繁琐,需要对方安装软件,且存在安全隐患。这使得其用户体验受到限制,但至少提供了一种对抗Cluely的可能性。

⚖️Cluely对发布其提示词的安全研究员Jack Cable采取了法律行动,引发了关于知识共享、安全研究伦理以及公司与研究人员关系的讨论。Jack Cable公布的提示词现已在X平台不可见,但在GitHub上仍有备份。

Cluely 和 Roy Lee,想必大家对这两个名字已经不陌生了。

简单来说,后者与 Neel Shanmugam 共同创办了名为 Cluely 的创业公司,而他们目前的主要业务就是一款堪称「人生作弊器」的同样名为「Cluely」的 AI 工具 —— 这是一款 AI 桌面助手,它能够看你所看、听你所听。Cluely 会以一个透明窗口的形式出现在你屏幕上的所有其他应用程序上。当你在开会时,按下「监听」或「录制」按钮,Cluely 就能捕捉麦克风和系统的声音,然后代替使用者接受采访或参加会议等。

毫无疑问,这款 AI 应用备受争议,但也同时为其赚尽了眼球 ——Roy Lee 扬言「杀死了 9 个行业」的宣传推文足足收获了超过 293 万查看次数。更多详情可以参阅我们之前的报道《扬言将杀死 9 个行业,21 岁小哥又开发人生作弊器,曾被哥大、哈佛开除》。

现在,看到 Cluely 这样的作弊工具如此成功,终于有人坐不住了。

哥伦比亚大学 Antonio Li 和 Patrick Shen(没有退学)开发了一个反 Cluely 工具Truely,它可以帮助检测与用户通话的是否是真人。

官网:https://www.true-ly.com/

代码库:https://github.com/HasflarSonto/Truely

根据其介绍视频,这款工具的原理其实并不复杂。

如果用户希望知道正与自己视频通话的人是否「作弊」,需要先打包一个应用发送给对方并且让对方安装在自己的设备上。这个应用会检测对方设备上的 PID(进程标识符)会回传相关信息,而一旦检测到 Cluely 进程,Truely 就会发送警报信号。

更具体而言,其核心功能包括:

实时进程监控:持续监控可疑进程(在 config.py 中设置);

双人加入 Zoom 会议:自动以机器人身份加入会议并为用户打开 Zoom 应用;

自动聊天警报:检测到可疑进程时,向会议聊天发送实时警报;

自动介绍消息:机器人向会议聊天发送一系列介绍消息,包括监控密钥和受监控应用程序列表;

基于聊天的远程关机:监控聊天中的「Truely End」命令,以允许远程终止监控;

正常关机:使用统一关机系统正常离开会议并在退出时清理资源。

很显然,这个过程过于繁琐了,而且还必须要求对方安装软件 —— 随便安装别人发送的软件也并不安全(即便该软件宣称会在退出时自动清理)。

当然,也自然有不少人称赞这是个好应用。

开发这个应用的开发者也很棒。

也有人打趣地问他们是否退学:

总体而言,这款刚刚诞生的应用可能体验还不太好,但至少针对 Cluely 这样的作弊工具,我们已经有了可行的反制手段。

有意思的是,就在 Truely 诞生的几乎同一时间,CorridorSecure CEO 和联合创始人、「有道德的黑客」Jack Cable 发推称被 Cluely 告了。

具体来说,Cluely 向 𝕏 提交了一份 DMCA(数字千年版权法)申请,要求其删除 Jack Cable 之前发布的一条推文 —— 在该推文中,他公布了逆向工程得到的 Cluely 的提示词。Cluely 方面给出的理由是其中包含「专有源代码」。

Jack Cable 愤怒地表示:「对安全研究者发出法律威胁并不是什么好事,我希望 Cluely 反思这一点,并向研究人员敞开大门。」

现在 Jack Cable 公布的这些提示词已经在 𝕏 上不可见。

不过,幸运的是,在 GitHub 上还有备份:

https://gist.github.com/cablej/ccfe7fe097d8bbb05519bacfeb910038

想要研究学习的可以赶紧保存一份。

你是 Cluely 用户吗?或者是否会尝试使用 Truely 来对抗 Cluely?

动图截取自 Truely 宣传视频结尾

参考链接

https://x.com/pshen28/status/1942645082072678847

https://x.com/jackhcable/status/1942636823525679182

https://x.com/im_roy_lee/status/1938718987975827651

本文来自微信公众号“机器之心”(ID:almosthuman2014),作者:机器之心,编辑:Panda,36氪经授权发布。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

Cluely Truely 反作弊 AI工具 安全
相关文章