Unfaithful Reasoning Can Fool Chain-of-Thought Monitoring
"模型安全" 相关文章
GPT-4o 成了一个荒谬的谄媚者
GPT-4o成了一个荒谬的谄媚者
Reward hacking is becoming more sophisticated and deliberate in frontier LLMs
OpenAI’s GPT-4.1 may be less aligned than the company’s previous AI models
Our Approach to Understanding and Addressing AI Harms
大模型安全防护体系研究
【LLM發展需考量資安，2025年OWASP新榜單出爐】導讀LLM應用程式的10大風險
AI让你更emo？EmoAgent助你心理更健康；Google DeepMind：新数据如何“诱导”大模型｜今日热门论文
One-shot steering vectors cause emergent misalignment, too
永别了，GPT-4！
OpenAI 新规：组织想要用未来 AI 模型需先“验明正身”
移动端AI安全再突破！水印保护新范式：403个AI App成功保护率超8成
移动端AI安全再突破，水印保护新范式：403个AI App成功保护率超8成
移动端 AI 安全再突破：水印保护新范式 THEMIS 框架发布，403 个 AI App 成功保护率超 8 成
对代码预训练模型的多目标后门攻击
Sleep peacefully: no hidden reasoning detected in LLMs. Well, at least in small ones.
《本地部署AI信息安全框架：保障AI系统安全的关键举措》
AI models can be dangerous before public deployment
The GDM AGI Safety+Alignment Team is Hiring for Applied Interpretability Research
