Therapist in the Weights: Risks of Hyper-Introspection in Future AI Systems
"模型对齐" 相关文章
Anthropic分析了70万条Claude对话，发现AI已形成自有价值观
杜梦楠团队Patterns：蛋白质多模态建模新进展——LLM与几何深度模型的对齐优化 | Cell Press论文速递
2030 年 AGI 到来？谷歌 DeepMind 写了份「人类自保指南」
Fine-tune large language models with reinforcement learning from human or AI feedback
Finding Emergent Misalignment
ChatGPT后训练方法被OpenAI离职联创公开，PPT全网转～
推理时也能做偏好优化，无需额外重训练，来自上海AI Lab港中文等
推理时也能做偏好优化，无需额外重训练，来自上海AI Lab港中文等
2025.02.04 | DAAs性能提升，OmniHuman动画优化。
2025.01.22 | Agent-R提升语言模型实时纠错能力，MMVU评估多学科视频理解专家级表现。
对Apollo Research AI安全报告的解读与评论
直播预告 | 上海交大 & 北京大学：大语言模型安全与对齐前沿进展
Meet SynPO: A Self-Boosting Paradigm that Uses Synthetic Preference Data for Model Alignment
Building Safer AI from the Ground Up: Steering Model Behavior via Pre-Training Data Curation
类人神经网络再进一步，DeepMind最新50页论文提出AligNet框架：用层次化视觉概念「对齐」人类
AI创业者李博杰：小公司也能做RL，过几个月可能出现o1开源平替
看 LLM 失智集锦，AI 大牛 Karpathy 用表情包解释“9.9<9.11”
冰毒配方脱口而出，过去时态让GPT-4o防线崩塌！成功率从1%暴涨至88%
The Hidden Danger in AI Models: A Space Character’s Impact on Safety
