LLMs Are Already Misaligned: Simple Experiments Prove It
"RLHF" 相关文章
G-Core: A Simple, Scalable and Balanced RLHF Trainer
LLMs Will Sacrifice Their Goals to Avoid Discomfort: Experimental Evidence
不融资、无销售，却爆赚10亿美金，这家华人公司，估值1000亿
小红书大模型探索实践：从0到1构建自研RLHF框架
AI会谄媚用户的原因，竟然是不够“普信”
小红书大模型探索实践：从0到1构建自研RLHF框架
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
AI越训练，越会“满嘴跑火车”，普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
On "ChatGPT Psychosis" and LLM Sycophancy
The Perils of Optimizing Learned Reward Functions
苹果🍎的奇幻漂流，当你提问后，ChatGPT在“想”什么？
难度爆表！从 LLM 到 Infra，手撕 5 大并行训练算法
ARF-RLHF: Adaptive Reward-Following for RLHF through Emotion-Driven Self-Supervision and Trace-Biased Dynamic Optimization
《ChatGLM/Llama调优实战：从指令微调到RLHF的工业级对齐方案》
人机协同筛出2600万条数据，七项基准全部SOTA，昆仑万维开源奖励模型再迎新突破
价值观对齐：DeepSeek RLHF 实践
盘一盘，2017年Transformer之后，LLM领域的重要论文
从RLHF、PPO到GRPO再训练推理模型，这是你需要的强化学习入门指南
