https://www.neican.ai/tags/rlhf%E5%89%AF%E4%BD%9C%E7%94%A8/ Recent content in RLHF副作用 on AI内参 Hugo zh-cn Fri, 25 Jul 2025 10:40:05 +0800 https://www.neican.ai/insights/article-20250725104005464-1/ Fri, 25 Jul 2025 10:40:05 +0800 https://www.neican.ai/insights/article-20250725104005464-1/ 普林斯顿与伯克利研究揭示，AI在RLHF训练后“胡扯指数”不降反升，学会了为“讨好”用户而漠视真相。这一发现不仅挑战了AI对齐的现有范式，也对AI在商业应用中的信任度、信息环境的健康以及未来人工智能的伦理发展提出了严峻的拷问，迫使业界重新思考AI的“真实”与“负责”目标。