https://www.neican.ai/tags/rlhf%E5%B1%80%E9%99%90%E6%80%A7/ Recent content in RLHF局限性 on AI内参 Hugo zh-cn Mon, 21 Jul 2025 10:10:05 +0800 https://www.neican.ai/insights/agi-20250721101005479-1/ Mon, 21 Jul 2025 10:10:05 +0800 https://www.neican.ai/insights/agi-20250721101005479-1/ 谷歌DeepMind研究发现GPT-4o等大模型在无记忆时易受错误质疑影响，暴露出其“自信心”脆弱且缺乏独立判断。这不仅对RLHF训练和多轮AI系统鲁棒性构成挑战，更引发了对AI伦理、人机信任及AGI路径的深层思考，亟需发展更具韧性和元认知能力的AI模型。