https://www.neican.ai/tags/%E6%80%9D%E8%80%83%E6%B3%A8%E5%85%A5%E6%94%BB%E5%87%BB/ Recent content in 思考注入攻击 on AI内参 Hugo zh-cn Thu, 03 Jul 2025 15:40:04 +0800 https://www.neican.ai/insights/deepmindai-20250703154004154-0/ Thu, 03 Jul 2025 15:40:04 +0800 https://www.neican.ai/insights/deepmindai-20250703154004154-0/ DeepMind的最新研究揭示，大模型在推理过程中对自身错误与无关信息缺乏“元认知”能力，且越大模型越难以自愈，甚至更易受新型“思考注入”攻击影响。这颠覆了“大模型更安全”的传统观念，对AI的可靠性、商业部署及社会信任构成严峻挑战，促使业界深思如何赋予AI真正的自省与纠错能力。