https://www.neican.ai/tags/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E9%98%B2%E5%BE%A1/ Recent content in 机器学习防御 on AI内参 Hugo zh-cn Thu, 16 Oct 2025 09:10:04 +0800 https://www.neican.ai/insights/a-memguardai-20251016091004776-2/ Thu, 16 Oct 2025 09:10:04 +0800 https://www.neican.ai/insights/a-memguardai-20251016091004776-2/ A-MemGuard创新性地解决了LLM智能体记忆投毒攻击这一关键安全问题，通过“共识验证”和“双重记忆”机制，有效识别并规避恶意推理路径，攻击成功率暴降95%以上。这项技术突破不仅提升了AI智能体的可信度和鲁棒性，更将加速其在金融、医疗等高风险领域的商业化落地，为AI安全伦理治理和未来AI社会构建了坚实基石。