https://www.neican.ai/tags/%E6%95%B0%E6%8D%AE%E6%8A%95%E6%AF%92/ Recent content in 数据投毒 on AI内参 Hugo zh-cn Tue, 07 Apr 2026 16:40:05 +0800 https://www.neican.ai/insights/aimeta67-20260407164005902-1/ Tue, 07 Apr 2026 16:40:05 +0800 https://www.neican.ai/insights/aimeta67-20260407164005902-1/ Meta 推出 SOAR 架构，通过让 AI 学习错误率高达 67% 的合成数据，成功突破了极难推理题。这一“邪道”路线证明了 AI 可以在数据枯竭的荒原上通过自我博弈实现进化，挑战了 DeepSeek 的算力路线和 OpenAI 的纯净数据路线。 https://www.neican.ai/insights/article-20251020191007454-0/ Mon, 20 Oct 2025 19:10:07 +0800 https://www.neican.ai/insights/article-20251020191007454-0/ 大模型正面临日益严峻的“中毒”威胁，从恶意数据投毒到对抗样本攻击，其背后驱动力涵盖商业竞争、技术炫耀乃至有组织犯罪。这不仅危及模型性能与用户体验，更深远影响社会信任、公共安全乃至集体记忆，迫切需要构建全链路、自免疫的AI安全防御体系，以确保未来AI生态的健康发展。 https://www.neican.ai/insights/250aianthropic-20251011081004723-1/ Sat, 11 Oct 2025 08:10:04 +0800 https://www.neican.ai/insights/250aianthropic-20251011081004723-1/ Anthropic的最新研究揭示，大型语言模型极易受数据投毒攻击，仅250份恶意文档即可植入“后门”，挑战了业界对AI系统规模与安全性的传统认知。面对互联网语料固有的“毒性”，Anthropic正以其独特的“防爆层”哲学，通过“宪法式AI”和“宪法分类器”等技术，构建多维度的AI安全防御体系，旨在将可靠性和伦理边界内化为AI的核心能力。这不仅是技术竞赛，更是关于AI如何从人类世界学习，以及如何在未来确保其可信赖性的深远思考。 https://www.neican.ai/insights/metascale-aiai-20250627091004258-0/ Fri, 27 Jun 2025 09:10:04 +0800 https://www.neican.ai/insights/metascale-aiai-20250627091004258-0/ Meta公司斥资148亿美元收购AI数据标注巨头Scale AI 49%股份，意在巩固自身AI业务的数据基础。此举立刻引发了OpenAI和谷歌的强烈反弹，两家公司随即宣布停止与Scale AI的合作，担忧数据中立性丧失、战略信息泄露，以及模型面临数据投毒攻击的风险。这一事件凸显了AI竞争中高质量数据控制权的重要性，并可能重塑AI基础设施服务格局。