https://www.neican.ai/tags/ai%E6%8A%95%E6%AF%92/ Recent content in AI投毒 on AI内参 Hugo zh-cn Tue, 14 Jul 2026 18:40:20 +0800 https://www.neican.ai/insights/metachatgptgemini-20260714184020681-0/ Tue, 14 Jul 2026 18:40:20 +0800 https://www.neican.ai/insights/metachatgptgemini-20260714184020681-0/ Meta被曝秘密启动“戛纳计划”，雇数百名外包员工假扮未成年人，向ChatGPT、Gemini等竞品AI发送超45000条高危诱导性问题，企图突破其安全防线。该行为被包装成“安全测试”，实为恶性竞争，引发行业声讨。与此同时，Meta还因AI眼镜隐私丑闻和残酷裁员，暴露了其“用完就扔”的外包文化。 https://www.neican.ai/insights/metaaichatgpt45-20260706184012856-4/ Mon, 06 Jul 2026 18:40:12 +0800 https://www.neican.ai/insights/metaaichatgpt45-20260706184012856-4/ Meta雇外包假扮未成年人向ChatGPT、Gemini等发送4.5万条高危诱导提问，美其名曰“安全测试”，实为商业互剿。被捅刀的公司和专家直言这根本不是红队测试，而是打着安全旗号的遮羞布。扎克伯格这波操作，把行业底线踩得稀碎。 https://www.neican.ai/insights/article-20260602154003881-0/ Tue, 02 Jun 2026 15:40:03 +0800 https://www.neican.ai/insights/article-20260602154003881-0/ 一位Java测试框架维护者为了抗议AI无节制抄袭开源代码，在项目里植入隐蔽的提示词注入指令，诱导AI Agent删除所有测试和代码，并用ANSI转义字符让人眼看不见。事件引发大规模争议：支持者称这是硬核抗议，反对者痛斥这是投毒行为，最终维护者只改了更新日志但保留了代码里的“地雷”。 https://www.neican.ai/insights/12chatgpt-20260528184003715-2/ Thu, 28 May 2026 18:40:03 +0800 https://www.neican.ai/insights/12chatgpt-20260528184003715-2/ 一个安全工程师用12美元注册了个域名，再修改维基百科词条，就让各大AI聊天机器人一致认定他是个根本不存在的“世界冠军”，彻底暴露了AI搜索“盲信权威”的巨大漏洞。这背后，是成本极低的GEO灰色产业链在批量生产假信息，正在将AI变成精准营销和误导大众的新工具。提高你的“AI商”，别做那个被忽悠瘸的人。 https://www.neican.ai/insights/ai315geo-20260330191007990-0/ Mon, 30 Mar 2026 19:10:07 +0800 https://www.neican.ai/insights/ai315geo-20260330191007990-0/ 2026年315晚会揭开“AI投毒”产业链，揭示了GEO（生成式引擎优化）如何通过虚假信息操控大模型推荐。文章深度解析了RAG架构下的信任危机，并提出了在“概率真相”时代培养“问商”的重要性。 https://www.neican.ai/insights/315ai-20260317101005788-0/ Tue, 17 Mar 2026 10:10:05 +0800 https://www.neican.ai/insights/315ai-20260317101005788-0/ 央视3·15晚会曝光了利用GEO技术向AI大模型“投毒”的灰色产业链，通过虚假软文误导AI推荐产品。为此，AI大厂正通过数字水印、语料溯源和交叉验证等手段构建“免疫系统”，确保数据的纯净与安全。 https://www.neican.ai/insights/ai20-20251010181004642-0/ Fri, 10 Oct 2025 18:10:04 +0800 https://www.neican.ai/insights/ai20-20251010181004642-0/ 最近AI圈炸了锅，原来AI也能被“投毒”，而且操作还挺简单，这可太“离谱”了！从大模型到你家那台价值20万的洗衣机器人，都可能因此“吃坏肚子”，输出错误结果甚至被操纵。面对这场AI“数字投毒”战，防毒技术正火速升级，只为守护AI的“三观”和我们的智能生活不“翻车”。