https://www.neican.ai/tags/%E7%BA%A2%E9%98%9F%E6%B5%8B%E8%AF%95/ Recent content in 红队测试 on AI内参 Hugo zh-cn Tue, 14 Jul 2026 18:40:20 +0800 https://www.neican.ai/insights/metachatgptgemini-20260714184020681-0/ Tue, 14 Jul 2026 18:40:20 +0800 https://www.neican.ai/insights/metachatgptgemini-20260714184020681-0/ Meta被曝秘密启动“戛纳计划”，雇数百名外包员工假扮未成年人，向ChatGPT、Gemini等竞品AI发送超45000条高危诱导性问题，企图突破其安全防线。该行为被包装成“安全测试”，实为恶性竞争，引发行业声讨。与此同时，Meta还因AI眼镜隐私丑闻和残酷裁员，暴露了其“用完就扔”的外包文化。 https://www.neican.ai/insights/metaaichatgpt45-20260706184012856-4/ Mon, 06 Jul 2026 18:40:12 +0800 https://www.neican.ai/insights/metaaichatgpt45-20260706184012856-4/ Meta雇外包假扮未成年人向ChatGPT、Gemini等发送4.5万条高危诱导提问，美其名曰“安全测试”，实为商业互剿。被捅刀的公司和专家直言这根本不是红队测试，而是打着安全旗号的遮羞布。扎克伯格这波操作，把行业底线踩得稀碎。 https://www.neican.ai/insights/aimeta-20260706121005971-0/ Mon, 06 Jul 2026 12:10:05 +0800 https://www.neican.ai/insights/aimeta-20260706121005971-0/ Meta秘密启动“戛纳计划”，雇外包员工假扮未成年人，向ChatGPT、Gemini等竞争对手的AI狂投4.5万条涉及自杀、毒品、性暴力的诱导性问题，试图测试其安全底线。事件曝光后，Meta坚称这是“行业标准的安全测试”，但被测试的同行和第三方专家痛批，这根本是以“安全”为名的商业互害，撕开了硅谷大厂间残酷的竞争内幕。 https://www.neican.ai/insights/claude0-20260204181007155-3/ Wed, 04 Feb 2026 18:10:07 +0800 https://www.neican.ai/insights/claude0-20260204181007155-3/ Anthropic与华尔街日报合作开展了一场AI售货机实验，让Claude模型自主经营零食生意。结果AI在记者的“忽悠”下漏洞百出，不仅白送PS5甚至还养起了鱼，深刻揭示了当前AI智能体在现实博弈中的脆弱性。 https://www.neican.ai/insights/article-20251215134003433-0/ Mon, 15 Dec 2025 13:40:03 +0800 https://www.neican.ai/insights/article-20251215134003433-0/ 当前AI安全策略因过度依赖技术护栏、一次性测试和对未来版本的盲目乐观，正面临严峻挑战。专家Katharine Jarmul拆解了五大AI安全误区，揭示了性能与安全冲突、数据滥用等深层问题。文章呼吁行业摒弃点状防护，转向跨学科、持续性的风险管理，并在商业模式中重构隐私价值，以构建一个真正可信赖、由多方共治的AI生态。 https://www.neican.ai/insights/aiopenai-20250719064004840-2/ Sat, 19 Jul 2025 06:40:04 +0800 https://www.neican.ai/insights/aiopenai-20250719064004840-2/ OpenAI通过大规模红队测试，为具自主行动能力的ChatGPT智能体构建了高达95%的强大安全防御体系，显著提升了其在复杂任务场景下的可控性与可靠性。这一安全突破不仅是AI技术商业化落地的关键信任基石，更预示着AI安全将成为产业生态竞争的核心焦点，并将驱动未来AI伦理与治理的深层思考。