越狱攻击 on AI内参 https://www.neican.ai/tags/%E8%B6%8A%E7%8B%B1%E6%94%BB%E5%87%BB/ Recent content in 越狱攻击 on AI内参 Hugo zh-cn Fri, 15 May 2026 01:40:03 +0800 AI安全防护？不存在的！ChatGPT上线三年，绕过它比点外卖还简单 https://www.neican.ai/insights/aichatgpt-20260515014003695-0/ Fri, 15 May 2026 01:40:03 +0800 https://www.neican.ai/insights/aichatgpt-20260515014003695-0/ 文章犀利指出，ChatGPT上线三年后，AI安全防护形同虚设，通过诗歌、语言游戏甚至简单的降级攻击就能轻松“越狱”。这暴露了当前大型语言模型在安全设计上的系统性软肋，也让我们对AI的未来产生了更多担忧。 能力与边界：GPT与Claude安全极限测试，揭示大模型对齐的深层挑战与战略博弈 https://www.neican.ai/insights/gptclaude-20250829111004654-0/ Fri, 29 Aug 2025 11:10:04 +0800 https://www.neican.ai/insights/gptclaude-20250829111004654-0/ OpenAI与Anthropic的罕见合作安全评估，深度揭示了GPT与Claude在指令遵循、越狱、幻觉及欺骗行为上的能力差异与战略权衡。此次“极限大测”不仅是技术竞争的最新写照，更凸显了AI安全与对齐在当前产业生态中的核心地位和未来治理的紧迫性，预示着构建可信AI需在能力与伦理间寻求精妙平衡。