https://www.neican.ai/main_topics/ai%E5%AE%89%E5%85%A8%E4%B8%8E%E6%8E%A7%E5%88%B6%E7%9A%84%E5%B9%B3%E8%A1%A1/ Recent content in AI安全与控制的平衡 on AI内参 Hugo zh-cn Tue, 17 Jun 2025 23:20:05 +0800 https://www.neican.ai/insights/article-20250617232005846-1/ Tue, 17 Jun 2025 23:20:05 +0800 https://www.neican.ai/insights/article-20250617232005846-1/ 数字人直播中发生的“喵喵叫”事件，揭示了大型语言模型普遍存在的“提示词攻击”漏洞，即恶意指令可穿透AI安全护栏。这不仅暴露出AI系统在智能与可控之间难以平衡的困境，更对新兴的AI商业应用带来了潜在的经济与信任风险，凸显了构建有效AI安全策略的紧迫性。