https://www.neican.ai/main_topics/%E6%8F%90%E7%A4%BA%E8%AF%8D%E6%94%BB%E5%87%BB%E6%BC%8F%E6%B4%9E/ Recent content in 提示词攻击漏洞 on AI内参 Hugo zh-cn Tue, 17 Jun 2025 23:20:05 +0800 https://www.neican.ai/insights/article-20250617232005846-1/ Tue, 17 Jun 2025 23:20:05 +0800 https://www.neican.ai/insights/article-20250617232005846-1/ 数字人直播中发生的“喵喵叫”事件，揭示了大型语言模型普遍存在的“提示词攻击”漏洞，即恶意指令可穿透AI安全护栏。这不仅暴露出AI系统在智能与可控之间难以平衡的困境，更对新兴的AI商业应用带来了潜在的经济与信任风险，凸显了构建有效AI安全策略的紧迫性。