https://www.neican.ai/main_topics/ai%E5%95%86%E4%B8%9A%E5%BA%94%E7%94%A8%E9%A3%8E%E9%99%A9/ Recent content in AI商业应用风险 on AI内参 Hugo zh-cn Tue, 17 Jun 2025 23:20:05 +0800 https://www.neican.ai/insights/article-20250617232005846-1/ Tue, 17 Jun 2025 23:20:05 +0800 https://www.neican.ai/insights/article-20250617232005846-1/ 数字人直播中发生的“喵喵叫”事件，揭示了大型语言模型普遍存在的“提示词攻击”漏洞，即恶意指令可穿透AI安全护栏。这不仅暴露出AI系统在智能与可控之间难以平衡的困境，更对新兴的AI商业应用带来了潜在的经济与信任风险，凸显了构建有效AI安全策略的紧迫性。