https://www.neican.ai/tags/owasp/ Recent content in OWASP on AI内参 Hugo zh-cn Sat, 04 Oct 2025 19:21:59 +0800 https://www.neican.ai/newspaper/2025-10-04-10-04-ai-/ Sat, 04 Oct 2025 19:21:59 +0800 https://www.neican.ai/newspaper/2025-10-04-10-04-ai-/ 今天是2025年10月04日。自主智能体（Agentic AI）因其与外部工具的深度融合，催生了“工具滥用”这一新型顶级安全威胁。OWASP警告“智能体不可信赖”，呼吁重构AI安全范式，这既是万亿级新赛道的发令枪，也是对AI伦理与人类信任体系的终极考验。 https://www.neican.ai/insights/article-20251004081004635-0/ Sat, 04 Oct 2025 08:10:04 +0800 https://www.neican.ai/insights/article-20251004081004635-0/ OWASP近期警告指出，自主智能体（Agentic AI）因其与外部工具的交互能力，引入了全新的“工具滥用”安全威胁，这标志着AI安全领域的危机才刚刚开始。文章深入剖析了“工具滥用”的技术机制，探讨了AI防火墙等新型防御架构，并从商业投资、哲学伦理和社会影响等多维度分析了“智能体不可信赖”原则对未来AI生态构建的深远影响，强调建立安全可信的自主系统是解锁其万亿级市场潜力的关键。 https://www.neican.ai/insights/aiowaspai-20250707131005876-0/ Mon, 07 Jul 2025 13:10:05 +0800 https://www.neican.ai/insights/aiowaspai-20250707131005876-0/ OWASP基金会重磅推出《AI测试指南》，专门解决AI系统中的安全漏洞、算法偏见和对抗性攻击等“老大难”问题。这套“体检报告”不仅要让AI更安全、更公平，还邀请全球开发者和专家一起共建，誓要把AI这匹“脱缰野马”驯服得服服帖帖，跑得更稳当！