https://www.neican.ai/tags/%E4%BF%A1%E4%BB%BBai/ Recent content in 信任AI on AI内参 Hugo zh-cn Sat, 19 Jul 2025 06:40:04 +0800 https://www.neican.ai/insights/aiopenai-20250719064004840-2/ Sat, 19 Jul 2025 06:40:04 +0800 https://www.neican.ai/insights/aiopenai-20250719064004840-2/ OpenAI通过大规模红队测试，为具自主行动能力的ChatGPT智能体构建了高达95%的强大安全防御体系，显著提升了其在复杂任务场景下的可控性与可靠性。这一安全突破不仅是AI技术商业化落地的关键信任基石，更预示着AI安全将成为产业生态竞争的核心焦点，并将驱动未来AI伦理与治理的深层思考。 https://www.neican.ai/insights/article-20250703093252709-2/ Thu, 03 Jul 2025 09:32:52 +0800 https://www.neican.ai/insights/article-20250703093252709-2/ 随着自主智能体在各行各业的渗透，建立对其可信度与安全性的信心成为当务之急。本文指出，在部署自主智能体之前，必须优先构建一套严谨的评估基础设施，它不仅关乎性能，更是确保AI系统可靠、负责任的基石。缺乏全面的评估和治理，自主智能体的巨大潜力将无法安全、有效地实现，甚至可能带来无法预测的风险。