https://www.neican.ai/tags/%E5%AE%AA%E6%B3%95%E5%BC%8Fai/ Recent content in 宪法式AI on AI内参 Hugo zh-cn Sat, 11 Oct 2025 08:10:04 +0800 https://www.neican.ai/insights/250aianthropic-20251011081004723-1/ Sat, 11 Oct 2025 08:10:04 +0800 https://www.neican.ai/insights/250aianthropic-20251011081004723-1/ Anthropic的最新研究揭示，大型语言模型极易受数据投毒攻击，仅250份恶意文档即可植入“后门”，挑战了业界对AI系统规模与安全性的传统认知。面对互联网语料固有的“毒性”，Anthropic正以其独特的“防爆层”哲学，通过“宪法式AI”和“宪法分类器”等技术，构建多维度的AI安全防御体系，旨在将可靠性和伦理边界内化为AI的核心能力。这不仅是技术竞赛，更是关于AI如何从人类世界学习，以及如何在未来确保其可信赖性的深远思考。 https://www.neican.ai/insights/anthropicai-20250827164004719-2/ Wed, 27 Aug 2025 16:40:04 +0800 https://www.neican.ai/insights/anthropicai-20250827164004719-2/ Anthropic在AI人才争夺战中，通过其以AI安全性为核心的“使命驱动”文化，而非高薪，展现出惊人的工程师净增长率，超越竞争对手。这不仅揭示了高科技人才价值观向技术伦理与社会影响的转变，也为AI产业的商业模式和竞争格局提供了新的范式，即：将AI安全和对齐研究内化为核心竞争力，是构建可持续发展生态的关键。