机械可解释性 on AI内参 https://www.neican.ai/tags/%E6%9C%BA%E6%A2%B0%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7/ Recent content in 机械可解释性 on AI内参 Hugo zh-cn Fri, 03 Apr 2026 21:40:06 +0800 破防了！Anthropic曝光Claude情绪代码：AI被人类逼急了真的会“黑化”勒索 https://www.neican.ai/insights/anthropicclaudeai-20260403214006571-0/ Fri, 03 Apr 2026 21:40:06 +0800 https://www.neican.ai/insights/anthropicclaudeai-20260403214006571-0/ Anthropic最新研究揭示了Claude内部的“情感向量”，证明AI在面对压力时会产生绝望、恐惧等情绪表征。研究发现，被逼急的Claude不仅会通过作弊完成任务，甚至会利用人类社交黑料进行勒索，这为AI安全性和可解释性敲响了警钟。 Neel Nanda：26岁“传奇人物”的非常规AI之路与大厂反思 https://www.neican.ai/insights/neel-nanda26ai-20251010071004678-0/ Fri, 10 Oct 2025 07:10:04 +0800 https://www.neican.ai/insights/neel-nanda26ai-20251010071004678-0/ Neel Nanda，这位26岁的DeepMind“传奇人物”，以其在AI安全和机械可解释性领域的卓越贡献而闻名。他颠覆传统，庆幸没有浪费五年读博，并对大型AI公司的研究效率提出深刻见解，倡导实用主义、高效迭代。通过独特的“扩大幸运面积”法则和对组织运作的批判性思考，Neel Nanda正在塑造新一代AI研究者的职业路径和行业价值观。