https://www.neican.ai/tags/%E4%BA%BA%E6%A0%BC%E5%90%91%E9%87%8F/ Recent content in 人格向量 on AI内参 Hugo zh-cn Sun, 17 Aug 2025 14:10:04 +0800 https://www.neican.ai/insights/article-20250817141004551-0/ Sun, 17 Aug 2025 14:10:04 +0800 https://www.neican.ai/insights/article-20250817141004551-0/ Anthropic最新研究提出的“人格向量”技术，通过识别和控制大语言模型内部表征人格特质的激活模式，实现了对AI性格的精准干预。这项创新不仅能有效预防模型在训练和部署中产生邪恶、谄媚或幻觉等不良行为，更通过“疫苗”式的预防性引导从源头提升AI安全性，为构建可编程且值得信赖的AI人格奠定了基础，对未来AI对齐、商业化和伦理治理具有里程碑意义。 https://www.neican.ai/insights/aianthropic-20250804174005173-1/ Mon, 04 Aug 2025 17:40:05 +0800 https://www.neican.ai/insights/aianthropic-20250804174005173-1/ Anthropic的“人格向量”技术通过识别并控制AI模型内部的“性格特质”模式，提供了一种前所未有的AI行为对齐方法。其创新之处在于通过训练中“注入”不良特质来像“疫苗”一样增强模型抵抗力，这不仅提升了AI模型的安全性与可信度，也预示着AI治理和产业应用将迎来新的突破。