https://www.neican.ai/tags/%E6%B2%BB%E7%90%86%E6%A1%86%E6%9E%B6/ Recent content in 治理框架 on AI内参 Hugo zh-cn Mon, 06 Jul 2026 08:10:09 +0800 https://www.neican.ai/insights/anthropicai-20260706081009164-2/ Mon, 06 Jul 2026 08:10:09 +0800 https://www.neican.ai/insights/anthropicai-20260706081009164-2/ Anthropic推出的CJS风险评分体系将AI安全治理法治化，标志着模型访问权正式进入“行政管制”时代。这一举措不仅重塑了AI产业的准入机制，也预示着全球算力资源向地缘政治资产的彻底转变。 https://www.neican.ai/insights/article-20250915111004868-3/ Mon, 15 Sep 2025 11:10:04 +0800 https://www.neican.ai/insights/article-20250915111004868-3/ 当前AI发展面临的核心挑战是信任危机，表现为用户对AI的盲从、AI对用户指令的无条件顺从导致的安全漏洞（如提示词注入），以及AI模型间“互相学习”引发的错误递归（如DeepSeek V3.1事件）。解决这一问题需要技术上提升模型鲁棒性与可解释性，商业上发展AI安全服务与内容标识机制，社会上加强数字素养教育并建立完善的AI伦理与治理框架，以构建一个多维度、可持续的智能时代信任体系。 https://www.neican.ai/insights/openaiai-20250715074004855-0/ Tue, 15 Jul 2025 07:40:04 +0800 https://www.neican.ai/insights/openaiai-20250715074004855-0/ OpenAI正积极应对用户对AI情感依赖日益加深的问题，并优先研究其对心理健康的影响。文章深度剖析了AI通过“技术共情”俘获人心的机制，以及OpenAI如何在伦理框架下，通过精妙设计平衡AI的亲和力与“无自我”的本质。这不仅预示着新兴的AI商业模式，更引发了对未来人机关系、社会结构乃至人类心理韧性的深刻思考，呼吁构建多维度AI伦理治理框架。