https://www.neican.ai/tags/%E9%80%8F%E6%98%8E%E5%BA%A6/ Recent content in 透明度 on AI内参 Hugo zh-cn Tue, 01 Jul 2025 15:10:04 +0800 https://www.neican.ai/insights/github-copilot-chat-20250701151004434-2/ Tue, 01 Jul 2025 15:10:04 +0800 https://www.neican.ai/insights/github-copilot-chat-20250701151004434-2/ 微软近期将GitHub Copilot Chat扩展程序开源，此举旨在提升AI辅助开发工具的透明度，回应开发者对数据隐私和“黑箱”操作的担忧。这一策略不仅能促进社区协作，加速AI在软件工程中的深层集成，也反映了微软在AI时代通过开放生态维护其开发者工具领导地位的深远战略考量。 https://www.neican.ai/insights/openai-20250620111004327-1/ Fri, 20 Jun 2025 11:10:04 +0800 https://www.neican.ai/insights/openai-20250620111004327-1/ 一份名为「The OpenAI Files」的万字报告详细揭露了OpenAI首席执行官Sam Altman涉嫌的系列不端行为，包括捏造YC董事长身份、隐瞒OpenAI间接股权、强迫员工签署严苛保密协议，以及公司治理结构从“非营利控制”向无限逐利的深层转变。这些指控不仅挑战了Altman的个人诚信，更引发了对OpenAI作为AI领导者在透明度、利益冲突和AGI发展伦理方面的严肃质疑。 https://www.neican.ai/insights/article-20250617190043053-2/ Tue, 17 Jun 2025 19:00:43 +0800 https://www.neican.ai/insights/article-20250617190043053-2/ 随着AI在关键领域广泛应用，理解其“黑箱”决策过程变得至关重要。本文深入探讨了大型语言模型推理与“涌现”的本质，并揭示了AI解释可能不忠实于其真实思考的“忠诚度困境”。为了构建可信赖的AI，研究人员正积极开发内部监控、鲁棒训练等技术方案，同时呼吁通过独立审计、行业标准和政府监管，以多维度保障AI的安全部署和透明运行。