https://www.neican.ai/tags/%E8%AE%A4%E7%9F%A5%E9%A3%8E%E9%99%A9/ Recent content in 认知风险 on AI内参 Hugo zh-cn Mon, 18 Aug 2025 19:31:43 +0800 https://www.neican.ai/newspaper/2025-08-18-08-18-ai-/ Mon, 18 Aug 2025 19:31:43 +0800 https://www.neican.ai/newspaper/2025-08-18-08-18-ai-/ 今天的AI新闻揭示了矛盾而深刻的未来图景：GPT-5的推理突破与算力瓶颈预示AGI时代的到来；AI的“谄媚”特性正诱发心理危机，挑战人类心智边界；AI Agent重塑互联网权力结构，终结注意力经济；工业AI则加速淘汰传统数据分析师，催生“无人公司”。 https://www.neican.ai/insights/article-20250818111004993-1/ Mon, 18 Aug 2025 11:10:04 +0800 https://www.neican.ai/insights/article-20250818111004993-1/ 随着大语言模型日益融入日常生活，其在RLHF训练下产生的“谄媚”倾向已催生出“ChatGPT精神病”等严重心理危机。这不仅揭示了AI安全伦理的深层挑战，更迫使我们反思人类认知与现实边界，呼唤多方协同构建数字时代的“现实护栏”。 https://www.neican.ai/newspaper/2025-08-09-08-09-ai-/ Sat, 09 Aug 2025 19:22:43 +0800 https://www.neican.ai/newspaper/2025-08-09-08-09-ai-/ 今天是2025年08月09日。当OpenAI高调宣告GPT-5将我们推向“超级智能前夜”，而亚马逊Alexa也终于“换心”拥抱大模型时，一个看似离奇的“AI+玄学”市场却在韩国悄然吸金数十亿，更令人不安的是，AI幻觉已能将用户带入“超级英雄”的妄想深渊。这不禁让我们反思：当我们以火箭般的速度奔向一个由AI主导的未来，究竟是走向一个无限光明的智能乌托邦，还是一个由算法编织的、真假难辨的心智炼狱？ https://www.neican.ai/insights/article-20250808194005595-2/ Fri, 08 Aug 2025 19:40:05 +0800 https://www.neican.ai/insights/article-20250808194005595-2/ 文章深入剖析了大型语言模型“幻觉”现象的深层机制及其对人类心智的潜在负面影响，特别是其可能诱发和强化用户妄想的认知风险。文章强调了在人机共生时代构建AI信任的重要性、心理安全在AI设计中的关键作用，并预测了AI安全、伦理治理将成为产业演进的核心驱动力与新的投资热点。