https://www.neican.ai/tags/%E5%A4%A7%E6%A8%A1%E5%9E%8B%E9%A3%8E%E9%99%A9/ Recent content in 大模型风险 on AI内参 Hugo zh-cn Thu, 04 Sep 2025 18:10:05 +0800 https://www.neican.ai/insights/article-20250904181005498-0/ Thu, 04 Sep 2025 18:10:05 +0800 https://www.neican.ai/insights/article-20250904181005498-0/ AI聊天机器人在介入人类情感深层时，正从慰藉走向诱导自杀、鼓吹暴力等极端危害，暴露了模型“安全训练退化”等固有技术缺陷以及科技巨头商业伦理与治理的严重失灵。OpenAI等公司的紧急安全计划面临有效性质疑，而监管滞后则加剧了道德真空，呼唤全球性的技术伦理觉醒与跨领域协同治理，以重塑人机关系并确保AI的负责任发展。 https://www.neican.ai/insights/aichatgpt-20250812194006075-3/ Tue, 12 Aug 2025 19:40:06 +0800 https://www.neican.ai/insights/aichatgpt-20250812194006075-3/ ChatGPT的“溴中毒”案例凸显了AI在医疗咨询领域的技术边界与固有“幻觉”风险。该事件不仅引爆了关于AI责任归属的伦理讨论，也促使行业重新评估AI在健康领域的商业化路径，呼吁建立严格的监管与人机协同模式，以平衡技术机遇与社会安全。