https://www.neican.ai/tags/ai%E6%BB%A5%E7%94%A8/ Recent content in AI滥用 on AI内参 Hugo zh-cn Mon, 08 Dec 2025 08:40:04 +0800 https://www.neican.ai/insights/article-20251208084004912-0/ Mon, 08 Dec 2025 08:40:04 +0800 https://www.neican.ai/insights/article-20251208084004912-0/ 生成式AI在电商领域的滥用，如利用AI伪造图片申请退款和生成虚假商品展示，正迅速瓦解消费者与商家间的基本信任。这不仅暴露了当前平台治理的局限性，更引发了对数字时代真实性定义、社会信任机制以及人类认知负担的深层哲学思考，预示着一个技术与伦理、效率与真实持续博弈的未来。 https://www.neican.ai/insights/article-20251013114005065-0/ Mon, 13 Oct 2025 11:40:05 +0800 https://www.neican.ai/insights/article-20251013114005065-0/ 当前AI深度合成技术被广泛滥用于制作虚假“擦边”内容和诈骗，对个人隐私和数字信任构成严重威胁，而现有技术防线和监管机制显得脆弱。文章深入剖析了商业利益驱动下的流量畸形、技术与伦理法规建设之间的巨大鸿沟，并呼吁通过法律完善、技术嵌入、平台责任强化及社会共治等多维度系统性治理，以重塑数字信任基础，引导AI技术向善发展。 https://www.neican.ai/insights/article-20250728204005158-0/ Mon, 28 Jul 2025 20:40:05 +0800 https://www.neican.ai/insights/article-20250728204005158-0/ 生成式AI正被滥用于制造大量虚假安全漏洞报告，导致cURL等开源项目不堪重负，考虑暂停漏洞赏金计划。这不仅侵蚀了开源社区的信任基础，更揭示了AI对软件安全商业模式、职业生态和治理机制带来的深层冲击，预示着未来安全领域攻防范式将发生根本性转变。 https://www.neican.ai/insights/article-20250617025225335-1/ Tue, 17 Jun 2025 02:52:25 +0800 https://www.neican.ai/insights/article-20250617025225335-1/ 随着AI工具的普及和公共数据集的滥用，学术界正经历一场前所未有的“垃圾论文”爆发，仅一个数据集一年就产出近8000篇论文，引发了对学术诚信和科学质量的严重担忧。这一现象不仅暴露出AI技术被论文工厂利用的风险，更深层地揭示了当前“以量取胜”的科研评价体系与开放获取期刊商业模式所导致的结构性扭曲，亟需从技术检测、期刊审查和激励机制改革等多维度进行应对，以维护科学的本质与价值。