TL;DR：
OpenAI这次直接“清理门户”，把一个用ChatGPT搞投资诈骗、恋爱杀猪盘、赌博骗局的柬埔寨团伙连窝端了。事实证明，AI虽好用，但使坏了就会被“亲爹”反手送进局子。
最近，OpenAI搞了个大新闻：他们亲手端掉了一个利用ChatGPT行骗的诈骗团伙。据官方博客透露1，这伙人窝在柬埔寨，把ChatGPT当成了“诈骗机器”，搞投资理财、网恋、赌博甚至冒充亲友的骗局。听起来是不是像好莱坞黑客电影？但这真的发生了，而且比电影更魔幻——骗子们不仅用AI骗人，用的还是开发AI那家公司的产品。
诈骗界的“AI化”：ChatGPT被玩出了花
这伙骗子的操作堪称“教科级”。投资诈骗？让ChatGPT生成看似专业的投资建议，再配上“高回报低风险”的话术，把受害者拿捏得死死的。浪漫诈骗？写一段含情脉脉的剧本，打造一个完美恋人人设，每天嘘寒问暖，直到受害者心甘情愿掏钱。赌博诈骗？伪装成“内幕大师”，推荐虚假赌博平台。冒充诈骗？通过AI模仿熟人语气，谎称急需用钱……
最骚的是，他们甚至让ChatGPT在同一时间与多个受害者对话，根据对话历史调整策略，效率比传统人工诈骗高出一大截。如果说传统诈骗是“手工作坊”，这帮人直接玩起了“AI流水线”。
OpenAI的反击：你刷我API，我查你IP
但骗子们忽略了一个事实：你用的可是OpenAI的API。你的每一次调用，都在人家的监控眼皮底下。
OpenAI的安全团队通过分析API调用模式、对话内容里的可疑关键词，以及流量异常，像侦探一样锁定了这群“老鼠”。随后，直接封禁相关账号，并把证据移交给了执法部门。OpenAI在官方博客中表示1，这次行动成功破坏了这些诈骗活动，同时也展示了AI公司对技术滥用的零容忍态度。
这件事也给我们提了个醒：AI的双刃剑效应不是闹着玩的。技术越强大，被用歪时的破坏力也越大。但好消息是，AI公司已经开始主动担起责任，从“卖铲子”变成了“抓老鼠”。
这波操作给AI安全立了什么Flag？
- AI监管不能只靠法律，平台也要主动出击——OpenAI这次就是主动监测，而不是等着受害者投诉。
- 技术对抗将成为常态——骗子会用AI，反诈也会用AI，未来这场“猫鼠游戏”只会越来越精彩。
- 云端服务留下了“犯罪指纹”——只要用云端API，就会有日志，有日志就跑不了。骗子们想完全隐匿，几乎不可能。
- AI行业开始走向“负责任的AI”——不再只是喊口号，而是真刀真枪地清理门户。
所以，下次如果你在社交媒体上遇到一个“完美恋人”或“投资大师”，多留个心眼：对面是真人，还是个用ChatGPT套路的AI？
反正，经过这次“清理门户”，恐怕骗子们要用AI之前得先掂量掂量——这玩意儿到底是谁的“亲儿子”。
引用
-
Disrupting a Criminal Scam Operation·OpenAI Blog·OpenAI（2024/10/3）·检索日期2026/8/1 ↩︎ ↩︎