精选2个月前0 投票
OpenAI 打击柬埔寨诈骗团伙：AI 技术如何被用于非法活动
OpenAI 近日宣布，已成功捣毁了一个位于柬埔寨的诈骗团伙，该团伙利用 ChatGPT 实施投资、婚恋、赌博及冒充执法人员的诈骗活动。此次行动始于对 WhatsApp 提供的线索的追踪，OpenAI 已与行业伙伴及相关当局分享了威胁信号。
诈骗网络的运作模式
该团伙并非局限于单一诈骗类型，而是灵活运用多种手段，针对不同受害者定制骗局。OpenAI 在调查中发现，这些网络经常在诈骗类型间切换，或将多种技术结合使用。部分用户生成的内容还暗示该网络与人口贩运和强迫劳动有关，这与东南亚有组织犯罪集团的公开报道一致。这些集团常以合法就业为诱饵招募工人，随后将其困于债务奴役和胁迫之中。
OpenAI 的应对措施
OpenAI 已封禁了一个协调的 ChatGPT 账户网络，该网络很可能源自柬埔寨，并在波贝（Poipet）及其周边地区活动。该网络利用 OpenAI 模型创建虚假在线身份、生成和翻译发送给诈骗目标的信息、制作推广内容，并协助日常运营。此外，部分用户还使用 ChatGPT 进行行政工作，如起草内部公告、翻译员工之间的消息，以及记录与招聘、移民身份和工作条件相关的事项。
AI 在诈骗中的角色与反思
此次事件凸显了 AI 技术被滥用于非法活动的风险。OpenAI 表示，将继续监控并打击此类行为，同时强调，实施诈骗的人本身也可能是剥削的受害者。这一案例提醒我们，在享受 AI 带来的便利时，也需警惕其被恶意利用的可能。
OpenAI 的这次行动不仅是对一个具体犯罪网络的打击，更是对 AI 伦理和安全边界的探索。随着 AI 技术的普及，如何平衡创新与监管，将成为行业持续面临的挑战。
