谷歌起诉中国网络犯罪团伙，指控其利用Gemini自动化诈骗
谷歌近日对名为“Outsider Enterprise”的中国网络犯罪团伙提起法律诉讼，指控其利用谷歌的Gemini AI模型大规模实施诈骗。据谷歌提交的法律文件显示，该团伙通过Telegram运营，提供“钓鱼即服务”（Phishing-as-a-Service），帮助技术能力不足的个人搭建欺诈网站和发送短信。
Outsider Enterprise在Telegram频道中提供了使用Gemini AI创建虚假网站的具体教程，这些网站模仿Google、YouTube以及纽约E-ZPass等政府机构页面。该团伙提供了近300种诈骗模板，涉嫌通过Gemini生成的网站发送了超过250万条短信给Android用户，仅上个月两周内就发送了约5.5万条。谷歌累计追踪到9000个虚假网站和100万个与该网络相关的URL。
诈骗短信通常声称存在账户问题或包裹递送问题，诱使用户点击链接跳转到由Gemini制作的看似合法的虚假网站，从而窃取个人数据和银行信息。谷歌的诉状未估算具体诈骗金额，但指出已有数百人遭受经济损失。
谷歌已与AT&T、Verizon和T-Mobile合作拦截了大量恶意短信，并指出其Google Messages中的设备端诈骗检测功能每月可阻止100亿条诈骗短信，很可能也拦截了部分Outsider Enterprise的活动。这是谷歌首次针对利用Gemini实施诈骗的团伙采取直接法律行动，凸显了AI技术被滥用于犯罪的严峻趋势。
行业背景与意义
此案是AI安全领域的一个重要里程碑。随着生成式AI的普及，其双刃剑效应日益显现。一方面，AI推动创新；另一方面，它降低了网络犯罪的门槛。Outsider Enterprise的案例表明，即使是技术能力有限的个人，也能借助AI工具快速生成逼真的钓鱼页面，大幅提升诈骗效率。
谷歌的诉讼不仅旨在追责，更意在震慑其他潜在犯罪分子。同时，谷歌强调其已内置安全措施，如设备端检测和与运营商合作，但AI驱动的诈骗仍对用户隐私和财产安全构成严重威胁。
小结
- 核心指控：Outsider Enterprise利用Gemini AI生成钓鱼网站，发送超250万条诈骗短信。
- 规模数据：9,000个虚假网站、100万个URL，数百人受害。
- 应对措施：谷歌联合运营商拦截短信，并依靠Google Messages的AI检测功能。
- 行业影响：首例针对AI辅助诈骗的法律行动，凸显监管与防护的紧迫性。
