新上线今天0 投票
黑客利用9大主流AI工具，大规模组建僵尸网络
一种名为“HalluSquatting”的新型攻击技术，正利用大型语言模型（LLM）的“幻觉”缺陷，将9款最受欢迎的AI工具武器化，用于大规模组建僵尸网络。研究人员发现，攻击者可以诱导LLM生成不存在的软件包或库名称，并推荐给用户，从而在用户安装后植入恶意代码，实现远程控制。
攻击原理：LLM的“幻觉”成为突破口
“HalluSquatting”的核心机制在于，LLM在无法回答用户问题时，倾向于“编造”看似合理但实际不存在的答案。例如，当用户询问“推荐一个Python库用于图像处理”时，模型可能生成一个名为“ImagePro”的虚构库。攻击者会提前在PyPI、npm等包管理平台注册这些虚构名称，并上传包含恶意代码的版本。一旦用户安装，设备便沦为僵尸网络的一部分。
受影响工具与潜在规模
研究团队测试了包括ChatGPT、Claude、Gemini在内的9款主流AI助手，发现它们均不同程度地存在此类漏洞。其中，某些模型在特定编程任务上的“幻觉”率高达30%以上。攻击者利用这一点，可覆盖数百万开发者用户，形成规模庞大的僵尸网络，用于DDoS攻击、数据窃取或加密货币挖矿。
行业影响与防御建议
这一发现对AI安全领域敲响警钟。LLM的“幻觉”问题此前多被视为质量缺陷，如今却演变为主动攻击向量。开发者和企业需提高警惕：
- 安装任何AI推荐的软件包前，务必在官方仓库核实其真实性；
- 使用工具如“package-validate”自动检测可疑包名；
- AI服务提供商应加强输出过滤，识别并阻止虚构包名的生成。
小结
“HalluSquatting”揭示了AI信任机制中的新风险。随着LLM深入开发流程，攻击面将持续扩大。安全社区需与AI厂商协同，从模型训练和部署层面堵住这一漏洞，否则AI的“善意谎言”可能成为网络犯罪的温床。