新上线今天0 投票
谷歌地球AI深度伪造工具仅存活一天即被下线
谷歌于周四推出了一项允许用户通过文本提示编辑卫星图像的AI功能，但仅一天后便将其关闭。该工具本质上让用户能够创建现实世界的AI深度伪造图像，例如数字挖掘公司的Henk van Ess故意生成了在墨西哥边境添加难民、在加沙医院旁添加炸弹坑的图像。谷歌最初回应称，使用Nano Banana 2生成的图像带有数字水印，并阻止了“有害主题的图像创建”。然而，一天后，谷歌发布新声明，承认“人们特别信任谷歌地球提供可靠的世界视图”，但发现用户分享的截图违反了政策，因此决定回滚该功能，以加强防护措施。van Ess指出，他能够通过谷歌地球生成的视频骗过Hive的AI检测工具，表明水印可能不足以阻止传播。此事件凸显了AI生成内容在真实世界图像中的风险，以及科技公司在创新与安全之间的平衡难题。
