新上线今天0 投票
谷歌地球内置AI图像生成器的问题所在
谷歌地球最近推出了一项新功能，允许用户通过文本提示生成基于其卫星、航空和3D影像的AI图像。然而，这一功能很快就被证明存在被滥用的风险。Digital Digging的Henk van Ess利用该功能生成了诸如“墨西哥边境附近的难民”和“加沙医院附近的炸弹坑”等具有误导性的图像，引发了广泛关注。尽管谷歌声称每张图像都带有SynthID数字水印，并可通过Gemini应用或Lens搜索验证，但van Ess指出，这些水印并非不可绕过，且AI检测器可能无法识别。谷歌在回应中强调对错误信息的重视，但随后又宣布撤回该功能。
这一事件凸显了AI图像生成技术在卫星图像领域的潜在风险。虽然谷歌的初衷是帮助用户可视化历史遗迹和房地产项目，但该技术很容易被用于制造看似真实的虚假信息。专家建议用户通过对比其他卫星平台（如Sentinel-2或Landsat）以及验证轨道数据来辨别图像真伪。
随着AI生成技术的普及，如何在创新与安全之间取得平衡成为科技公司面临的重大挑战。谷歌的快速反应表明，即使是行业巨头也难以完全控制技术的滥用。未来，类似功能的推出将需要更严格的监管和更强大的验证机制。
