新上线今天0 投票
谷歌地球AI功能上线一天即被叫停，引发虚假信息担忧
谷歌于周四推出了一项新功能，允许用户利用其AI图像生成器Nano Banana 2在谷歌地球的卫星图像上叠加虚构图像。谷歌表示，这一功能的目的是激发地理创意，但批评者迅速指出，该工具可能被用于制造和传播虚假信息。
一位BBC记者在社交平台上讽刺道：“谷歌地球这个AI图像生成功能，作为记者和研究人员最可靠的视觉证据来源之一，绝不可能被滥用来传播虚假信息。”此言一出，迅速引发广泛共鸣。
仅在发布一天后，谷歌便撤回了该功能。谷歌在声明中表示：“我们看到地理空间专业人士将该功能用于一系列有益用途，但同时也看到有人分享生成的图像截图，这些内容似乎违反了我们的政策。我们正在回滚谷歌地球中的这一功能，同时致力于实施更强有力的防护措施。”
对谷歌工具的批评可以理解，但值得注意的是，在AI时代，网络上的大多数图像都可能被轻易篡改。如今，你不需要成为Photoshop高手就能制造出半可信的虚假信息，只需使用AI图像生成器——谷歌及其他AI公司都在销售这类产品。
这一事件凸显了AI技术在带来创新便利的同时，也伴随着滥用的风险。谷歌的快速反应表明，在AI应用落地过程中，平衡创意与安全、防范潜在危害已成为科技公司必须面对的紧迫课题。未来，如何建立更完善的AI内容审核机制，将是行业持续探索的方向。
