谷歌在推出 AI 地球影像工具一天后下架该工具，因担忧深度伪造（Google Earth）

谷歌在 7 月 31 日将 Google Earth 上的一个 AI 图像生成功能移除，距该功能于 7 月 30 日上线仅一天。此举是在记者和开源调查人员的强烈反对之后做出的。该公司表示，用户正在分享看起来可能违反其政策的生成影像，这引发了人们对该工具可能用逼真的假卫星影像淹没互联网的担忧。Nano Banana 模型允许用户在 Google Earth 的网页版中缩放到任意地点，点击“create image”，并根据文本提示生成场景，但批评者警告称，该工具可能通过编造从未发生过的事件来进一步助推 misinformation（错误信息）。

Nano Banana 工具编造爆炸坑并淹没地标

科技媒体 404 Media 演示称，该工具可以在洛杉矶生成一个爆炸坑，并在谷歌位于加州 Mountain View 的园区外添加抗议者。NPR 生成了伊朗 Kharg Island 着火以及被淹没的美国国会大厦的图像——如果这些都是真的，将属于重大新闻。开源研究员 Henk van Ess 告诉 NPR，他尝试了包含“墨西哥边境的难民”和“伊朗的核电站”等提示，但都没有被拒绝。Van Ess 在 X 上发文称，他在 Google Earth 中输入一句话，就能把难民安置在墨西哥边境附近，并在伊朗种下一座核电站。

研究人员警告：AI 生成的卫星影像可能加速错误信息

卫星影像长期以来一直是用来核验突发新闻和暴行的可信锚点，正因为它很难被伪造。Bellingcat 研究员 Jake Godin 警告称，“一键式”生成将使造假变得更顺畅，从而加速其传播；同时指出，错误信息会快于任何纠正，并且政府现在可能会把真实影像说成是伪造的。谷歌此前曾淡化这些担忧，称每一张图像都带有 SynthID 水印，它会在类似 Gemini 这样的工具中将其标记为 AI 生成，并且会阻止在有害主题上的生成。批评者认为这不够充分，理由是很少有人在分享前会停下来核验图片。

谷歌在移除功能前引用 SynthID 水印防护

谷歌在 7 月 31 日发布在 X 的一则“一句话”中表示，人们会“对 Google Earth 提供可靠世界视图有着独特的信任”，并且尽管地理空间专业人士发现了有用的应用，但其他人正在分享看起来可能违反其政策的生成图像。该公司表示，它将在构建更强的防护措施时回滚该功能。谷歌称，只有在实施更严格的保护之后才会在 Google Earth 中恢复图像生成，但没有给出恢复时间表。

常见问题

Google 在 7 月 31 日从 Google Earth 移除了什么？
Google 在 7 月 31 日将 Google Earth 上的一个 AI 图像生成功能移除，距该功能于 7 月 30 日上线仅一天。该工具使用 Nano Banana 模型，允许用户通过文本提示生成卫星影像。

为什么谷歌移除了 Google Earth 的 AI 图像功能？
谷歌表示，用户正在分享看起来可能违反其政策的生成影像。记者和研究人员演示称，该工具可以轻易编造从未发生过的事件，包括洛杉矶的一个爆炸坑、被淹没的美国国会大厦，以及伊朗 Kharg Island 着火的景象，从而引发其可能加速错误信息的担忧。

谷歌对恢复 AI 图像功能说了什么？
谷歌表示，它只会在实施更严格的保护措施之后才会在 Google Earth 中恢复图像生成，但没有提供恢复时间表。