改版通知

巨人肩膀网站已全新改版。若您仍依赖旧站功能或数据,欢迎联系我们,我们会协助处理。联系我们

AI 内容必须「亮身份」:从欧盟新规到谷歌地球关停

梦想家 创建于 2026年8月4日
封面:AI 生成内容须可识别、可溯源

过去一周,AI 圈并不只有模型参数和调用量榜单。另有一条更贴近「你看到的内容还能不能信」的主线,正在落地——

AI 生成的内容,开始被要求主动「亮身份」。

两条新闻把这件事从法规条文,推到了产品现场。


新闻一:欧盟透明度条款 8 月 2 日正式生效

据 Engadget 等媒体报道,欧盟《人工智能法》(AI Act)中的透明度相关条款于 2026 年 8 月 2 日在全欧盟范围落地执行。核心要求可以压缩成两句普通人能听懂的话:

  1. 交互式 AI 必须主动告知用户:我是人工智能——聊天助手、客服机器人等,不能假装成真人。
  2. AI 生成的图片、音视频等深度伪造类内容,必须标注 AI 标识——让读者、观众能分辨「这是生成的,不是实拍/实录」。

违规处罚上限很高:报道称最高可达 1500 万欧元量级。对在欧洲有业务、有用户、有内容分发的团队,这不是「以后再说」的合规备忘,而是已经生效的规则。

欧盟透明度:告知身份 + 标注生成内容

值得注意的是:透明度条款盯的不是「能不能用 AI」,而是用户能不能知道自己在和谁说话、看到的是不是合成内容。能力可以继续用,身份与来源必须说清楚。

权威/报道入口:Engadget:EU AI Act transparency rules


新闻二:谷歌地球 AI 生图上线不足 48 小时紧急关停

几乎同一时段,另一则更「可视化」的事故发生了:谷歌将 AI 图像生成能力整合进 Google Earth 后,因风险过大紧急暂停。

据 BBC 等报道,问题不在「能不能画好看」,而在画在了什么上面

  • 工具可以在真实卫星影像上叠加虚构场景;
  • 水印等标识又相对容易被绕过;
  • 结果是:看起来像「地理事实」的画面,其实可能是合成的——地理虚假信息风险极高。

地图、卫星图在公众认知里天然带有「这是真实世界」的信任。一旦 AI 生成物嵌进这层信任,误导成本远高于普通海报或社交媒体配图。谷歌选择关停,等于用产品动作给行业打了一记醒钟:

不是所有真实底图,都适合随便叠一层 AI 想象。

真实底图叠加虚构场景的地理虚假信息风险

报道入口:BBC:Google Earth AI image tool paused


两条新闻合在一起,说明什么

把法规与产品事故并排看,信息其实很清楚:

维度 欧盟透明度条款 谷歌地球关停
核心问题 用户是否知情 内容是否会被当成事实
风险类型 隐瞒 AI 身份、深度伪造难辨 真实地理底图 + 虚构叠加
行业信号 合规强制「亮身份」 高信任场景宁可不做,也不能乱做
对普通人 以后会更常看到 AI 标识 别把「像真的」自动当成「是真的」

一句话概括本周这条线:

AI 内容从「能不能生成」进入「生成了怎么让人知情、如何避免被误当成现实」的阶段。

这和「模型会不会写代码、会不会降价」是不同赛道的新闻——前者决定效率,后者决定信任。


对日常创作者与业务团队:马上能用的三点

你未必在欧盟设点,也未必在做地图产品,但下面三条已经足够实用:

1. 对外发布的图 / 视频:默认按「可能被当成事实」来设计

宣传图、活动海报、产品演示、科普短视频——观众往往不会先问「这是不是 AI 画的」。若画面涉及真实地点、真实人物、真实事件外观,宁可多一句说明,也不要靠「看起来像」混过去

2. 区分「工作流工具」和「权威事实载体」

用 AI 抠图、放大、消除、出概念图、做分镜成片,属于提高交付效率;把 AI 虚构直接嵌进地图、新闻现场、证据材料,属于另一类风险。谷歌地球这次踩的,就是后者。

3. 标识不是羞耻贴纸,是信任基础设施

欧盟要求的是告知与标注;谷歌关停的是「标识可被绕过 + 高信任底图」的组合。对团队而言,内部留存生成记录、对外保留可见标识,成本远低于一次误传带来的公关与合规代价。


和「出图 / 成片」工具怎么对上号

如果你平时就在用 AI 做图、做片,可以把本周新闻理解成一条产品边界提醒,而不是「别用 AI」:

  • 画境:一站式图片处理(生成、抠图、放大、消除、局部重绘)。适合把「可用的图」做出来;涉及真实场景改创时,发布前自行确认是否需要标注来源。
  • 影境:快速成片、视频编辑、专业分镜。成片一旦对外分发,同样适用「亮身份」逻辑——尤其是接近纪实、新闻、地理外观的题材。

它们解决的是把结果做出来;本周新闻提醒的是做出来之后,别人能不能正确理解这是什么。两条线并不冲突。

更多细项能力可在巨人肩膀 AI 工具 页按产品分组查看。


本周还可顺带知道的相邻动态(简讯)

透明度与虚假信息之外,同一周还有几条会影响「你会用到哪家模型」的信号,供对照阅读,不展开:

  • DeepSeek-V4-Flash 正式 API 公测,强调 Agent 长任务能力,调用量快速抬升;
  • 阿里云 Qwen3.8 旗舰基座发布,预告 Max 权重开源;
  • OpenAI 下调 GPT-5.6 全系 API 定价,入门模型降幅显著;
  • OpenRouter 统计显示,上周中国厂商在全球大模型调用中整体占比过半。

模型在变便宜、变好用;内容是否可信、是否可辨认,则在另一条轨道上被法规与事故同时推高优先级。


小结

  1. 欧盟透明度条款已生效:交互式 AI 要告知身份,深度伪造类内容要标 AI。
  2. 谷歌地球关停 AI 生图:真实卫星底图 + 易绕过水印 = 地理虚假信息高风险。
  3. 对你有用的动作:对外图文默认评估「会不会被当成事实」;高信任场景慎用虚构叠加;标识与生成记录当作常规习惯,而不是事后补丁。

热点会轮换,但「亮身份」这件事,大概率会从欧洲规则,逐渐变成全球内容平台与工具产品的默认预期。