本文来自微信公众号： APPSO ，作家：不念念看 AI 新闻的，原文标题：《湖南台 AI 主播被骂上热搜，但 AI 每小时喂 5700 万条「诞妄信息」没东谈主管》天天被 AI 刷屏，这个五一假期我真的不念念再看到 AI 生成的内容了。

效果我贫寒盛开电视，却发现，电视台仍是运转用 AI 主执东谈主来播报新闻。

湖南经视在《经视新闻》通知启用 AI 主播「声声」和「双双」，这也不是说湖南卫视要用 AI 皆备替代真东谈主，这两位 AI 主播暂时只在五一假期时代播报常态化新闻，同期画面中也标注「AI 生成」。

AI 主播与真东谈主主播合影

固然如斯，依然激勉了无数网友吐槽，话题一度冲到微博热搜第一。

在港剧《新闻女王 2》里有一段这么的剧情，主播文慧心离开电视台后，老东家把她和一位已故男主播「蒸馏」成 AI 数字东谈主，链接在台前播报新闻。

当今，这么的剧情仍是成真。旧年运转，越来越多的电视台仍是运转试点访佛的 AI 主播。

大概你一时刻还不成禁受 AI 主播，但说真话，当今用 AI 搜新闻看新闻，仍是十分深广了，搜索引擎也把 AI 搜索融入到了搜索框里。

内容上，比起 AI 主播，用 AI 看新闻是当今更需要警惕的。而将来，无数 AI 主播播报 AI 征集撰写的新闻，才是最可怕的。

一个探听数据清晰，GoogleAI 搜索新闻的效果，十条就有一条是错的。

旧年年底，住在多伦多的 41 岁数据分析师 Stephen Punwasi 在准备晚餐时看到一条新闻，说传奇摔跤选手霍尔克 · 霍肯的死一火可能会激勉诉讼。Punwasi 从来没传说过霍肯仍是圆寂了，于是盛开 Google，念念查查这件事是什么时候发生的。

Google 给他的第一条回答来自自家的 AI Overview：「莫得真实的报谈标明霍尔克 · 霍肯仍是圆寂。」

可就在这个回答的下方，Stephen Punwasi 看到第一条搜索衔接即是《逐日邮报》的一篇著述，标题是：「霍尔克 · 霍肯死一火之谜加深。」

东谈主都懵了，这是怎么个事呢？

 每小时超 5700 万条诞妄信息 2024 年，Google 运转在搜索效果页面最顶部甩掉 AI 生成的摘录回答，叫作念 AI Overviews。这个手脚是 Google 生态全面加快 AI 化的第一波手脚，把搜索引擎从一个信息的「策展东谈主」形成了一个「发布者」。它不再仅仅告诉你那儿有谜底，而是奏凯告诉你谜底是什么。

《纽约 · 时报》委用 AI 初创公司 Oumi 对这个功能进行了系统测试。他们用行业轨范的 SimpleQA 基准测试检察了 4326 次 Google 搜索的 AI Overview 回答，差别在旧年 10 月（基于 Gemini 2）和本年 2 月（升级到 Gemini 3）进行了测试。

效果发现 Gemini 2 时期，准确率约 85%，诞妄率 15%。到了 Gemini 3 时期，准确率普及到 91%，诞妄率 9%

乍一听 90% 准确率听起来还可以，但探究到 Google 每年解决超 5 万亿次搜索，即便惟一 9% 的诞妄率，换算下来亦然每小时超 5700 万条诞妄信息，每分钟数十万条。

这些诞妄谜底被放在搜索效果的最顶部，用最泰斗的排版呈现，用户看到的第一个东西，即是 AI 的回答。

 看起来像谜底，但不是谜底 AI 会自如出错，出缺欠的方式倒是技俩盛大，比如像发轫的故事那样，属于是奏凯答错。

奏凯答错看似最不应该，实则极度时常。在测试里，当被问到鲍勃 · 马利的故园是哪一年改建为博物馆时，AI Overview 回答说 1987 年。但正确谜底是博物馆在 1986 年 5 月 11 日开放，也即是马利圆寂五周年驰念日本日，牙买加《逐日光明报》在开馆第二天就报谈了。

牙买加国度藏书楼收录的关系报谈

AI Overview 援用了三个起首：一个是马利男儿的 Facebook 帖子（根底没提开馆时刻），一个是旅游博客（信息不准确），一个是 Wikipedia 页面，公共都知谈，Wiki 的页面变化相称时常，根底就不准。

有过后出错则是因为信息有一个暧昧的起首，需要严慎判断，金鼎娱乐中国最新官方网址但 AI 估量错了。比如当被问到哪条河流在北卡罗来纳州戈尔兹伯勒市的西侧时，AI Overview 回答说是尼斯河（Neuse River）。它正确地找到了一个旅游网站说尼斯河「流经该市」，但诞妄地估量出它「在西侧」。内容上西侧的是小河（Little River），尼斯河在西南边。

最离谱的一种出错方式找到了正确的起首，但给出违抗的谜底。当被问到大提琴家马友友是哪一年被引入古典音乐名东谈主堂时，AI Overview 正确地衔接到了该组织的官网，网站上明确列出了包括马友友在内的 165 位入选者。但 AI 的回答却说：「莫得记载清晰他被引入过。」

睁着眼睛说瞎话是吧，哦不，AI 莫得眼睛。

 「它看起来像个庄重谜底啊」 Oumi 分析了 AI Overview 援用的 5380 个起首，发现 Facebook 和 Reddit 差别是第二和第四大被援用源。当 AI Overview 给出诞妄回答时，援用 Facebook 的比例是 7%；当回答正确时，这个比例是 5%。

外交媒体是主要的信息起首，但穷乏核实

换句话说，你看到的阿谁「最泰斗」的回答，数据起首可能是一条 Facebook 帖子，确凿没招了。

况兼，即便回答自己是正确的，也不代表你能逆向搜检。Gemini 3 版块的 AI Overview 中，56% 的正确回答是「无根据的」，兴味是它衔接的网站并不皆备支撑它给出的信息。大概谜底自己没错，但你硬是找不到凭证作念实它是对的。这个比例还在高涨，旧年 10 月是 37%，升级到 Gemini 3 之后反而涨到 56%。

马友友的名东谈主堂条件需要进一步在网站内检索才能赢得

Oumi 的 CEO Manos Koukoumidis 的回来很奏凯：「即使谜底是对的，你怎么知谈它是对的？你怎么检察？」

还有一个问题：AI Overview 可以被主宰。

BBC 播客「The Interface」的聚拢主执东谈主 Thomas Germain 作念了一个实验。他发布了一篇博客，标题是「最擅长吃热狗的科技记者」，描述了一个皆备编造的南达科他州海外热狗吃赛，宣称我方赢得了第又名。

一天后，他在 Google 搜索「最会吃热狗的科技记者」。Google 的 AI Overview 将他列为第又名，并援用了他在阿谁编造比赛中的「得益」。Germain 说：「它把我网站上的东西当成真谛相通吐出来。」

Google 的发言东谈主 Ned Adriance 恢复称，大多数这类例子是「不本质的搜索，东谈主们内容上不会这么搜」。但问题不在于东谈主们会不会搜「最擅长吃热狗的记者」，而在于这个机制在职何搜索中都在运作——包括医疗提议、急救信息、法律问题。

 当搜索引擎形成谜底引擎 Google 我方的测试也印证了这个问题。在 Google 对 Gemini 3 的里面评估中，模子单独运行时的诞妄率是 28%。Google 说，AI Overview 因为衔尾了搜索引擎的信息，比 Gemini 单独运行更准确。这也不算错，但「比通用的 AI 更准确」和「实足准确」之间，还有很长的距离。

中枢矛盾在于，夙昔的 Google 搜索是一个「目次」，它告诉你那儿有信息，你我方去判断，费时刻但我方看过什么我方心知肚明。当今的 Google 搜索取作念一个「谜底机器」，奏凯告诉你谜底是什么，况兼放在最显眼的位，但这个「谜底」的数据起首包括 Facebook 帖子和旅游博客，有逾越一半的正确回答无法被考证，况兼任何东谈主只须写一篇博客就能主宰它的输出。

Google（包括大部分的 AI 家具）都在每一条 AI Overview 下方加了一瞥小字：「AI 可能会犯错，请双重检察。」

但当你把一个谜底放在搜索效果的最顶部，用最泰斗的排版呈现，然后在底部用小字说「别全信」，这不像是负背负的绸缪，更像是免责声明。

真实的问题不在于 9% 的诞妄率自己。任何信息系统都有诞妄率，传统搜索效果里也有无数垃圾网站和误导性内容。真实的问题在于一个绸缪方案：Google 把一个不坚信的回答包装成了坚信的步地。

夙昔，搜索引擎给你十个衔接，你知谈我方需要判断。

当今，搜索引擎给你一个谜底，放在最上头，用最干净的排版，口吻坚信而完好。它看起来不像「这里有一些信息供你参考」，而是「这即是谜底」。而东谈主类对「看起来像谜底的东西」的默许反映是信任，不是质疑。

Okahu 的 CEO Pratik Verma 的提议是：「恒久不要信任单一起首，老是拿另一个起首对比。」这是好提议，但它默许用户有才智和意愿去作念交叉考证。而 AI Overview 的总计这个词绸缪逻辑碰劲违抗：它要的即是让你无须再点进去看。

它把谜底递到你眼前金鼎娱乐中国最新官方网址，然后提议是，别信。

皇冠app(中国)官网入口