首页 500强 活动 榜单 商业 科技 领导力 专题 品牌中心
杂志订阅

人工智能搜索结果离谱,“谷歌轰炸”再现

EVA ROYTBURG
2024-06-14

人工智能概述总是建议在披萨中添加胶水。

文本设置
小号
默认
大号
Plus(0条)

图片来源:Getty Images

如果你在2005年用谷歌(Google)搜索“惨败”,出现在搜索结果首位的是白宫网站上的乔治·W·布什总统的官方传记。

这并不是该科技公司的政治行为,而是一场恶作剧。互联网上早期的恶作剧者可能还记得2000年代“谷歌轰炸”的趣事,其中最著名的就是对布什的侮辱。

谷歌轰炸指的是恶意攻击者将一个网页(如布什的传记)链接到自己网站上的特定文本,如布什与“惨败”。只要有足够多的例子,搜索引擎的算法就会错误地将这些词语理解为热门链接。这就产生了各种有趣的结果,例如在谷歌搜索“骗子”和“狮子狗”,会出现当时英国首相托尼·布莱尔的网页,而搜索“危险的邪教”排在第一位的结果则是山达基教会的网站。

2007年,谷歌调整了算法,以防止出现更多“谷歌炸弹”。然而,“谷歌炸弹”的幽灵又再次纠缠上这家科技巨头,而且这次是因为他们自己的技术失误。

谷歌今年5月推出人工智能驱动的搜索概述后,用户很快发现这些概述有时会提供虚假和古怪的结果。如果你询问谷歌携带剪刀跑步的好处,它会告诉你,这是一项很好的有氧运动,可以“改善毛孔,增强体力”。还有一条查询让谷歌推荐石头对健康的好处,这显然是参考了洋葱网的一篇讽刺文章。

对于记者的问题,谷歌的人工智能概述回答说:“吃合适的石头对你有好处,因为它们含有对身体健康很重要的矿物质。”

“在披萨里加胶水”的问题依旧存在

然而,在互联网上引起最大骚动的是人工智能概述建议“在酱汁中混入约1/8杯无毒胶水”,以防止奶酪从披萨上滑落。

谷歌的一位发言人当时没有理会这种错误结果,而是写道:“我们看到的例子一般都是很不常见的查询,并不能代表大多数人的经历。”他们还表示,“绝大多数”人工智能概述都提供了高质量的信息,并附有链接,以便查询者深入搜索。

然而,尽管谷歌公开表示对其新的人工智能工具充满信心,该公司却悄悄地开始降低其曝光度。根据内容营销平台BrightEdge的研究,谷歌逐渐将人工智能概述在搜索结果中的出现率从84%降至15%。

谷歌的一位发言人对这一数据提出了质疑,指出这些数据与公司所看到的数据存在差异。他们还表示,这很可能是因为BrightEdge研究的查询集范围较窄,并非谷歌搜索流量的代表性样本,包括了那些选择不显示人工智能概述的用户。

人工智能概述有时仍会出现的一个例子,就是曾在互联网上引起轩然大波的“披萨中加胶水”的结果。The Verge最近报道说,如果你问谷歌披萨里要加多少胶水,它也会给出同样的结果,只是这次引用了Business Insider一篇关于这次失败案例的文章。

这意味着,似乎随着越来越多记者撰写关于荒谬的人工智能概述的文章,向算法中反馈的内容就会越多,使其产生同样的错误结果。这是一种自我实现的反馈循环,让人不禁回想起当年谷歌轰炸时期的荒诞,只是唯一的恶作剧者是谷歌自己。

当《财富》记者尝试搜索披萨、奶酪和胶水时,没有弹出任何人工智能概述,这可能意味着谷歌已经发现了他们连续的失误,并及时调整了他们的平台。

谷歌发言人表示,大量搜索仍会显示这些查询结果,但谷歌正在对该技术进行调整。

他们对《财富》杂志表示:“我们正在继续完善显示人工智能概述的时间和方式,使它们尽可能有用,包括通过技术更新提高回答的质量。”(财富中文网)

翻译:刘进龙

审校:汪皓

如果你在2005年用谷歌(Google)搜索“惨败”,出现在搜索结果首位的是白宫网站上的乔治·W·布什总统的官方传记。

这并不是该科技公司的政治行为,而是一场恶作剧。互联网上早期的恶作剧者可能还记得2000年代“谷歌轰炸”的趣事,其中最著名的就是对布什的侮辱。

谷歌轰炸指的是恶意攻击者将一个网页(如布什的传记)链接到自己网站上的特定文本,如布什与“惨败”。只要有足够多的例子,搜索引擎的算法就会错误地将这些词语理解为热门链接。这就产生了各种有趣的结果,例如在谷歌搜索“骗子”和“狮子狗”,会出现当时英国首相托尼·布莱尔的网页,而搜索“危险的邪教”排在第一位的结果则是山达基教会的网站。

2007年,谷歌调整了算法,以防止出现更多“谷歌炸弹”。然而,“谷歌炸弹”的幽灵又再次纠缠上这家科技巨头,而且这次是因为他们自己的技术失误。

谷歌今年5月推出人工智能驱动的搜索概述后,用户很快发现这些概述有时会提供虚假和古怪的结果。如果你询问谷歌携带剪刀跑步的好处,它会告诉你,这是一项很好的有氧运动,可以“改善毛孔,增强体力”。还有一条查询让谷歌推荐石头对健康的好处,这显然是参考了洋葱网的一篇讽刺文章。

对于记者的问题,谷歌的人工智能概述回答说:“吃合适的石头对你有好处,因为它们含有对身体健康很重要的矿物质。”

“在披萨里加胶水”的问题依旧存在

然而,在互联网上引起最大骚动的是人工智能概述建议“在酱汁中混入约1/8杯无毒胶水”,以防止奶酪从披萨上滑落。

谷歌的一位发言人当时没有理会这种错误结果,而是写道:“我们看到的例子一般都是很不常见的查询,并不能代表大多数人的经历。”他们还表示,“绝大多数”人工智能概述都提供了高质量的信息,并附有链接,以便查询者深入搜索。

然而,尽管谷歌公开表示对其新的人工智能工具充满信心,该公司却悄悄地开始降低其曝光度。根据内容营销平台BrightEdge的研究,谷歌逐渐将人工智能概述在搜索结果中的出现率从84%降至15%。

谷歌的一位发言人对这一数据提出了质疑,指出这些数据与公司所看到的数据存在差异。他们还表示,这很可能是因为BrightEdge研究的查询集范围较窄,并非谷歌搜索流量的代表性样本,包括了那些选择不显示人工智能概述的用户。

人工智能概述有时仍会出现的一个例子,就是曾在互联网上引起轩然大波的“披萨中加胶水”的结果。The Verge最近报道说,如果你问谷歌披萨里要加多少胶水,它也会给出同样的结果,只是这次引用了Business Insider一篇关于这次失败案例的文章。

这意味着,似乎随着越来越多记者撰写关于荒谬的人工智能概述的文章,向算法中反馈的内容就会越多,使其产生同样的错误结果。这是一种自我实现的反馈循环,让人不禁回想起当年谷歌轰炸时期的荒诞,只是唯一的恶作剧者是谷歌自己。

当《财富》记者尝试搜索披萨、奶酪和胶水时,没有弹出任何人工智能概述,这可能意味着谷歌已经发现了他们连续的失误,并及时调整了他们的平台。

谷歌发言人表示,大量搜索仍会显示这些查询结果,但谷歌正在对该技术进行调整。

他们对《财富》杂志表示:“我们正在继续完善显示人工智能概述的时间和方式,使它们尽可能有用,包括通过技术更新提高回答的质量。”(财富中文网)

翻译:刘进龙

审校:汪皓

If you Googled “miserable failure” in 2005, President George W. Bush’s official biography on the White House website would show up as the top result.

This was not a political act on the tech company’s part, but rather, a prank. Early jokesters of the internet may remember the 2000s fun of “Google bombing,” of which the Bush insult is the most famous.

Google bombing occurred when trollers linked a webpage – like Bush’s biography – to specific text on their own sites – like, in Bush’s case, “miserable failure.” With enough instances, the search engine’s algorithm misinterpreted the terms as popularly linked. This created all kinds of entertaining results: Googling “Liar” and “poodle” produced the webpage for UK’s prime minister at the time, Tony Blair, while “Dangerous cult” returned the Church of Scientology’s website as the first result.

Google adjusted its algorithm to prevent further Googlebombs in 2007. However, the ghost of Googlebombs has come back to haunt the tech giant, and this time, it’s through their own technological goof.

After Google rolled out an AI-powered search overview in May, users quickly noticed the false and wacky results that these overviews sometimes provided. If you asked Google about the health benefits of running with scissors, it told you the activity was a good cardio exercise to “improve your pores and give you strength.” Another query led Google to recommend the health benefits of rocks, apparently referencing a satirical article from the Onion.

“Eating the right rocks can be good for you because they contain minerals that are important for your body’s health,” Google’s AI overview replied to a reporter’s query. 

‘Glue in pizza’ remains strong

However, nothing made the internet riot as much as a suggestion from the AI Overview to “mix about 1/8 cup of non-toxic glue into the sauce” to keep cheese from sliding off your pizza slice.

A spokesperson from Google brushed off the false results, writing at the time that “the examples we’ve seen are generally very uncommon queries, and aren’t representative of most people’s experiences.” They added that the “vast majority” of AI Overviews provide high quality information, with links to allow the inquiring person to dig deeper into a search.

However, even as Google publicly expressed confidence in its new AI tool, the company quietly began reducing its visibility. Google gradually reduced the amount that AI Overviews popped up in search results from 84% to 15%, according to research from content marketing platform BrightEdge.

A spokesperson from Google disputed the data, noting that the numbers were different than what the company had seen. They added that this was likely because BrightEdge looked at a narrowed query set that is not a representative sample of Google Search traffic, including those who had opted out of AI overviews.

One example where AI overviews sometimes still shows up is the same glue-in-pizza result that had the internet rolling. The Verge recently reported that if you ask Google how much glue to add to your pizza, it will give the same result, only this time citing an article from Business Insider about the fiasco.

Which means that,it seems like the more journalists write about the ridiculous AI Overviews, the more it feeds the algorithm to produce the same, wrong results. It’s a kind of self-fulfilling feedback loop that recalls the absurdity of the Googlebombing days, although the only troll in play is Google itself.

When Fortune reporters attempted various searches for pizza, cheese, and glue, no AI overview would pop up, possibly meaning that Google may have caught wind of their continuous blunders and promptly adjusted their platform.

The Google spokesperson said the queries continue to show for a large number of searches, but the technology is undergoing edits.

“We’re continuing to refine when and how we show AI Overviews so they’re as useful as possible, including technical updates to improve response quality,” they told Fortune.

0条Plus
精彩评论
评论

撰写或查看更多评论

请打开财富Plus APP

前往打开