谷歌搜索：几乎所有的英文搜索都用上BERT了
时间：2022-09-22 14:58:51 | 浏览：2334
机器之心报道
机器之心编辑部
BERT 是谷歌开源的一款自然语言处理预训练模型，一经推出就刷新了 11 项 NLP 任务的 SOTA 记录，登顶 GLUE 基准排行榜。
具体到搜索引擎来说，BERT 可以帮助搜索引擎更好地理解 web 页面上的内容，从而提高搜索结果的相关性。BERT 模型中创新性的Transformer架构是一大亮点。Transformer 处理一个句子中与所有其他单词相关的单词，而不是按顺序逐个处理。基于此，BERT 模型就可以借助某个单词前后的词来考虑其所处的完整语境，这对于理解查询语句背后的意图非常有用。
2019 年 9 月，谷歌宣布将 BERT 用到搜索引擎中，但仅有 10% 的英文搜索结果得到改善；2019 年 12 月，谷歌将 BERT 在搜索引擎中的使用扩展到 70 多种语言。如今，这家搜索巨头终于宣布：几乎所有英文搜索都能用上 BERT 了。
BERT 对于搜索引擎意味着什么？
作为自然语言处理领域里程碑式的进展，BERT 为该领域带来了以下创新：
利用无标签文本进行预训练；
双向上下文模型；
transformer 架构的应用；
masked 语言建模；
注意力机制；
文本蕴涵（下一句预测）；
……
这些特性使得 BERT 对于搜索引擎的优化非常有帮助，尤其是在消除歧义方面。用上 BERT 之后，对于比较长、会话性比较强的查询，或者在「for」、「to」等介词比较重要的语句中，谷歌搜索引擎将能够理解查询语句中词的上下文。用户可以用更加自然的方式进行搜索。
此外，BERT 对于搜索中的指代消解、一词多义、同形异义、命名实体确定、本文蕴涵等任务也有很大的帮助。其中，指代消解指的是追踪一个句子或短语在某个语境或广泛的会话查询中指代的是谁或什么东西；一词多义指同一个词有多个义项，几个义项之间有联系，搜索引擎需要处理模棱两可的细微差别；同形异义是指形式相同但意义毫不相同的词；命名实体确定是指从许多命名实体中了解文本与哪些相关；文本蕴含是指下一句预测。这些问题构成了搜索引擎面临的常见挑战。
在过去的一年，谷歌扩展了 BERT 在搜索引擎中的应用范围，「搜索引擎营销之父」Danny Sullivan 和 G-Squared Interactive 的 SEO 顾问 Glenn Gabe 等人在推特中介绍了谷歌搜索的最近亮点。
在谷歌搜索中，有十分之一的搜索查询拼写错误。很快，一项新的变革将帮助我们在检测和处理拼写错误方面取得比过去五年更大的进步。
另一个即将到来的变化是，谷歌搜索将能够识别网页中的单个段落，并将它们处理为与搜索最相关的段落。我们预计这会改善 7％的 Google 搜索查询。
Search On 2020：谷歌可以索引一个网页的段落，而不仅仅是整个网页。新算法可以放大一段回答问题的段落，而忽略页面的其余部分。从下个月开始。
使用人工智能，我们可以更好地检测视频的关键部分，并帮助人们直接跳到感兴趣的内容，而不需要创作者手动标记。到今年年底，10% 的谷歌搜索将使用这项技术。
此外，谷歌还表示，他们还应用神经网络来理解搜索相关的子主题，当你搜索宽泛的内容时，这有助于提供更多样化的内容。这项服务预计年底推出。
参考链接：
https://searchengineland.com/google-bert-used-on-almost-every-english-query-342193
https://searchengineland.com/a-deep-dive-into-bert-how-bert-launched-a-rocket-into-natural-language-understanding-324522
https://blog.google/products/search/search-on/
相关资讯
温柔到爆的仙女英文名
温柔到爆的仙女英文名精选英文名字是人们在现代生活中经常使用的一种名字格式，运用到很多方面。一、温柔到爆的仙女英文名治愈系——stella斯特拉stella源自于拉丁语，是一个非常温柔的女孩英文名，其本义是指明亮的星星，寓意女孩可以像星星一样给人美好的感受，同时星星是美丽的，具有神秘的色彩，给人美好的感受，寓意女孩像星星一样美丽闪亮。
特殊意义小众的英文名女
特殊意义小众的英文名女分享女生起一个具有特殊含义的小众英文名字，是很时尚的，同时也增加名字的与众不同。一、特殊意义小众的英文名女独特——heather希瑟heather这个英文名字指的是石楠花，这是一种很美丽的花朵，是北欧国家挪威的国花，象征着孤独、勇敢、敬佩，将指作为女孩的名字，寓意女孩不仅具有花朵的魅力之态，同时坚韧强大，勇气可嘉。
冷门又优美的英文名男
如下为冷门又优美的英文名男分享，希望大家喜欢。如下为冷门又优美的英文名男分享，希望大家喜欢。名字看起来很有特点，也是一个很冷门，并不常有的英文名。二、冷门又优美的英文名男不常见——patrick帕特里克patrick这个男生英文名字，从视觉上可以感知一种大气，有强大的韵味，凸显男士的阳刚气质。
仙气的森系女生英文名小众
仙气的森系女生英文名小众简单一个具有仙气的英文名字，给人的感觉是气质优雅的，具有清冷之气，很是动人，如下为仙气的森系女生英文名小众简单的内容，一起来看看吧。仙气的森系女生英文名小众小清新森系，是指具有森林那般的清新之感，藏有自然界的清新雅致韵味。
有高级感的女孩英文名
kay（克伊）名字源自拉丁语和古英语，是一个有着悠久历史的女生英文名，在其使用历史中，名字也形成了自己的印象，kay给人的印象是有个性、独立和自信，是一个简单但清冷高级的名字。sylvia（西尔维亚）此英文名源于拉丁语，意为“森林中的少女”，给人的感觉特别的森系和文艺。
高冷的英文名女生简短
——kay（克伊）“kay”其字母简短，读起来也十分好听，此名出自于拉丁语和古英语语种，是一个悠久历史的女生英文名，给人的印象是有个性、独立和自信，是一个简单高冷的名字。高冷的英文名女生简短起名方法很多女生都有着自己独特的个性，因此在选择起英文名之时，往往选择高冷简短的英文名，那么要如何起这类英文名字呢？
时尚英文名字男生高端大气
ramon一名起源于意大利语，是西班牙形式的raymond与泰罗尼亚语形式的raymond的结合，名字的寓意十分具有内涵，作为男生名字可有明智的，保护,细心，善于分析，有灵性的性格特征。莫霍克印第安人约瑟夫•布兰特是美国独立战争期间为英国作战的著名战略家。
t开头的寓意好的英文名
t开头的寓意好的英文名男英文名字和中文名字还是有着比较明显的差别的。其次，此名翻译过来有着“无价珍宝”的释义，寓意孩子典雅高贵、有创造力、积极向上，比较契合女孩的性格特点。(15)Tomas——音译为“托马斯”，释义为“双胞胎”，这个英文名字寓意精力充沛、多才多艺。
英文名女生小众独特少见高冷
英文名女生小众独特少见高冷带有独特少见之感的英文名字，对于女生来说，是十分别致的，要想女生迷人的魅力展现出来，取一个这样的名字很有必要，接下来一起看看英文名女生小众独特少见高冷。——prudence/普鲁登斯prudence这个女生的英文名字中文音译为“普鲁登斯”，是一个比较中性化的女孩英文名字，很是少见，因为给人独特小众之感。
公司英文名称大全，起个英文名更加高大上
一个好听的英文名称，可以让公司看起来更为与众不同，可以提升在行业的知名度，还能提升企业未来发展的方向，扩大消费群体，好处是非常多的。这也是现在许多创业者看重这类名字的重要原因，是拓展国际市场的必然要求。