Google会抓取AJAX内容吗?

在我的网站的主页上,我使用JQuery的ajax函数来下载最近的用户活动列表。

最近的活动显示在页面上,最近活动的每一行都包含指向执行活动的用户的用户配置文件的链接。

Google实际上是否会调用ajax调用此信息并将其用于计算页面相关性/链接汁流量?

我希望它不会,因为用户个人资料页面不是非常值得的Google索引,我不希望所有这些链接到用户个人资料页面,从而稀释我的主页链接汁流远离其他更重要的链接。

也许吧 。 如果您想保证Google不会抓取您的JSON响应, 请将它们放入robots.txt 。 但这不是安全问题; 实际上,它是cookies寻找“有趣”页面的第一个地方。 而其他爬虫可能会忽略它 。

Google肯定会在我们的页面中抓取内容,该内容仅在AJAX请求中引用。

我想知道谷歌是否正在浏览页面源,并寻找可能有效的URL,并测试他们是否有内容。

以下是我们的请求……可能会提供一些有关正在发生的事情的见解。

'$(document).ready(function() { $("#theDiv").block({ message: 'Getting latest content...' }); $.ajax({ url: '/content/pages/articles?count=4&part=true', success: function(data) { $('#theDiv').html(data); $("#theDiv").unblock(); } }); });` 

是的,Google会抓取使用javascript创建的动态内容。 它可以在加载后识别DOM,包括对标题标签的修改。 它还可以跟随使用onclick事件处理程序创建的链接。

在这里阅读: http : //searchengineland.com/tested-googlebot-crawls-javascript-heres-learned-220157

但是,对于您的个人资料链接,它会尊重nofollow。

Google现在可以让您在AJAX页面上启用抓取function。 如果您的链接包含“#!”,那么Google会将其更改为“?_escaped_fragment_ =”并从您的服务器请求该文档。 但是,当它在搜索结果中显示该页面时,它将显示带有“#!”的原始URL。

http://code.google.com/web/ajaxcrawling/docs/learn-more.html

谷歌本身并没有抓取AJAX内容,但它提出了一个让AJAX内容抓取的方案。 我写了一篇文章来解释它是如何工作的。 它还包含非常简单的代码,用于演示AJAX内容的Google Crawling Scheme。 在这里找到它: http//www.tayyabali.com/seo-ajax-content-asp-net-code-to-crawl-ajax

这里有一些关于JAX地址插件制作者的AJAX爬行信息 。

对于Ruby用户,有一个gem可以相对轻松地处理这个…. google_ajax_crawler Github repo在这里 ,关于在codeabode上使用它为backbonejs的写作