越来越多的网站，开始采用"单页面结构"（Single-page application）。

　　整个网站只有一张网页，采用 Ajax 技术，根据用户的输入，加载不同的内容。

　　这种做法的好处是用户体验好、节省流量，缺点是 AJAX 内容无法被搜索引擎抓取。举例来说，你有一个网站。

http://example.com

　　用户通过井号结构的 URL，看到不同的内容。

http://example.com#1

http://example.com#2

http://example.com#3

　　但是，搜索引擎只抓取 example.com，不会理会井号，因此也就无法索引内容。

　　为了解决这个问题，Google 提出了"井号+感叹号"的结构。

http://example.com#!1

　　当 Google 发现上面这样的 URL，就自动抓取另一个网址：

http://example.com/?_escaped_fragment_=1

　　只要你把 AJAX 内容放在这个网址，Google 就会收录。但是问题是，"井号+感叹号"非常难看且烦琐。Twitter 曾经采用这种结构，它把

http://twitter.com/ruanyf

　　改成

http://twitter.com/#!/ruanyf

　　结果用户抱怨连连，只用了半年就废除了。

　　那么，有没有什么方法，可以在保持比较直观的 URL 的同时，还让搜索引擎能够抓取 AJAX 内容？

　　我一直以为没有办法做到，直到前两天看到了 Discourse 创始人之一的 Robin Ward 的解决方法，不禁拍案叫绝。

　　Discourse 是一个论坛程序，严重依赖 Ajax，但是又必须让 Google 收录内容。它的解决方法就是放弃井号结构，采用 History API。

　　所谓 History API，指的是不刷新页面的情况下，改变浏览器地址栏显示的 URL (准确说，是改变网页的当前状态)。这里有一个例子，你点击上方的按钮，开始播放音乐。然后，再点击下面的链接，看看发生了什么事？

　　地址栏的 URL 变了，但是音乐播放没有中断！

　　History API 的详细介绍，超出这篇文章的范围。这里只简单说，它的作用就是在浏览器的 History 对象中，添加一条记录。

window.history.pushState (state object, title, url);

　　上面这行命令，可以让地址栏出现新的 URL。History 对象的 pushState 方法接受三个参数，新的 URL 就是第三个参数，前两个参数都可以是 null。

window.history.pushState (null, null, newURL);

　　目前，各大浏览器都支持这个方法：Chrome（26.0+），Firefox（20.0+），IE（10.0+），Safari（5.1+），Opera（12.1+）。

　　下面就是 Robin Ward 的方法。

　　首先，用 History API 替代井号结构，让每个井号都变成正常路径的 URL，这样搜索引擎就会抓取每一个网页。

example.com/1

example.com/2

example.com/3

　　然后，定义一个 JavaScript 函数，处理 Ajax 部分，根据网址抓取内容（假定使用 jQuery）。

function anchorClick (link) {

var linkSplit = link.split ('/') .pop ();

$.get ('api/' + linkSplit, function (data) {

$('#content') .html (data);

});

}

　　再定义鼠标的 click 事件。

$('#container') .on ('click'， 'a'， function (e) {

window.history.pushState (null, null, $(this) .attr ('href'));

anchorClick ($(this) .attr ('href'));

e.preventDefault ();

});

　　还要考虑到用户点击浏览器的"前进 / 后退"按钮。这时会触发 History 对象的 popstate 事件。

window.addEventListener ('popstate'， function (e) {

anchorClick (location.pathname);

});

　　定义完上面三段代码，就能在不刷新页面的情况下，显示正常路径 URL 和 AJAX 内容。

　　最后，设置服务器端。

　　因为不使用井号结构，每个 URL 都是一个不同的请求。所以，要求服务器端对所有这些请求，都返回如下结构的网页，防止出现 404 错误。

<html>

<body>

<section id='container'></section>

<noscript>

... ...

</noscript>

</body>

</html>

　　仔细看上面这段代码，你会发现有一个 noscript 标签，这就是奥妙所在。

　　我们把所有要让搜索引擎收录的内容，都放在 noscript 标签之中。这样的话，用户依然可以执行 AJAX 操作，不用刷新页面，但是搜索引擎会收录每个网页的主要内容！

如何让搜索引擎抓取AJAX内容？ 转的更多相关文章

  1. 如何让搜索引擎抓取AJAX内容？

    越来越多的网站,开始采用"单页面结构"(Single-page application). 整个网站只有一张网页,采用Ajax技术,根据用户的输入,加载不同的内容. 这种做法的好处 ...

  2. PHPcurl抓取AJAX异步内容(转载)

    PHPcurl抓取AJAX异步内容 其实抓ajax异步内容的页面和抓普通的页面区别不大.ajax只不过是做了一次异步的http请求,只要使用firebug类似的工具,找到请求的后端服务url和传值的参 ...

  3. C#抓取AJAX页面的内容

    原文 C#抓取AJAX页面的内容 现在的网页有相当一部分是采用了AJAX技术,所谓的AJAX技术简单一点讲就是事件驱动吧(当然这种说法可能很不全面),在你提交了URL后,服务器发给你的并不是所有是页面 ...

  4. Scrapy爬虫框架教程（四）-- 抓取AJAX异步加载网页

    欢迎关注博主主页,学习python视频资源,还有大量免费python经典文章 sklearn实战-乳腺癌细胞数据挖掘 https://study.163.com/course/introduction ...

  5. C#利用phantomJS抓取AjAX动态页面

    在C#中,一般常用的请求方式,就是利用HttpWebRequest创建请求,返回报文.但是有时候遇到到动态加载的页面,却只能抓取部分内容,无法抓取到动态加载的内容. 如果遇到这种的话,推荐使用phan ...

  6. Python抓取视频内容

    Python抓取视频内容 Python 是一种面向对象.解释型计算机程序设计语言,由Guido van Rossum于1989年底发明,第一个公开发行版发行于1991年.Python语法简洁而清晰,具 ...

  7. scrapy实战4 GET方法抓取ajax动态页面(以糗事百科APP为例子)：

    一般来说爬虫类框架抓取Ajax动态页面都是通过一些第三方的webkit库去手动执行html页面中的js代码, 最后将生产的html代码交给spider分析.本篇文章则是通过利用fiddler抓包获取j ...

  8. robots.txt协议如何设置禁止搜索引擎抓取？

    什么情况下要设置禁止搜索引擎抓取自己的网站呢? 公司内部测试的网站,或者内部网,或者后台登录的页面,肯定不希望被外面的人搜索到,所以要禁止搜索引擎抓取.还有在我们的网站还未正式上线之前,我们需要做大量 ...

  9. 【java】抓取页面内容，提取链接（此方法可以http get无需账号密码的请求）

    package 网络编程; import java.io.BufferedReader; import java.io.BufferedWriter; import java.io.FileOutpu ...

随机推荐

  1. java.lang.ClassNotFoundException: org.apache.lucene.store.Directory

    看下你的lucene-core.jar有没有在WEB-INF\lib下.

  2. Linux学习 -- Shell编程 -- 流程控制

    if语句 单分支 if [ 条件判断式 ]; then 程序 fi 或者 if [ 条件判断式 ] then 程序 fi 例子: 双分支 if [ 条件判断式 ] then 程序 else 程序 fi ...

  3. Java8学习笔记----Lambda表达式 (转)

    Java8学习笔记----Lambda表达式 天锦 2014-03-24 16:43:30 发表于:ATA之家       本文主要记录自己学习Java8的历程,方便大家一起探讨和自己的备忘.因为本人 ...

  4. 忘了SA密码的SQL SERVER

    [暂时还未验证] SQL2008  如果 本地连接登录补上,也忘了Sa等管理账号的密码,可以通过单用户连接的方式登录 http://msdn.microsoft.com/zh-cn/library/m ...

  5. 博弈论最简单例子TacTicToe

    博弈论是人工智能中的一个分支.顾名思义就是下棋的算法.当然引申出来的应用可能不止用来下棋,也可以用来做游戏或者模拟战争策略等. 博弈的基本算法也是模拟人的思维,比如当自己下子时遍历所有可能寻求最有利步 ...

  6. 开源企业管理软件 ONES

    ONES 不是 ONS,基于AngularJS + ThnkPHP开发的企业管理系统平台,名字可以理解为ONES is a Niubility ERP System 或者 ONES Notonly a ...

  7. zf-启动项目报错Server 127.0.0.1 has no instance named dlx 解决办法

    由于百度出来的看不明白,于是我就在群里问,吴善如经理说:你这个问题我上次给李宽看过,用端口连,把instance去掉 然后我去掉之后 项目过程能够成功运行了,原来是这样

  8. byte[]和InputStream的相互转换

    1:byte[]转换为InputStream InputStream sbs = new ByteArrayInputStream(byte[] buf); 2:InputStream转换为Input ...

  9. 第2课 Linux操作系统简介

    1. Linux操作系统的构成 (1)内核(kernel) ①操作系统的核心,负责管理系统的进程.内存.设备驱动程序.文件和网络系统. ②控制系统和硬件之间的相互通信. ③决定着系统的性能和稳定性. ...

  10. thinkphp5.0 架构

    1.0 MVC的意义:MVC是一个设计模式,它强制性的使应用程序的输入.处理和输出分开.使用MVC应用程序被分成三个核心部件:模型(M).视图(V).控制器(C),它们各自处理自己的任务. 2.0入口 ...