小白是个微软迷，他的偶像是比尔大叔，原因当然是地球人都知道啦。大二的时候，他的“辍学计划”曾一度得逞，原因是他挂科太多。当然，大三新学期开始的时候，面对公众质疑，小白站在椅子上，像极了《大内密探零零发》里的西门吹雪：“世界首富比不一定有多出色，这只不过是你们这些星斗市民一厢情愿的想法罢了。”
每天小白都会在宿舍转悠，好像很“孤独”，嘴里念念有词：“这个世界正在发生着翻天覆地的变化，而我们却像毛驴似的生活。”最后，他总会来一句：“我要成立第二个谷歌！”
这节课，我们就会了解搜索引擎，还会编写一个小型的网络爬虫。
搜索引擎有哪几部分构成？
首先感谢这张图的原作者，主要还是要感谢Country。通过这张图，我们可以看到：首先，网络蜘蛛抓取网页，将网页内容及链接存到数据库中。然后由索引模块建立关键词到网址的索引，供检索模块查询。检索模块是根据你输入的内容从索引数据库提取数据。主要模块介绍如下：
网页抓取模块：包括Crawler和Crawler control，其中Crawler负责抓取并分析网页链接，返回page和url；Crawler control负责控制、调度Crawler。
网页存储模块:Page cache，用于存储Crawler抓取到的网页内容。
索引模块:建立关键词到链接和网页的索引。
检索模块：将要查询的内容分解为适合查询的词。
用户接口：接受用户输入，传递到检索模块。
接下来的课程里我们会根据所学的Python知识开发一个小型的搜索引擎。名字叫Sparrow即麻雀，意思是“麻雀虽小，五脏俱全”。我们的“麻雀”会随着我们知识的增加而越飞越高，说不定会变成凤凰呢。当然，现在它还没有起飞。
让我们开始搜索引擎之旅吧！
首先我们要学习的模块是网页抓取模块（Crawler），又叫做网络蜘蛛（Spider）。
这个模块由Crawler类来完成，该类初始化时首先接受Crawler control模块传递的url，执行完毕最后返回网页内容page和网页内出现的url链接link。源码如下：
import urllib.request #用于获取网页内容
import urllib.parse #解析网址的模块
import re #正则表达式
import queue #操作队列的模块
class Crawler(object): #网络�
from: http://www.cnblogs.com/jimnox/archive/2009/12/08/tips-to-python-challenge.html
Python Challenge是一个网页闯关游戏，通过一些提示找出下一关的网页地址。与众不同的是，它是专门为程序员设计的，因为大多数关卡都要编程来算哦！！
去年和同学一起玩的，他做了大半，我做了小半，作弊了一些，33关全通，� ......
1． 首先就是在编译器中把python安装目录include/与libs/加入，对于这点我在vc6中可以，但是在dev c++中即使加入了编译也会出错，说找不到python头文件，这点比较郁闷，不过考虑到一般windows编程都用的是vc，所以并没有什么影响吧！！！
然后用#include <Python.h>就可以把python的主头文件包含进来了。
但� ......
译者言：
早在 2008 年 8 月，我就曾在自己的博客发表了一篇《为什么<Dive into Python>不值得推荐》（http://blog.csdn.net/lanphaday/archive/2008/08/28/2845258.aspx
），当时引起的讨论就不多说了，不过事实上到今天仍然有许多朋友留言与我讨论，让我几次贼心不死，想写再深入批判。好运的时候在我真正攒足动� ......
