利用Python抓取和解析网页(上)
对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说，经常用到对网页(即HTML文件)的解析处理。事实上，通过Python语言提供的各种模块，我们无需借助Web服务器
或
者Web浏览器就能够解析和处理HTML文档。本文将详细介绍如何利用Python抓取和解析网页。首先，我们介绍一个可以帮助简化打开位于本地和Web
上的HTML文档的Python模块，然后，我们论述如何使用Python模块来迅速解析在HTML文件中的数据，从而处理特定的内容，如链接、图像和
Cookie等。最后，我们会给出一个规整HTML文件的格式标签的例子，通过这个例子您会发现使用python处理HTML文件的内容是非常简单的一件
事情。
一、解析URL
通过Python所带的urlparse模块，我们能够轻松地把URL分解成元件，之后，还能将这些元件重新组装成一个URL。当我们处理HTML 文档的时候，这项功能是非常方便的。
import
urlparse
parsedTuple
=
urlparse.urlparse(
"
http://www.google.com/search?
hl
=
en
&
q
=
urlparse
&
btnG
=
Google
+
Search
"
)
unparsedURL
=
urlparse.urlunparse((URLscheme, \
URLlocation, URLpath,
''
,
''
,
''
))
newURL
=
urlparse.urljoin(unparsedURL,
"
/module-urllib2/request-objects.html
"
)
函数urlparse(urlstring [, default_scheme [,
allow_fragments]])的作用是将URL分解成不同的组成部分，它从urlstring中取得URL，并返回元组 (scheme,
netloc, path, parameters, query, fragment)。注意，返回的这个元组非常有用，例如可以用来确定网络
协议(HTTP、FTP等等 )、服务器
地址、文件路径，等等。
函数urlunparse(tuple)的作用是将URL的组件装配成一个URL，它接收元组(scheme, netloc, path,
parameters, query, fragment)后，会重新组成一个具有正确格式的URL，以便供Python的其他HTML解析模块使用。
函数urljoin(base, url [, allow_fragments])
的作用是拼接URL，它以第一个参数作为其基地址，然后与第二个参数中的相对地址相结合组成一个绝对URL地址。函数urljoin在通过为URL基地址
附加新的文件名的方式来处理同一位置处的若干文件的时候格外有用。需要注意的是，如果基地址并非以字符/结尾的话，那么URL基地址最右边部分就会被这个
相对路径所替换。比如，URL的基�
相关文档：
Python中字符串被定义为引号之间的字符集合。Python支持使用成对的单引号或双引号，三引号包含的字符串。
使用索引操作符([])和切片操作符([:])可以得到子字符串。字符串有其特有的索引规则：第一个字符的索引是０
，最后一个字符的索引是-1。
加号(+)用于字符串连接运算，星号(*)则用于字符串重复。如下例：
pystr = " ......
能整理大部分无用文件
#!/usr/bin/python
#syscleaner.py
import os
import os.path
#delete files and directory recursively
def itedel(dir):
print('in dir :'+dir)
for doc in os.listdir(dir):
try:
if(os.path.isdir(doc)):
itedel(dir+'\\'+doc)
......
1. 9.7 正则表达式与 re 模块
一个正则表达式就是一个用来表示某种模式的字符串。它能帮助你方便的检查一个字符串是否与某种模式匹配。
re 模块使 Python 语言拥有全部的正则表达式功能。 compile 函数根据一个模式字符串和可选的标志参数生成一个正则表达式对象。该对象拥有一系列方法用于正则表达式匹配和替换。 re 模 ......
使用python.vim使python代码高亮
http://www.vim.org/scripts/script.php?script_id=790
使用
Pydiction插件使vim增加tab代码提示功能
http://www.vim.org/scripts/script.php?script_id=850
具体安装方法可以参照帮助或者README，因为版本变化会导致安装方法上产生差异
编辑~/.vimrc文件增加下面选项
set nu 增加行 ......
一、什么是Python？
对于这种问题我们来百度一下就可以了。
“Python是一种开放源代码的脚本编程语言，这种脚本语言特别强调开发速度和代码的清晰程度。它可以用来开发各种程序，从简单的脚本任务到复杂的、面向对象的应用程序都有大显身手的地方。Python还被当作一种入门程序员最适合掌握的优秀语言，因为它免费、� ......
