利用Python抓取和解析网页(上)
对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说，经常用到对网页(即HTML文件)的解析处理。事实上，通过Python语言提供的各种模块，我们无需借助Web服务器
或
者Web浏览器就能够解析和处理HTML文档。本文将详细介绍如何利用Python抓取和解析网页。首先，我们介绍一个可以帮助简化打开位于本地和Web
上的HTML文档的Python模块，然后，我们论述如何使用Python模块来迅速解析在HTML文件中的数据，从而处理特定的内容，如链接、图像和
Cookie等。最后，我们会给出一个规整HTML文件的格式标签的例子，通过这个例子您会发现使用python处理HTML文件的内容是非常简单的一件
事情。
一、解析URL
通过Python所带的urlparse模块，我们能够轻松地把URL分解成元件，之后，还能将这些元件重新组装成一个URL。当我们处理HTML 文档的时候，这项功能是非常方便的。
import
urlparse
parsedTuple
=
urlparse.urlparse(
"
http://www.google.com/search?
hl
=
en
&
q
=
urlparse
&
btnG
=
Google
+
Search
"
)
unparsedURL
=
urlparse.urlunparse((URLscheme, \
URLlocation, URLpath,
''
,
''
,
''
))
newURL
=
urlparse.urljoin(unparsedURL,
"
/module-urllib2/request-objects.html
"
)
函数urlparse(urlstring [, default_scheme [,
allow_fragments]])的作用是将URL分解成不同的组成部分，它从urlstring中取得URL，并返回元组 (scheme,
netloc, path, parameters, query, fragment)。注意，返回的这个元组非常有用，例如可以用来确定网络
协议(HTTP、FTP等等 )、服务器
地址、文件路径，等等。
函数urlunparse(tuple)的作用是将URL的组件装配成一个URL，它接收元组(scheme, netloc, path,
parameters, query, fragment)后，会重新组成一个具有正确格式的URL，以便供Python的其他HTML解析模块使用。
函数urljoin(base, url [, allow_fragments])
的作用是拼接URL，它以第一个参数作为其基地址，然后与第二个参数中的相对地址相结合组成一个绝对URL地址。函数urljoin在通过为URL基地址
附加新的文件名的方式来处理同一位置处的若干文件的时候格外有用。需要注意的是，如果基地址并非以字符/结尾的话，那么URL基地址最右边部分就会被这个
相对路径所替换。比如，URL的基�
相关文档：
http://code.google.com/p/shedskin/ Shed Skin 0.3 - support for 3 new standard library modules (now about 20 in total): - itertools (jeremie roquet) - heapq (jeremie roquet) - csv (converted using shedskin) - 4 new example programs (now 44 in total!): - maximum weighted matching al ......
转自 http://www.javaeye.com/topic/561786
原帖：http://www.cnblogs.com/jingleguo/archive/2008/06/02/1211820.html
当python中间处理非ASCII编码时，经常会出现如下错误：
UnicodeDecodeError: 'ascii' codec can't decode byte 0x?? in position 1: ordinal not in range(128)
0x??是超出128的数字，python在默认� ......
write by 九天雁翎(JTianLing) -- blog.csdn.net/vagrxie
讨论新闻组及文件
原文来自：《JavaScript for C & Python programmers
》，经过作者Canis允许后翻译，即使转载请附带此链接。
前言：很少干翻译的事情，累，辛苦，不能发挥，典型的费力不讨好，最近无聊，想在网页上显示动画（因为CSDN� ......
twisted是一个专门用于python的网络开发的框架。可以说是现在python中新的一支至力于发展高性能网络开发的框架，发展很稳定。
http://twistedmatrix.com/trac/
http://www-128.ibm.com/developerworks/cn/linux/network/l-twist/part1/index.html
http://wiki.woodpecker.org.cn/moin/PyTwisted ......
