利用Python抓取和解析网页(上)
对搜索引擎、文件索引、文档转换、数据检索、站点备份或迁移等应用程序来说，经常用到对网页(即HTML文件)的解析处理。事实上，通过Python语言提供的各种模块，我们无需借助Web服务器
或
者Web浏览器就能够解析和处理HTML文档。本文将详细介绍如何利用Python抓取和解析网页。首先，我们介绍一个可以帮助简化打开位于本地和Web
上的HTML文档的Python模块，然后，我们论述如何使用Python模块来迅速解析在HTML文件中的数据，从而处理特定的内容，如链接、图像和
Cookie等。最后，我们会给出一个规整HTML文件的格式标签的例子，通过这个例子您会发现使用python处理HTML文件的内容是非常简单的一件
事情。
一、解析URL
通过Python所带的urlparse模块，我们能够轻松地把URL分解成元件，之后，还能将这些元件重新组装成一个URL。当我们处理HTML 文档的时候，这项功能是非常方便的。
import
urlparse
parsedTuple
=
urlparse.urlparse(
"
http://www.google.com/search?
hl
=
en
&
q
=
urlparse
&
btnG
=
Google
+
Search
"
)
unparsedURL
=
urlparse.urlunparse((URLscheme, \
URLlocation, URLpath,
''
,
''
,
''
))
newURL
=
urlparse.urljoin(unparsedURL,
"
/module-urllib2/request-objects.html
"
)
函数urlparse(urlstring [, default_scheme [,
allow_fragments]])的作用是将URL分解成不同的组成部分，它从urlstring中取得URL，并返回元组 (scheme,
netloc, path, parameters, query, fragment)。注意，返回的这个元组非常有用，例如可以用来确定网络
协议(HTTP、FTP等等 )、服务器
地址、文件路径，等等。
函数urlunparse(tuple)的作用是将URL的组件装配成一个URL，它接收元组(scheme, netloc, path,
parameters, query, fragment)后，会重新组成一个具有正确格式的URL，以便供Python的其他HTML解析模块使用。
函数urljoin(base, url [, allow_fragments])
的作用是拼接URL，它以第一个参数作为其基地址，然后与第二个参数中的相对地址相结合组成一个绝对URL地址。函数urljoin在通过为URL基地址
附加新的文件名的方式来处理同一位置处的若干文件的时候格外有用。需要注意的是，如果基地址并非以字符/结尾的话，那么URL基地址最右边部分就会被这个
相对路径所替换。比如，URL的基�
相关文档：
转载自：http://purpen.javaeye.com/blog/98095
python 执行系统命令比较
关键字: python os system 系统命令
在此比较一下两种方法执行系统命令的方法,以方便于日后运用:(
1. os.system()
system(command) -> exit_status
Execute the ......
能整理大部分无用文件
#!/usr/bin/python
#syscleaner.py
import os
import os.path
#delete files and directory recursively
def itedel(dir):
print('in dir :'+dir)
for doc in os.listdir(dir):
try:
if(os.path.isdir(doc)):
itedel(dir+'\\'+doc)
......
之前写了一个自动解压压缩文件到压缩文件所在文件夹的脚本
后根据自己需要，写了另外两个。原理一样
都是使用winrar的命令
第一个脚本没考虑周到，只能解压rar文件
改进后可以支持winrar支持的各种文件
把指定文件夹下的文件保存到指定文件夹
#rardir.py
import os
import sys
src=sys.argv[1]
dst=sys.argv[2]
......
[root@pku-fan MySQL]# cat limbs.sql
CREATE DATABASE cookbook;
USE cookbook;
DROP TABLE IF EXISTS limbs;
CREATE TABLE limbs
(
thing VARCHAR(20), # what the thing is
legs INT, ......
公司的代理可以直接穿墙，自由访问Twitter、Facebook等网站，这两天研究了一下Twitter提供的API，用python写了一个twitter client，只实现了基本功能，查看自己的twitter消息，也可以不验证，查看public的twitter消息。其他功能实现类似。主要函数如下：
def fetch_with_proxy(proxy, username, password, url):
&n ......
