Java 多线程 爬虫程序（spider）设计与实现
当spider程序访问到一个网页，必须进行以下几项基本处理：抽取网页中包含的文本;抽取网页中包含的URL，并将其区分为网页中包含的文本；抽取网页中包含的URL，并将其区分为网站内URL或网站外URL。
2.2各主要功能 模块（类）设计
2.2.1 spider类
该类为主类，继承自线程类。它本事并不做获取网页的具体工作，而是协调其他各类共同完成任务。其主要类成员及方法如下：
2.2.2 spiderworker类
该类继承线程类，进行获取网页，抽取文本，URL等实际工作。
2.2.3 urlmanager类
该类管理所获得的各种URL，利用四种URL队列来管理。
等待队列:等待刚问的URL队列，队列中的URL一经访问完便进入完成队列或不可达URL队列。运行队列:正在访问的URL队列；完成队列：已访问过的URL队列；不可达队列：不可达的URL队列，即该URL对应的文件不可访问。
2.2.4 spiderwatcher类
该类用来监视各线程的运行情况数，能确定实时的活动线程数。
2.3 SPIDER 工作过程
a 给spider程序赋予一个初始URL，加入URL等待队列。
b根据需要确定线程池大小，启动n个线程。
c查询等待队列中是否有URL，若没有，且无其他活动线程序，线程结束；若有转 d。
d从URL等待队列中取出一个URL，并移入运行对流，根据该URL去访问，并进行网页下载，抽取文本，抽取链接等工作。若网页中包含URL，则把这些URL加入等待队列；吧访问过的URL加入完成队列，转c
3.1 java中线程的生命周期
java的线程从产生到消失，可分为四个状态：
a 新建状态：线程在已被创建但尚未执行这段时间内，处于新建状态。此时，线程对象已被分配内存空间 ，起私有数据已被初始化，但没有给其分配系统资源且线程未被调度。处于此状态的线程，可以通过调用start（）或stop（）函数来开始线程或终止线程。
b 运行状态：处于此状态的线程，说明它已取得处理器的控制权，正在执行中。
c 不能运行状态：当线程休眠，被挂起或等待某一资源时，它便进入不能运行状态。如果休眠时间过去，或已获得等待的资源，变重新进入运行状态。
d 死状态：当线程正常终止或强行终止时，进入死状态。此时，线程放弃所拥有的所有资源。
3.2 多线程同步
当同时运行的相互独立的线程需要共享数据并且需要考虑其他线程的状态时，就需要使用一套机制使得这些线程同步，避免在争用资源时发生冲突，甚至发
生死锁。java提供多种机制以实现线程同步�
相关文档：
create PROCEDURE pagelist
@tablename nvarchar(50),
@fieldname nvarchar(50)='*',
@pagesize int output,--每页显示记录条数
@currentpage int output,--第几页
@orderid nvarchar(50),--主键排序
@sort int,--排序方式，1表示升序，0表示降序排列
......
java多线程通信 收藏
转载请注明:来自http://blog.csdn.net/M_ChangGong/ 作者:张燕广
java多线程通信，模拟生产者-消费者关系。
第1种实现（该实现存在问题），具体代码如下：
view plaincopy to clipboardprint?
package com.zhangyg.thread.mytest;
/**
* 模拟生产者- ......
我们经常下载开源项目的源码在本地编译,是不是经常被一句"assert expression"给搞得编译不过去，经常是在老版本的jdk编译器下没办法，下面就向大家推荐一篇深入分析java assertion的文章。
一、assertion的语法和语义
J2SE 1.4在语言上提供了一个新特性，就是assertion(断言)功能，它是该版本在Java语言方面最� ......
0、 需要标识符
a) 不在函数内
1、 非法表达式开始
b) 可能:丢失括号 .
2. no data found
a) 可能:setInt(1,100)中,没有100这个值
3. 找不到符号
a) 可能:没导入包
4. 指定了无效URL
a) 可能:数据库名或IP错误,即连接出错
5. 类路径没有找到
a) 可能: ClassNotFoundException: oracle.jdbc.driver.Or ......
第二种简单的方法就是,在http://proguard.sourceforge.net/下载ZIP包.最新的是4.5BETA
解压缩后,双击proguardgui.jar
运行软件
最傻瓜的设置方法:设置好INPUT/OUTPUT,点PROCESS.结果就出来了.
生成了.a.class.b.class 用JAD反编译,JAD提示:不能完整的反编译....,打开编译后的代码变量和函数名全部被� ......
