links = page.getHtml()
+ .$("div.title") //css 选择,Java里虽然很少有$符号出现,不过貌似$作为方法名是合法的
+ .xpath("//@href") //提取链接
+ .regex(".*blog.*") //正则匹配过滤
+ .all(); //转换为string列表
+
+webmagic包括一个对于页面正文的自动抽取的类**SmartContentSelector**。相信用过Evernote Clearly都会对其自动抽取正文的技术印象深刻。这个技术又叫**Readability**。当然webmagic对Readability的实现还比较粗略,但是仍有一些学习价值。
+
+基于Saxon,webmagic提供了XPath2.0语法的支持。XPath2.0语法支持内部函数、逻辑控制等,是一门完整的语言,如果你熟悉XPath2.0语法,倒是不妨一试(需要引入**webmagic-saxon**包)。
+
+**webmagic-samples**包里有一些为某个站点定制的PageProcessor,供学习之用。
+
+#### Downloader(页面下载)
+
+**Downloader**是webmagic中下载页面的接口,主要方法:
+
+* public Page download(Request request, Task task)
+
+ **Request**对象封装了待抓取的URL及其他信息,而Page则包含了页面下载后的Html及其他信息。Task是一个包装了任务对应的Site信息的抽象接口。
+
+* public void setThread(int thread)
+
+ 因为Downloader一般会涉及连接池等功能,而这些功能与多线程密切相关,所以定义了此方法。
+
+目前有几个Downloader的实现:
+
+* HttpClientDownloader
+
+ 集成了**Apache HttpClient**的Downloader。Apache HttpClient(4.0后整合到HttpCompenent项目中)是强大的Java http下载器,它支持自定义HTTP头(对于爬虫比较有用的就是User-agent、cookie等)、自动redirect、连接复用、cookie保留、设置代理等诸多强大的功能。
+
+* SeleniumDownloader
+
+ 对于一些Javascript动态加载的网页,仅仅使用http模拟下载工具,并不能取到页面的内容。这方面的思路有两种:一种是抽丝剥茧,分析js的逻辑,再用爬虫去重现它;另一种就是:内置一个浏览器,直接获取最后加载完的页面。**webmagic-selenium**包中整合了Selenium到SeleniumDownloader,可以直接进行动态加载页面的抓取。
+
+#### Scheduler(URL管理)
+
+**Scheduler**是webmagic的管理模块,通过实现Scheduler可以定制自己的URL管理器。Scheduler包括两个主要方法:
+
+* public void push(Request request,Task task)
+
+ 将待抓取URL加入Scheduler。Request对象是对URL的一个封装,还包括优先级、以及一个供存储数据的Map。Task仍然用于区分不同任务,在多个任务公用一个Scheduler时可以此进行区分。
+
+* public Request poll(Task task)
+
+ 从Scheduler里取出一条请求,并进行后续执行。
+
+webmagic目前有三个Scheduler的实现:
+
+* QueueScheduler
+
+ 一个简单的内存队列,速度较快,并且是线程安全的。
+
+* FileCacheQueueScheduler
+
+ 使用文件保存队列,它可以用于耗时较长的下载任务,在任务中途停止后(手动停止或者程序崩溃),下次执行仍然从中止的URL开始继续爬取。
+
+* RedisScheduler
+
+ 使用redis存储URL队列。通过使用同一台redis服务器存储URL,webmagic可以很容易的在多机部署,从而达到分布式爬虫的效果。
+
+#### Pipeline(后续处理和持久化)
+
+**Pipeline**是最终抽取结果进行输出和持久化的接口。它只包括一个方法:
+
+* public void process(ResultItems resultItems,Task task)
+
+ **ResultItems**是集成了抽取结果的对象。通过ResultItems.get(key)可以获取抽取结果。Task同样是用于区分不同任务的对象。
+
+webmagic包括以下几个Pipeline的实现:
+
+* ConsolePipeline
+
+ 直接输出结果到控制台,测试时使用。
+
+* FilePipeline
+
+ 输出结果到文件,每个URL单独保存到一个页面,以URL的MD5结果作为文件名。通过构造函数`public FilePipeline(String path)`定义存储路径,**以下使用文件持久化的类,多数都使用此方法指定路径**。
+
+* JsonFilePipeline
+
+ 以JSON输出结果到文件(.json后缀),其他与FilePipeline相同。
+
+webmagic目前不支持持久化到数据库,但是结合其他工具,持久化到数据库也是很容易的。这里不妨看一下[webmagic结合JFinal持久化到数据库的一段代码](http://www.oschina.net/code/snippet_190591_23456)。因为JFinal目前还不支持maven,所以这段代码并没有放到webmagic-samples里来。
+
+
+
+## webmagic-extension
+
+webmagic-extension是为了开发爬虫更方便而实现的一些功能模块。这些功能完全基于webmagic-core的框架,包括注解形式编写爬虫、分页、分布式等功能。
+
+### 注解模块
+
+webmagic-extension包括注解模块。为什么会有注解方式?
+
+因为PageProcessor的方式灵活、强大,但是没有解决两个问题:
+
+* 对于一个站点,如果想抓取多种格式的URL,那么必须在PageProcesser中写判断逻辑,代码难以管理。
+* 抓取结果没有对应Model,并不符合Java程序开发习惯,与一些框架也无法很好整合。
+
+注解的核心是Model类,本身是一个POJO,这个Model类用于传递、保存页面最终抓取结果数据。注解方式直接将抽取与数据绑定,以便于编写和维护。
+
+注解方式其实也是通过一个PageProcessor的实现--ModelPageProcessor完成,因此对webmagic-core代码没有任何影响。
+
+注解部分包括以下内容:
+
+* #### TargetUrl
+
+ "TargetUrl"表示这个Model对应要抓取的URL,它包含两层意思:符合这个条件的URL会被加入抓取队列;符合这个条件的URL会被这个Model抓取。TargetUrl可以**sourceRegion**指定提取URL的区域(仅支持XPath)。
+
+ TargetUrl使用了正则表达式,匹配 "http://my.oschina.net/flashsword/blog/150039" 格式的URL。webmagic对正则表达式进行了修改,"."仅表示字符"."而不代表任意字符,而"\*"则代表了".\*",例如"http://\*.oschina.net/\*"代表了oschina所有的二级域名下的URL。
+
+ 与TargetUrl相似的还有**HelpUrl**,HelpUrl表示:仅仅抓取该URL用作链接提取,并不对它进行内容抽取。例如博客正文页对应TargetUrl,而列表页则对应HelpUrl。
+
+* #### ExtractBy
+
+ * ##### 用于字段
+
+ "ExtractBy"可用于类以及字段。用于字段时,定义了字段抽取的规则。抽取的规则默认使用[**XPath**](http://www.w3school.com.cn/xpath/),也可以选择使用CSS Selector、正则表达式(通过设置type)。
+
+ ExtractBy还有几个扩展属性。**multi**表示是否抽取列表,当然,设置为multi时,你需要一个List字段去容纳它。**notnull**则表示,此字段不允许为null,若为null则放弃整个对象。
+
+ * ##### 用于类
+ "ExtractBy"用于类时,则限定了字段抽取的区域。用于类时仍支持multi,multi则表示一个页面可以抽取到多个对象。
+
+ * ##### ExtractByRaw & ExtractByUrl
+
+ 在类使用"ExtractBy"修饰后,字段的"ExtractBy"使用的是其抽取的结果,如果仍然想要抽取原HTML,可以使用"ExtractByRaw"。与此类似的还有"ExtractByUrl",表示从URL中抽取信息。ExtractByUrl只支持正则表达式。
+
+ * ##### ExtractBy2 ExtractBy3
+
+ "ExtractBy"、"ExtractByRaw"支持链式抽取,通过增加注解"ExtractBy2"、"ExtractBy3"实现。
+
+* #### AfterExtractor
+
+ AfterExtractor接口是对注解方式抽取能力不足的补充。实现AfterExtractor接口后,会在**使用注解方式填充完字段后**调用**afterProcess()**方法,在这个方法中可以直接访问已抽取的字段、补充需要抽取的字段,甚至做一些简单的输出和持久化操作(并不是很建议这么做)。这部分可以参考[webmagic结合JFinal持久化到数据库的一段代码](http://www.oschina.net/code/snippet_190591_23456)。
+
+* #### OOSpider
+ OOSpider是注解式爬虫的入口,这里调用**create()**方法将OschinaBlog这个类加入到爬虫的抽取中,这里是可以传入多个类的,例如:
+
+ OOSpider.create(
+ Site.me().addStartUrl("http://www.oschina.net"),
+ new ConsolePageModelPipeline(),
+ OschinaBlog.clas,OschinaAnswer.class).run();
+
+ OOSpider会根据TargetUrl调用不同的Model进行解析。
+
+* #### PageModelPipeline
+ 可以通过定义PageModelPipeline来选择结果输出方式。这里new ConsolePageModelPipeline()是PageModelPipeline的一个实现,会将结果输出到控制台。
+
+* #### 分页
+
+ 处理单项数据分页(例如单条新闻多个页面)是爬虫一个比较头疼的问题。webmagic目前对于分页的解决方案是:在注解模式下,Model通过实现**PagedModel**接口,并引入PagedPipeline作为第一个Pipeline来实现。具体可以参考webmagic-samples中抓取网易新闻的代码:**us.codecraft.webmagic.model.samples.News163**。
+
+ 关于分页,这里有一篇对于webmagic分页实现的详细说明的文章[关于爬虫实现分页的一些思考](http://my.oschina.net/flashsword/blog/150039)。
+ 目前分页功能还没有分布式实现,如果实现RedisScheduler进行分布式爬取,请不要使用分页功能。
+
+### 分布式
+
+webmagic-extension中,通过redis来管理URL,达到分布式的效果。但是对于分布式爬虫,仅仅程序能够分布式运行,还满足不了大规模抓取的需要,webmagic可能后期会加入一些任务管理和监控的功能,也欢迎各位用户为webmagic提交代码,做出贡献。
+
+
diff --git a/webmagic-core/README.md b/webmagic-core/README.md
index 4964e16..90a6f0a 100644
--- a/webmagic-core/README.md
+++ b/webmagic-core/README.md
@@ -1,3 +1,3 @@
webmagic-core
-------
-webmagic核心部分。
\ No newline at end of file
+webmagic核心部分。只包含爬虫基本模块和基本抽取器。webmagic-core的目标是成为网页爬虫的一个教科书般的实现。
\ No newline at end of file
diff --git a/webmagic-core/pom.xml b/webmagic-core/pom.xml
index 60c37c0..cf42d2a 100644
--- a/webmagic-core/pom.xml
+++ b/webmagic-core/pom.xml
@@ -5,7 +5,7 @@
us.codecraft
webmagic
- 0.1.0
+ 0.2.0
4.0.0
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/Page.java b/webmagic-core/src/main/java/us/codecraft/webmagic/Page.java
index 40f17f0..eb2c132 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/Page.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/Page.java
@@ -9,7 +9,7 @@ import java.util.List;
/**
*
- *Page保存了上一次抓取的结果,并可定义待抓取的链接内容。
+ * Page保存了上一次抓取的结果,并可定义待抓取的链接内容。
*
* 主要方法:
* {@link #getUrl()} 获取页面的Url
@@ -19,6 +19,7 @@ import java.util.List;
* {@link #addTargetRequests(java.util.List)} {@link #addTargetRequest(String)} 添加待抓取的链接
*
*
+ *
* @author code4crafter@gmail.com
*/
public class Page {
@@ -36,9 +37,16 @@ public class Page {
public Page() {
}
+ public Page setSkip(boolean skip) {
+ resultItems.setSkip(skip);
+ return this;
+
+ }
+
/**
* 保存抽取的结果
- * @param key 结果的key
+ *
+ * @param key 结果的key
* @param field 结果的value
*/
public void putField(String key, Object field) {
@@ -47,6 +55,7 @@ public class Page {
/**
* 获取页面的html内容
+ *
* @return html 页面的html内容
*/
public Selectable getHtml() {
@@ -63,6 +72,7 @@ public class Page {
/**
* 添加待抓取的链接
+ *
* @param requests 待抓取的链接
*/
public void addTargetRequests(List requests) {
@@ -79,6 +89,7 @@ public class Page {
/**
* 添加待抓取的链接
+ *
* @param requestString 待抓取的链接
*/
public void addTargetRequest(String requestString) {
@@ -93,6 +104,7 @@ public class Page {
/**
* 添加待抓取的页面,在需要传递附加信息时使用
+ *
* @param request 待抓取的页面
*/
public void addTargetRequest(Request request) {
@@ -103,6 +115,7 @@ public class Page {
/**
* 获取页面的Url
+ *
* @return url 当前页面的url,可用于抽取
*/
public Selectable getUrl() {
@@ -111,6 +124,7 @@ public class Page {
/**
* 设置url
+ *
* @param url
*/
public void setUrl(Selectable url) {
@@ -119,6 +133,7 @@ public class Page {
/**
* 获取抓取请求
+ *
* @return request 抓取请求
*/
public Request getRequest() {
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/Request.java b/webmagic-core/src/main/java/us/codecraft/webmagic/Request.java
index 42dd079..905dbe5 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/Request.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/Request.java
@@ -1,5 +1,9 @@
package us.codecraft.webmagic;
+import java.io.Serializable;
+import java.util.HashMap;
+import java.util.Map;
+
/**
* Request对象封装了待抓取的url信息。
* 在PageProcessor中,Request对象可以通过{@link us.codecraft.webmagic.Page#getRequest()} 获取。
@@ -18,40 +22,95 @@ package us.codecraft.webmagic;
* String linktext = (String)page.getRequest().getExtra()[0];
* }
*
+ *
* @author code4crafter@gmail.com
- * Date: 13-4-21
- * Time: 上午11:37
+ * Date: 13-4-21
+ * Time: 上午11:37
*/
-public class Request {
+public class Request implements Serializable {
+
+ private static final long serialVersionUID = 2062192774891352043L;
private String url;
- private Object[] extra;
-
/**
- * 构建一个request对象
- * @param url 必须参数,待抓取的url
- * @param extra 额外参数,可以保存一些需要的上下文信息
+ * 额外参数,可以保存一些需要的上下文信息
*/
- public Request(String url, Object... extra) {
- this.url = url;
- this.extra = extra;
+ private Map extras;
+
+ private double priority;
+
+ public Request() {
}
/**
- * 获取预存的对象
- * @return object[] 预存的对象数组
+ * 构建一个request对象
+ *
+ * @param url 必须参数,待抓取的url
*/
- public Object[] getExtra() {
- return extra;
+ public Request(String url) {
+ this.url = url;
+ }
+
+ public double getPriority() {
+ return priority;
+ }
+
+ public Request setPriority(double priority) {
+ this.priority = priority;
+ return this;
+ }
+
+ public Object getExtra(String key) {
+ if (extras == null) {
+ return null;
+ }
+ return extras.get(key);
+ }
+
+ public Request putExtra(String key, Object value) {
+ if (extras == null) {
+ extras = new HashMap();
+ }
+ extras.put(key, value);
+ return this;
}
/**
* 获取待抓取的url
+ *
* @return url 待抓取的url
*/
public String getUrl() {
return url;
}
+ @Override
+ public boolean equals(Object o) {
+ if (this == o) return true;
+ if (o == null || getClass() != o.getClass()) return false;
+
+ Request request = (Request) o;
+
+ if (!url.equals(request.url)) return false;
+
+ return true;
+ }
+
+ public Map getExtras() {
+ return extras;
+ }
+
+ @Override
+ public int hashCode() {
+ return url.hashCode();
+ }
+
+ public void setExtras(Map extras) {
+ this.extras = extras;
+ }
+
+ public void setUrl(String url) {
+ this.url = url;
+ }
}
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/ResultItems.java b/webmagic-core/src/main/java/us/codecraft/webmagic/ResultItems.java
index 0c1d94c..7a8e5c3 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/ResultItems.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/ResultItems.java
@@ -5,8 +5,8 @@ import java.util.Map;
/**
* 保存抽取结果的类,由PageProcessor处理得到,传递给{@link us.codecraft.webmagic.pipeline.Pipeline}进行持久化。
- * @author yihua.huang@dianping.com
- * @date: 13-7-25
+ * @author code4crafter@gmail.com
+ * Date: 13-7-25
* Time: 下午12:20
*/
public class ResultItems {
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/Site.java b/webmagic-core/src/main/java/us/codecraft/webmagic/Site.java
index 2c6118c..9ab97fe 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/Site.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/Site.java
@@ -1,5 +1,7 @@
package us.codecraft.webmagic;
+import us.codecraft.webmagic.utils.UrlUtils;
+
import java.util.*;
/**
@@ -90,6 +92,11 @@ public class Site {
* @return 已设置的domain
*/
public String getDomain() {
+ if (domain == null) {
+ if (startUrls.size() > 0) {
+ domain = UrlUtils.getDomain(startUrls.get(0));
+ }
+ }
return domain;
}
@@ -150,6 +157,7 @@ public class Site {
/**
* 获取初始页面的地址列表
+ *
* @return 初始页面的地址列表
*/
public List getStartUrls() {
@@ -158,6 +166,7 @@ public class Site {
/**
* 增加初始页面的地址,可反复调用此方法增加多个初始地址。
+ *
* @param startUrl 初始页面的地址
* @return this
*/
@@ -179,6 +188,7 @@ public class Site {
/**
* 获取两次抓取之间的间隔
+ *
* @return 两次抓取之间的间隔,单位毫秒
*/
public int getSleepTime() {
@@ -187,6 +197,7 @@ public class Site {
/**
* 获取重新下载的次数,默认为0
+ *
* @return 重新下载的次数
*/
public int getRetryTimes() {
@@ -195,6 +206,7 @@ public class Site {
/**
* 设置获取重新下载的次数,默认为0
+ *
* @return this
*/
public Site setRetryTimes(int retryTimes) {
@@ -219,7 +231,7 @@ public class Site {
return true;
}
- public Task toTask(){
+ public Task toTask() {
return new Task() {
@Override
public String getUUID() {
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/Spider.java b/webmagic-core/src/main/java/us/codecraft/webmagic/Spider.java
index a25fd02..cf62796 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/Spider.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/Spider.java
@@ -8,8 +8,8 @@ import us.codecraft.webmagic.downloader.HttpClientDownloader;
import us.codecraft.webmagic.pipeline.ConsolePipeline;
import us.codecraft.webmagic.pipeline.Pipeline;
import us.codecraft.webmagic.processor.PageProcessor;
-import us.codecraft.webmagic.schedular.QueueScheduler;
-import us.codecraft.webmagic.schedular.Scheduler;
+import us.codecraft.webmagic.scheduler.QueueScheduler;
+import us.codecraft.webmagic.scheduler.Scheduler;
import us.codecraft.webmagic.utils.ThreadUtils;
import java.util.ArrayList;
@@ -228,8 +228,10 @@ public class Spider implements Runnable, Task {
}
pageProcessor.process(page);
addRequest(page);
- for (Pipeline pipeline : pipelines) {
- pipeline.process(page.getResultItems(), this);
+ if (!page.getResultItems().isSkip()){
+ for (Pipeline pipeline : pipelines) {
+ pipeline.process(page.getResultItems(), this);
+ }
}
sleep(site.getSleepTime());
}
@@ -283,6 +285,11 @@ public class Spider implements Runnable, Task {
return this;
}
+ public Spider clearPipeline(){
+ pipelines=new ArrayList();
+ return this;
+ }
+
@Override
public String getUUID() {
if (uuid != null) {
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/downloader/Destroyable.java b/webmagic-core/src/main/java/us/codecraft/webmagic/downloader/Destroyable.java
index 4f07528..6dcbde1 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/downloader/Destroyable.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/downloader/Destroyable.java
@@ -2,8 +2,8 @@ package us.codecraft.webmagic.downloader;
/**
* 比较占用资源的服务可以实现该接口,Spider会在结束时调用destroy()释放资源。
- * @author yihua.huang@dianping.com
- * @date: 13-7-26
+ * @author code4crafter@gmail.com
+ * Date: 13-7-26
* Time: 下午3:10
*/
public interface Destroyable {
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/ConsolePipeline.java b/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/ConsolePipeline.java
index 97470e0..e1648fe 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/ConsolePipeline.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/ConsolePipeline.java
@@ -7,29 +7,18 @@ import java.util.Map;
/**
* 命令行输出抽取结果。可用于测试。
+ *
* @author code4crafter@gmail.com
- * Date: 13-4-21
- * Time: 下午1:45
+ * Date: 13-4-21
+ * Time: 下午1:45
*/
-public class ConsolePipeline implements Pipeline{
+public class ConsolePipeline implements Pipeline {
@Override
- public void process(ResultItems resultItems,Task task) {
- if (resultItems.isSkip()){
- return;
- }
- System.out.println("get page: "+resultItems.getRequest().getUrl());
+ public void process(ResultItems resultItems, Task task) {
+ System.out.println("get page: " + resultItems.getRequest().getUrl());
for (Map.Entry entry : resultItems.getAll().entrySet()) {
- if (entry.getValue() instanceof Iterable) {
- Iterable value = (Iterable) entry.getValue();
- System.out.println(entry.getKey() + ":");
- for (Object o : value) {
- System.out.println(o);
- }
- } else {
- System.out.println(entry.getKey() + ":\t" + entry.getValue());
- }
- System.out.println(entry.getKey()+":\t"+entry.getValue());
+ System.out.println(entry.getKey() + ":\t" + entry.getValue());
}
}
}
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/FilePipeline.java b/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/FilePipeline.java
index 01f8d8b..252ccd5 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/FilePipeline.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/pipeline/FilePipeline.java
@@ -20,12 +20,12 @@ import java.util.Map;
*/
public class FilePipeline implements Pipeline {
- private String path = "/data/temp/webmagic/";
+ private String path = "/data/webmagic/";
private Logger logger = Logger.getLogger(getClass());
/**
- * 新建一个FilePipeline,使用默认保存路径"/data/temp/webmagic/"
+ * 新建一个FilePipeline,使用默认保存路径"/data/webmagic/"
*/
public FilePipeline() {
@@ -37,6 +37,9 @@ public class FilePipeline implements Pipeline {
* @param path 文件保存路径
*/
public FilePipeline(String path) {
+ if (!path.endsWith("/")&&!path.endsWith("\\")){
+ path+="/";
+ }
this.path = path;
}
@@ -47,9 +50,6 @@ public class FilePipeline implements Pipeline {
if (!file.exists()) {
file.mkdirs();
}
- if (resultItems.isSkip()) {
- return;
- }
try {
PrintWriter printWriter = new PrintWriter(new FileWriter(path + DigestUtils.md5Hex(resultItems.getRequest().getUrl()) + ".html"));
printWriter.println("url:\t" + resultItems.getRequest().getUrl());
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/schedular/QueueScheduler.java b/webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/QueueScheduler.java
similarity index 96%
rename from webmagic-core/src/main/java/us/codecraft/webmagic/schedular/QueueScheduler.java
rename to webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/QueueScheduler.java
index 613e406..723b5f9 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/schedular/QueueScheduler.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/QueueScheduler.java
@@ -1,4 +1,4 @@
-package us.codecraft.webmagic.schedular;
+package us.codecraft.webmagic.scheduler;
import org.apache.log4j.Logger;
import us.codecraft.webmagic.Request;
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/schedular/Scheduler.java b/webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/Scheduler.java
similarity index 95%
rename from webmagic-core/src/main/java/us/codecraft/webmagic/schedular/Scheduler.java
rename to webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/Scheduler.java
index 8d9649b..fc39b45 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/schedular/Scheduler.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/Scheduler.java
@@ -1,4 +1,4 @@
-package us.codecraft.webmagic.schedular;
+package us.codecraft.webmagic.scheduler;
import us.codecraft.webmagic.Request;
import us.codecraft.webmagic.Task;
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/schedular/package.html b/webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/package.html
similarity index 100%
rename from webmagic-core/src/main/java/us/codecraft/webmagic/schedular/package.html
rename to webmagic-core/src/main/java/us/codecraft/webmagic/scheduler/package.html
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/selector/AndSelector.java b/webmagic-core/src/main/java/us/codecraft/webmagic/selector/AndSelector.java
new file mode 100644
index 0000000..997b6cf
--- /dev/null
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/selector/AndSelector.java
@@ -0,0 +1,53 @@
+package us.codecraft.webmagic.selector;
+
+import java.util.ArrayList;
+import java.util.List;
+
+/**
+ * @author code4crafter@gmail.com
+ * Date: 13-8-3
+ * Time: 下午5:29
+ */
+public class AndSelector implements Selector {
+
+ private List selectors = new ArrayList();
+
+ public AndSelector(Selector... selectors) {
+ for (Selector selector : selectors) {
+ this.selectors.add(selector);
+ }
+ }
+
+ @Override
+ public String select(String text) {
+ for (Selector selector : selectors) {
+ if (text == null) {
+ return null;
+ }
+ text = selector.select(text);
+ }
+ return text;
+ }
+
+ @Override
+ public List selectList(String text) {
+ List results = new ArrayList();
+ boolean first = true;
+ for (Selector selector : selectors) {
+ if (first) {
+ results = selector.selectList(text);
+ first = false;
+ } else {
+ List resultsTemp = new ArrayList();
+ for (String result : results) {
+ resultsTemp.addAll(selector.selectList(result));
+ }
+ results = resultsTemp;
+ if (results == null || results.size() == 0) {
+ return results;
+ }
+ }
+ }
+ return results;
+ }
+}
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/selector/OrSelector.java b/webmagic-core/src/main/java/us/codecraft/webmagic/selector/OrSelector.java
new file mode 100644
index 0000000..48f9fb9
--- /dev/null
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/selector/OrSelector.java
@@ -0,0 +1,41 @@
+package us.codecraft.webmagic.selector;
+
+import java.util.ArrayList;
+import java.util.List;
+
+/**
+ * @author code4crafter@gmail.com
+ * Date: 13-8-3
+ * Time: 下午5:29
+ */
+public class OrSelector implements Selector {
+
+ private List selectors = new ArrayList();
+
+ public OrSelector(Selector... selectors) {
+ for (Selector selector : selectors) {
+ this.selectors.add(selector);
+ }
+ }
+
+ @Override
+ public String select(String text) {
+ for (Selector selector : selectors) {
+ text = selector.select(text);
+ if (text!=null){
+ return text;
+ }
+ }
+ return null;
+ }
+
+ @Override
+ public List selectList(String text) {
+ List results = new ArrayList();
+ for (Selector selector : selectors) {
+ List strings = selector.selectList(text);
+ results.addAll(strings);
+ }
+ return results;
+ }
+}
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/selector/Selector.java b/webmagic-core/src/main/java/us/codecraft/webmagic/selector/Selector.java
index 845c0b6..4af2b44 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/selector/Selector.java
+++ b/webmagic-core/src/main/java/us/codecraft/webmagic/selector/Selector.java
@@ -8,7 +8,7 @@ import java.util.List;
* Date: 13-4-20
* Time: 下午8:02
*/
-interface Selector {
+public interface Selector {
public String select(String text);
diff --git a/webmagic-extension/README.md b/webmagic-extension/README.md
new file mode 100644
index 0000000..71d3c48
--- /dev/null
+++ b/webmagic-extension/README.md
@@ -0,0 +1,3 @@
+webmagic-extension
+-------
+webmagic的扩展模块。包括注解格式定义爬虫、JSON、分布式等支持。
\ No newline at end of file
diff --git a/webmagic-plugin/webmagic-misc/pom.xml b/webmagic-extension/pom.xml
similarity index 52%
rename from webmagic-plugin/webmagic-misc/pom.xml
rename to webmagic-extension/pom.xml
index c545615..63034f2 100644
--- a/webmagic-plugin/webmagic-misc/pom.xml
+++ b/webmagic-extension/pom.xml
@@ -4,24 +4,33 @@
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
us.codecraft
- webmagic-plugin
- 0.1.0
+ webmagic
+ 0.2.0
4.0.0
- webmagic-misc
+ webmagic-extension
- org.freemarker
- freemarker
- 2.3.15
+ com.alibaba
+ fastjson
+ 1.1.35
redis.clients
jedis
2.0.0
+
+ us.codecraft
+ webmagic-core
+ ${project.version}
+
+
+ junit
+ junit
+
\ No newline at end of file
diff --git a/webmagic-extension/src/main/java/us/codecraft/webmagic/PagedModel.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/PagedModel.java
new file mode 100644
index 0000000..7d46cc2
--- /dev/null
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/PagedModel.java
@@ -0,0 +1,20 @@
+package us.codecraft.webmagic;
+
+import java.util.Collection;
+
+/**
+ * @author code4crafter@gmail.com
+ * Date: 13-8-4
+ * Time: 下午5:18
+ */
+public interface PagedModel {
+
+ public String getPageKey();
+
+ public Collection getOtherPages();
+
+ public String getPage();
+
+ public PagedModel combine(PagedModel pagedModel);
+
+}
diff --git a/webmagic-core/src/main/java/us/codecraft/webmagic/downloader/FileDownloader.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/downloader/FileDownloader.java
similarity index 97%
rename from webmagic-core/src/main/java/us/codecraft/webmagic/downloader/FileDownloader.java
rename to webmagic-extension/src/main/java/us/codecraft/webmagic/downloader/FileDownloader.java
index 722a2eb..cca5b20 100644
--- a/webmagic-core/src/main/java/us/codecraft/webmagic/downloader/FileDownloader.java
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/downloader/FileDownloader.java
@@ -34,6 +34,9 @@ public class FileDownloader implements Downloader {
}
public FileDownloader(String path, Downloader downloaderWhenFileMiss) {
+ if (!path.endsWith("/")&&!path.endsWith("\\")){
+ path+="/";
+ }
this.path = path;
this.downloaderWhenFileMiss = downloaderWhenFileMiss;
}
diff --git a/webmagic-extension/src/main/java/us/codecraft/webmagic/model/AfterExtractor.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/AfterExtractor.java
new file mode 100644
index 0000000..3927d11
--- /dev/null
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/AfterExtractor.java
@@ -0,0 +1,15 @@
+package us.codecraft.webmagic.model;
+
+import us.codecraft.webmagic.Page;
+
+/**
+ * 实现这个接口即可在抽取后进行后处理。
+ *
+ * @author code4crafter@gmail.com
+ * Date: 13-8-3
+ * Time: 上午9:42
+ */
+public interface AfterExtractor {
+
+ public void afterProcess(Page page);
+}
diff --git a/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ConsolePageModelPipeline.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ConsolePageModelPipeline.java
new file mode 100644
index 0000000..c841f10
--- /dev/null
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ConsolePageModelPipeline.java
@@ -0,0 +1,16 @@
+package us.codecraft.webmagic.model;
+
+import org.apache.commons.lang3.builder.ToStringBuilder;
+import us.codecraft.webmagic.Task;
+
+/**
+ * @author code4crafter@gmail.com
+ * Date: 13-8-3
+ * Time: 下午3:41
+ */
+public class ConsolePageModelPipeline implements PageModelPipeline {
+ @Override
+ public void process(Object o, Task task) {
+ System.out.println(ToStringBuilder.reflectionToString(o));
+ }
+}
diff --git a/webmagic-extension/src/main/java/us/codecraft/webmagic/model/Extractor.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/Extractor.java
new file mode 100644
index 0000000..0494076
--- /dev/null
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/Extractor.java
@@ -0,0 +1,48 @@
+package us.codecraft.webmagic.model;
+
+import us.codecraft.webmagic.selector.Selector;
+
+/**
+ * @author code4crafter@gmail.com
+ * Date: 13-8-1
+ * Time: 下午9:48
+ */
+class Extractor {
+
+ protected Selector selector;
+
+ protected final Source source;
+
+ protected final boolean notNull;
+
+ protected final boolean multi;
+
+ static enum Source {Html, Url, RawHtml}
+
+ public Extractor(Selector selector, Source source, boolean notNull, boolean multi) {
+ this.selector = selector;
+ this.source = source;
+ this.notNull = notNull;
+ this.multi = multi;
+ }
+
+ Selector getSelector() {
+ return selector;
+ }
+
+ Source getSource() {
+ return source;
+ }
+
+ boolean isNotNull() {
+ return notNull;
+ }
+
+ boolean isMulti() {
+ return multi;
+ }
+
+ void setSelector(Selector selector) {
+ this.selector = selector;
+ }
+}
diff --git a/webmagic-extension/src/main/java/us/codecraft/webmagic/model/FieldExtractor.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/FieldExtractor.java
new file mode 100644
index 0000000..4ec1bbc
--- /dev/null
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/FieldExtractor.java
@@ -0,0 +1,47 @@
+package us.codecraft.webmagic.model;
+
+import us.codecraft.webmagic.selector.Selector;
+
+import java.lang.reflect.Field;
+import java.lang.reflect.Method;
+
+/**
+ * @author code4crafter@gmail.com
+ * Date: 13-8-1
+ * Time: 下午9:48
+ */
+class FieldExtractor extends Extractor{
+
+ private final Field field;
+
+ private Method setterMethod;
+
+ public FieldExtractor(Field field, Selector selector, Source source, boolean notNull,boolean multi) {
+ super(selector, source, notNull,multi);
+ this.field = field;
+ }
+
+ Field getField() {
+ return field;
+ }
+
+ Selector getSelector() {
+ return selector;
+ }
+
+ Source getSource() {
+ return source;
+ }
+
+ void setSetterMethod(Method setterMethod) {
+ this.setterMethod = setterMethod;
+ }
+
+ Method getSetterMethod() {
+ return setterMethod;
+ }
+
+ boolean isNotNull() {
+ return notNull;
+ }
+}
diff --git a/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ModelPageProcessor.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ModelPageProcessor.java
new file mode 100644
index 0000000..af762ec
--- /dev/null
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ModelPageProcessor.java
@@ -0,0 +1,89 @@
+package us.codecraft.webmagic.model;
+
+import us.codecraft.webmagic.Page;
+import us.codecraft.webmagic.Request;
+import us.codecraft.webmagic.Site;
+import us.codecraft.webmagic.processor.PageProcessor;
+import us.codecraft.webmagic.selector.Selector;
+
+import java.util.ArrayList;
+import java.util.HashSet;
+import java.util.List;
+import java.util.Set;
+import java.util.regex.Matcher;
+import java.util.regex.Pattern;
+
+/**
+ * 基于PageProcessor的扩展点。
+ * @author code4crafter@gmail.com
+ * Date: 13-8-1
+ * Time: 下午8:46
+ */
+class ModelPageProcessor implements PageProcessor {
+
+ private List pageModelExtractorList = new ArrayList();
+
+ private Site site;
+
+ private Set targetUrlPatterns = new HashSet();
+
+ public static ModelPageProcessor create(Site site, Class... clazzs) {
+ ModelPageProcessor modelPageProcessor = new ModelPageProcessor(site);
+ for (Class clazz : clazzs) {
+ modelPageProcessor.addPageModel(clazz);
+ }
+ return modelPageProcessor;
+ }
+
+
+ public ModelPageProcessor addPageModel(Class clazz) {
+ PageModelExtractor pageModelExtractor = PageModelExtractor.create(clazz);
+ targetUrlPatterns.addAll(pageModelExtractor.getTargetUrlPatterns());
+ targetUrlPatterns.addAll(pageModelExtractor.getHelpUrlPatterns());
+ pageModelExtractorList.add(pageModelExtractor);
+ return this;
+ }
+
+ private ModelPageProcessor(Site site) {
+ this.site = site;
+ }
+
+ @Override
+ public void process(Page page) {
+ for (PageModelExtractor pageModelExtractor : pageModelExtractorList) {
+ extractLinks(page, pageModelExtractor.getHelpUrlRegionSelector(), pageModelExtractor.getHelpUrlPatterns());
+ extractLinks(page, pageModelExtractor.getTargetUrlRegionSelector(), pageModelExtractor.getTargetUrlPatterns());
+ Object process = pageModelExtractor.process(page);
+ if (process == null || (process instanceof List && ((List) process).size() == 0)) {
+ page.getResultItems().setSkip(true);
+ }
+ postProcessPageModel(pageModelExtractor.getClazz(), process);
+ page.putField(pageModelExtractor.getClazz().getCanonicalName(), process);
+ }
+ }
+
+ private void extractLinks(Page page, Selector urlRegionSelector, List urlPatterns) {
+ List links;
+ if (urlRegionSelector == null) {
+ links = page.getHtml().links().all();
+ } else {
+ links = urlRegionSelector.selectList(page.getHtml().toString());
+ }
+ for (String link : links) {
+ for (Pattern targetUrlPattern : urlPatterns) {
+ Matcher matcher = targetUrlPattern.matcher(link);
+ if (matcher.find()) {
+ page.addTargetRequest(new Request(matcher.group(1)));
+ }
+ }
+ }
+ }
+
+ protected void postProcessPageModel(Class clazz, Object object) {
+ }
+
+ @Override
+ public Site getSite() {
+ return site;
+ }
+}
diff --git a/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ModelPipeline.java b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ModelPipeline.java
new file mode 100644
index 0000000..07d6c5a
--- /dev/null
+++ b/webmagic-extension/src/main/java/us/codecraft/webmagic/model/ModelPipeline.java
@@ -0,0 +1,49 @@
+package us.codecraft.webmagic.model;
+
+import us.codecraft.webmagic.ResultItems;
+import us.codecraft.webmagic.Task;
+import us.codecraft.webmagic.model.annotation.ExtractBy;
+import us.codecraft.webmagic.pipeline.Pipeline;
+
+import java.lang.annotation.Annotation;
+import java.util.List;
+import java.util.Map;
+import java.util.concurrent.ConcurrentHashMap;
+
+/**
+ * 基于Pipeline的扩展点,用于实现注解格式的Pipeline。
+ * 与PageModelPipeline是一对多的关系(原谅作者没有更好的名字了)。
+ * @author code4crafter@gmail.com
+ * Date: 13-8-2
+ * Time: 上午10:47
+ */
+class ModelPipeline implements Pipeline {
+
+ private Map pageModelPipelines = new ConcurrentHashMap();
+
+ public ModelPipeline() {
+ }
+
+ public ModelPipeline put(Class clazz, PageModelPipeline pageModelPipeline) {
+ pageModelPipelines.put(clazz, pageModelPipeline);
+ return this;
+ }
+
+ @Override
+ public void process(ResultItems resultItems, Task task) {
+ for (Map.Entry classPageModelPipelineEntry : pageModelPipelines.entrySet()) {
+ Object o = resultItems.get(classPageModelPipelineEntry.getKey().getCanonicalName());
+ if (o != null) {
+ Annotation annotation = classPageModelPipelineEntry.getKey().getAnnotation(ExtractBy.class);
+ if (annotation == null || !((ExtractBy) annotation).multi()) {
+ classPageModelPipelineEntry.getValue().process(o, task);
+ } else {
+ List