README.md

NetDiscovery

功能特点：

• 轻量级爬虫
• 模块化设计，便于扩展：支持多种消息队列、多种网络框架，也支持自己实现。
• 支持分布式
• 多线程、异步化：底层使用 RxJava 的多线程机制
• 支持 Request 添加到正在运行爬虫的Queue中
• 支持 Kotlin 协程
• 支持 JS 渲染
• Request 支持自定义header信息
• Request 支持 debug 功能：在调试时可以使用 RxCache，从而避免多次请求同一个网页。
• 支持失败重试的机制
• 多纬度控制爬取速度（Pipeline、Request、Download、Domain）等等
• 支持代理池的整合、支持 User Agent 池、Cookies 池
• 支持爬虫的深度抓取：能够在 Pipeline 中发起深度抓取
• 支持 URL 去重：使用布隆过滤器
• 超时控制：支持设置爬虫请求的超时时间
• 爬虫的监控
• agent 模块能够对当前服务器的 CPU 和内存进行实时监控
• 整合 Quartz

最新版本

模块名	最新版本
netdiscovery-core
netdiscovery-downloader-htmlunit
netdiscovery-downloader-httpclient
netdiscovery-downloader-okhttp
netdiscovery-downloader-selenium
netdiscovery-pipeline-couchbase
netdiscovery-pipeline-elasticsearch
netdiscovery-pipeline-mongo
netdiscovery-pipeline-redis
netdiscovery-queue-kafka
netdiscovery-queue-rabbitmq
netdiscovery-queue-redis
netdiscovery-kotlin-coroutines
netdiscovery-kotlin-dsl

NetDiscovery 是基于 Vert.x、RxJava 2 等框架实现的爬虫框架。更多细节在不断地完善中，未来会考虑做成一个更通用的爬虫框架。

对于 Java 工程，如果使用 gradle 构建，由于默认没有使用 jcenter()，需要在相应 module 的 build.gradle 中配置

repositories {
    mavenCentral()
    jcenter()
}

下载:

core

netdiscovery-core

implementation 'cn.netdiscovery:netdiscovery-core:1.1.0'

downloader

netdiscovery-downloader-htmlunit

implementation 'cn.netdiscovery:netdiscovery-downloader-htmlunit:1.1.0'

netdiscovery-downloader-httpclient

implementation 'cn.netdiscovery:netdiscovery-downloader-httpclient:1.1.0'

netdiscovery-downloader-okhttp

implementation 'cn.netdiscovery:netdiscovery-downloader-okhttp:1.1.0'

netdiscovery-downloader-selenium

implementation 'cn.netdiscovery:netdiscovery-downloader-selenium:1.1.0'

pipeline

netdiscovery-pipeline-couchbase

implementation 'cn.netdiscovery:netdiscovery-pipeline-couchbase:1.1.0'

netdiscovery-pipeline-elasticsearch

implementation 'cn.netdiscovery:netdiscovery-pipeline-elasticsearch:1.1.0'

netdiscovery-pipeline-mongo

implementation 'cn.netdiscovery:netdiscovery-pipeline-mongo:1.1.0'

netdiscovery-pipeline-redis

implementation 'cn.netdiscovery:netdiscovery-pipeline-redis:1.1.0'

queue

netdiscovery-queue-kafka

implementation 'cn.netdiscovery:netdiscovery-queue-kafka:1.1.0'

netdiscovery-queue-rabbitmq

implementation 'cn.netdiscovery:netdiscovery-queue-rabbitmq:1.1.0'

netdiscovery-queue-redis

implementation 'cn.netdiscovery:netdiscovery-queue-redis:1.1.0'

kotlin

netdiscovery-kotlin-coroutines

implementation 'cn.netdiscovery:netdiscovery-kotlin-coroutines:1.1.0'

netdiscovery-kotlin-dsl

implementation 'cn.netdiscovery:netdiscovery-kotlin-dsl:1.1.0'

详细功能查看wiki

案例:

• user-agent-list:抓取常用浏览器的user agent

TODO List:

1. 完善 wiki，增加各个模式的使用说明
2. 各个模块能够从配置文件中获取爬虫相应的配置
3. 增强 HtmlUnit 模块
4. 增加 chromium 的支持
5. 整合cv4j以及 Tesseract，实现 OCR 识别的功能

Contributors:

• bdqfork
• homchou
• sinkinka

Contributing:

Pull requests are welcome

联系方式:

Wechat：fengzhizi715

Java与Android技术栈：每周更新推送原创技术文章，欢迎扫描下方的公众号二维码并关注，期待与您的共同成长和进步。

License

Copyright (C) 2017 - present, Tony Shen.

Licensed under the Apache License, Version 2.0 (the "License");
you may not use this file except in compliance with the License.
You may obtain a copy of the License at

   http://www.apache.org/licenses/LICENSE-2.0

Unless required by applicable law or agreed to in writing, software
distributed under the License is distributed on an "AS IS" BASIS,
WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
See the License for the specific language governing permissions and
limitations under the License.