Ecosyste.ms: Awesome

An open API service indexing awesome lists of open source software.

Awesome Lists | Featured Topics | Projects

https://github.com/pholcus/docs

Pholcus 完全手册。
https://github.com/pholcus/docs

Last synced: about 2 months ago
JSON representation

Pholcus 完全手册。

Host: GitHub
URL: https://github.com/pholcus/docs
Owner: pholcus
Created: 2015-08-14T13:59:00.000Z (about 9 years ago)
Default Branch: master
Last Pushed: 2016-03-15T03:31:49.000Z (over 8 years ago)
Last Synced: 2024-07-16T13:08:21.755Z (2 months ago)
Language: CSS
Homepage: http://pholcus.gitbooks.io/docs
Size: 1.26 MB
Stars: 47
Watchers: 7
Forks: 24
Open Issues: 2
Metadata Files:
- Readme: README.md

Awesome Lists containing this project

README

# Pholcus 使用手册

![logo](images/icon.png)

Pholcus（幽灵蛛）是一款纯Go语言编写的高并发、分布式、重量级爬虫软件，支持单机、服务端、客户端三种运行模式，拥有Web、GUI、命令行三种操作界面；规则简单灵活、批量任务并发、输出方式丰富（mysql、mongodb、csv、excel等）、有大量Demo共享；同时她还支持横纵向两种抓取模式，支持模拟登录和任务暂停、取消等一系列高级功能。

![模块构成](images/project.png)

* 官方QQ群：Go大数据 42731170 [![Go大数据群](http://pub.idqqimg.com/wpa/images/group.png)](http://shang.qq.com/wpa/qunwpa?idkey=83ee3e1a4be6bdb2b08a51a044c06ae52cf10a082f7c5cf6b36c1f78e8b03589)
* 源码地址：
* 完善文档：

#### 框架特点
1. Pholcus（幽灵蛛）以高效率，高灵活性和人性化设计为开发的指导思想；

2. 支持单机、服务端、客户端三种运行模式，即支持分布式布局，适用于各种业务需要；

3. 支持Web、GUI、命令行三种操作界面，适用于各种运行环境；

4. 支持mysql/mongodb/csv/excel等多种输出方式，且可以轻松添加更多输出方式；

5. 采用surfer高并发下载器，支持 GET/POST/HEAD 方法及 http/https 协议，同时支持固定UserAgent自动保存cookie与随机大量UserAgent禁用cookie两种模式，高度模拟浏览器行为，可实现模拟登录等功能；

6. 服务器/客户端模式采用teleport高并发socketAPI框架，全双工长连接通信，内部数据传输格式为JSON；

7. 对采集规则进行了精心设计，支持静态编译与动态JS两种规则，灵活简单且有大量Demo，写规则就是这么轻松；

8. 支持横纵向两种抓取模式，并且支持任务暂停、取消等操作。

#### 贡献者名单

贡献者 |贡献内容
--------------------------------|--------------------------------------------------
henrylee2cn|软件作者
kas|surfer下载器中phantomjs内核
wang898jian|完全手册贡献者

#### 第三方依赖包

```
go get github.com/pholcus/spider_lib
go get github.com/henrylee2cn/teleport
go get github.com/PuerkitoBio/goquery
go get github.com/robertkrimen/otto
go get github.com/andybalholm/cascadia
go get github.com/lxn/walk
go get github.com/lxn/win
go get github.com/go-sql-driver/mysql
go get github.com/jteeuwen/go-bindata/...
go get github.com/elazarl/go-bindata-assetfs/...
go get gopkg.in/mgo.v2
<以下需翻墙下载>
go get golang.org/x/net/html
go get golang.org/x/text/encoding
go get golang.org/x/text/transform
```
> *（在此感谢以上开源项目的支持！）*

#### 开源协议

Pholcus（幽灵蛛）项目采用商业应用友好的[Apache License v2](https://github.com/henrylee2cn/pholcus/blob/master/doc/license.txt).发布