https://github.com/xinqiu/kechenggezi-Spider

第一次写爬虫，爬课程格子的校花榜，比较简陋，没用多线程。
https://github.com/xinqiu/kechenggezi-Spider

Last synced: 3 months ago
JSON representation

第一次写爬虫，爬课程格子的校花榜，比较简陋，没用多线程。

• Host: GitHub
• URL: https://github.com/xinqiu/kechenggezi-Spider
• Owner: xinqiu
• License: gpl-2.0
• Created: 2016-02-12T10:27:32.000Z (almost 9 years ago)
• Default Branch: master
• Last Pushed: 2016-02-18T01:56:54.000Z (over 8 years ago)
• Last Synced: 2024-07-16T14:09:36.168Z (4 months ago)
• Language: Python
• Size: 17.6 KB
• Stars: 47
• Watchers: 5
• Forks: 29
• Open Issues: 0
• Metadata Files:
  • Readme: README.md
  • License: LICENSE

Awesome Lists containing this project

README

        
# kechenggezi-Spider

第一次写爬虫，爬课程格子的校花榜，比较简陋，没用多线程。

---

## 使用说明

修改主程序里的token和图片保存位置，运行

    python xhspider.py

保存的list.txt是代表编号，名字，票数。

本来是用名字作为图片的名字，但存在重名和一些细节上的bug，所以换成了这种形式。

本程序仅供学习参考，请勿做违法的事情> <.也希望大家提出宝贵的意见让我改进。

以上。。。

以下功能需要 scrapy

爬取所有妹子的详细信息（多线程），保存文件为 jsonline 格式

    scrapy crawl KcgzXh

    

下载所有妹子的图片（多线程）

    mkdir images

    scrapy crawl XhImage

## 关于不用多线程

记得在知乎上看到过一个回答，爬虫并不是压力测试，尽量让爬虫不会对服务器产生太大影响。所以我才没想添加多线程，可能这就是善良？╮(╯▽╰)╭