推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
initialD
V2EX  ›  Python

最近正在学爬虫,主要用来抓取门户网站的评论,选用 Python 语言。有没有大神给点好的资料,或者一个好的指导方向。

  •  2
     
  •   initialD · Oct 4, 2014 · 6246 views
    This topic created in 4373 days ago, the information mentioned may be changed or developed.
    16 replies  •  2014-10-05 18:24:36 +08:00
    mrytsr
        1
    mrytsr  
       Oct 4, 2014 via Android
    Scrapy
    mhycy
        2
    mhycy  
       Oct 4, 2014   ❤️ 1
    手写....
    Requests + re + threading + logging
    各种爽~

    PS.其实是觉得框架太不灵活了
    paulw54jrn
        3
    paulw54jrn  
       Oct 4, 2014   ❤️ 1
    不是很复杂就是楼上说的
    requests + re + threading/greenlets

    或者是楼上上说的
    Scrapy..
    ShiehShieh
        4
    ShiehShieh  
       Oct 4, 2014
    有没有什么好点的材料能学习嘛? 0.0
    binux
        5
    binux  
       Oct 4, 2014   ❤️ 2
    no13bus
        6
    no13bus  
       Oct 4, 2014   ❤️ 1
    @binux 感觉torado经常用来监控,celery的监控flower就是用他来做的。
    XadillaX
        7
    XadillaX  
       Oct 4, 2014
    -。 - 为什么没多少人学 node 做爬虫呢?
    chemzqm
        8
    chemzqm  
       Oct 4, 2014   ❤️ 1
    node异步回调太恶心,占用内存太高,低配机器跑不了几个进程
    R4rvZ6agNVWr56V0
        9
    R4rvZ6agNVWr56V0  
       Oct 4, 2014   ❤️ 1
    曾经用twisted自己写过一个,后来才知道有scrapy这个爬虫框架,推荐scrapy
    Codist
        10
    Codist  
       Oct 4, 2014   ❤️ 1
    scrapy简单又方便,selector用起来也很舒服,不用写正则了
    kenis
        11
    kenis  
       Oct 5, 2014   ❤️ 1
    推荐用Scrapy,比较成熟的爬虫框架,资源也不少。
    briefcopy
        13
    briefcopy  
       Oct 5, 2014   ❤️ 1
    imn1
        14
    imn1  
       Oct 5, 2014   ❤️ 1
    我抓取的量很大,所以分离过程用wget抓取,py做parse,95%用正则,少量用 lxml+xpath
    无论用什么,通读http协议+抓包工具是跑不掉的
    ericls
        15
    ericls  
       Oct 5, 2014 via Android   ❤️ 1
    requests pyquery
    helloworld00
        16
    helloworld00  
       Oct 5, 2014   ❤️ 1
    快速构建实时抓取集群

    http://blog.nosqlfan.com/html/2604.html
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   916 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 92ms · UTC 19:23 · PVG 03:23 · LAX 12:23 · JFK 15:23
    ♥ Do have faith in what you're doing.