klklklkl
V2EX  ›  Google

如何批量抓取谷歌搜索每项结果的链接页面

  •  
  •   klklklkl · Jun 28, 2016 · 4107 views
    This topic created in 3781 days ago, the information mentioned may be changed or developed.

    不是谷歌的结果页面,是结果页面里每个链接点进去的第一个页面抓取, page only 或者文本都行。

    请问如何实现,谢谢!

    5 replies  •  2016-06-29 09:02:03 +08:00
    knightdf
    knightdf
    Jun 28, 2016
    1
    提取链接跟进抓取啊
    klklklkl
    klklklkl
    OP
    Jun 28, 2016
    2
    @knightdf
    谢谢,我用 GScraper 抓去了链接,请问有什么简便的方法在 win7 下批量根据抓取的链接下载页面?
    ho121
    ho121
    Jun 28, 2016 via Android
    3
    太频繁会输验证码的
    suduo1987
    suduo1987
    Jun 29, 2016
    4
    按照你的频率 ,可以考虑 google apps script
    knightdf
    knightdf
    Jun 29, 2016
    5
    @klklklkl 把链接再丢到任务队列里去
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2661 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 13:45 · PVG 21:45 · LAX 05:45 · JFK 08:45
    ♥ Do have faith in what you're doing.