• 请不要在回答技术问题时复制粘贴 AI 生成的内容
livc
0D
V2EX  ›  程序员

爬虫某网站最近禁止了国外 IP,想请问下有什么好的办法

  •  
  •   livc ·
    livc · Aug 10, 2020 · 8706 views
    This topic created in 2277 days ago, the information mentioned may be changed or developed.

    我在 vultr 上有个 VPS 专门爬虫一个网站保存成文件,然后提供 web 访问服务。最近发现这个网站的一个接口把境外 IP 都 ban 了,使用国内 IP 访问就没问题。

    目前我的思路是:买一个国内的服务器,专门用来爬虫,爬完保存下来的文件 scp 到 vultr 服务器上。

    这样就是增加了国内服务器的成本,国内服务器又比较贵,不知道大佬有没有更好的解决方案?

    或者买个树莓派?

    40 replies  •  2020-09-21 17:00:46 +08:00
    biu7
    biu7
    Aug 10, 2020
    1
    买点代理不行么
    CriseLYJ
    CriseLYJ
    Aug 10, 2020
    2
    楼上正解
    hugee
    hugee
    Aug 10, 2020
    3
    原来就是你小子在爬我的站
    livc
    livc
    OP
    Aug 10, 2020
    4
    @biu7 #1 代理好像更贵吧?有推荐的站吗
    lxk11153
    lxk11153
    Aug 10, 2020
    5
    原来就是你小子在爬我的站
    biu7
    biu7
    Aug 10, 2020
    6
    @livc #4 国内代理一般两类,一种直接卖给你短时( 3-5min )有效的 ip,比如几块钱 1000 个之类的,一种是直接转发你的请求,按请求数算钱。可以看下讯代理、阿布云之类的(非广告)
    em70
    em70
    Aug 10, 2020
    7
    告诉你一个诀窍啊,阿里云有一种抢占式 ECS,才几毛钱一个小时,因为有百分之几的几率会被释放,不适合做长期服务,却是爬虫的天然选择,随用随买,不用就释放
    livc
    livc
    OP
    Aug 10, 2020
    8
    @biu7 #6 明白了,谢谢
    livc
    livc
    OP
    Aug 10, 2020
    9
    @em70 #7 我这个是需要每天爬的,得长期用呢
    em70
    em70
    Aug 10, 2020
    10
    刚帮你看了下,乌兰察布机房最便宜,才 8 分钱一个小时,北京 1 毛 3
    em70
    em70
    Aug 10, 2020
    11
    @livc 才 3%的释放几率,多买几台
    linuxvalue
    linuxvalue
    Aug 10, 2020
    12
    代理 ip
    heiheidewo
    heiheidewo
    Aug 10, 2020
    13
    原来就是你小子在爬我的站
    Soar360
    Soar360
    Aug 10, 2020
    14
    原来就是你小子在爬我的站
    nightwitch
    nightwitch
    Aug 10, 2020
    15
    #7 楼的方案不是挺好的。
    每天定时开个阿里云竞价实例,然后爬完释放就可以了
    可以参考以下的
    https://github.com/rockswang/alispot
    murmur
    murmur
    Aug 10, 2020
    16
    你现在买了境内机房,下次他把各大云的 ip 也禁了
    121121121
    121121121
    Aug 10, 2020
    17
    代理服务器
    ipoh
    ipoh
    Aug 10, 2020
    18
    你需要淘宝"ADSL VPS" 每几分钟自动重播一次
    封 ip 也不怕
    natsji
    natsji
    Aug 10, 2020 via Android
    19
    你用辣鸡阿里清凉云的香港或者新加坡服务器,IP 地址会被很多 ip 库识别成大陆的。
    locoz
    locoz
    Aug 10, 2020 via Android
    20
    你就不能直接买代理或者在爬的时候开点国内云服务器做代理服务器吗…
    wangyzj
    wangyzj
    Aug 10, 2020
    21
    我之前的做法是去淘宝上买一个可以随意换 IP 的机器
    pagxir
    pagxir
    Aug 10, 2020 via Android
    22
    可以用阿里云或者其他云的函数计算的,支持 web 请求,选择国内的节点即可
    newee
    newee
    Aug 10, 2020 via iPhone
    23
    哪里的海外 ip 比较便宜靠谱,最近抓一个海外站点,访问几百次就会被禁。有啥供应商比较实惠的
    BillowSky
    BillowSky
    Aug 10, 2020 via iPhone
    24
    人家禁你可能你对人家造成了干扰,要不然也不会费力气禁你。
    abersheeran
    abersheeran
    Aug 10, 2020
    25
    原来就是你小子在搞事情。
    sunziren
    sunziren
    Aug 10, 2020
    26
    原来就是你小子在爬我的站
    suuuch
    suuuch
    Aug 10, 2020 via iPhone
    27
    这个感觉像是你的爬虫对别人照成影响了,换 IP 之后应该会升级反爬,
    shakaraka
    shakaraka
    Aug 10, 2020
    28
    原来就是你小子在爬我的站
    jones2000
    jones2000
    Aug 10, 2020
    29
    直接买云抓取的服务不就可以了。 还自己爬多麻烦。
    adoula
    adoula
    Aug 10, 2020
    30
    一般不是国外服务器比较贵吗
    smplesugar
    smplesugar
    Aug 10, 2020
    31
    原来就是你小子在爬我的站
    zhiiker
    zhiiker
    Aug 10, 2020
    32
    用爬虫 IP 代理池服务
    https://www.abuyun.com/
    https://www.zdaye.com/ShortProxy.html
    量大的化,平均下很便宜
    unclemcz
    unclemcz
    Aug 10, 2020
    33
    淘宝买个玩客云,50 包邮,刷成 armbian 然后跑爬虫,功耗 6-10 瓦吧。
    不多说了,再说又止不住手打开淘宝买一个了。
    g079708
    g079708
    Aug 10, 2020 via iPhone
    34
    可以试试这个,独享拨号代理 IP 池;
    http://www.kuainiaoip.com/store/exclusive-adsl.html
    h4de5
    h4de5
    Aug 10, 2020
    35
    github 上面大把的免费的国内的机器。你不拿来用。很多大佬都拿来挖矿了。
    ClericPy
    ClericPy
    Aug 10, 2020
    36
    这么在乎价格成本的话... 白瓢免费代理吧, 选普匿和高匿的, 然后走生产者消费者模式, 慢慢抓慢慢跑
    HYisen
    HYisen
    Aug 11, 2020
    37
    买个树莓派吧,蹭家用网络是真的便宜。
    woodnaonly
    woodnaonly
    Sep 21, 2020
    38
    @h4de5 关键字是什么
    woodnaonly
    woodnaonly
    Sep 21, 2020
    39
    @wangyzj 老哥来个关键字
    wangyzj
    wangyzj
    Sep 21, 2020
    40
    @woodnaonly #39 vps
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4860 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 180ms · UTC 09:24 · PVG 17:24 · LAX 01:24 · JFK 04:24
    ♥ Do have faith in what you're doing.