我在 vultr 上有个 VPS 专门爬虫一个网站保存成文件,然后提供 web 访问服务。最近发现这个网站的一个接口把境外 IP 都 ban 了,使用国内 IP 访问就没问题。
目前我的思路是:买一个国内的服务器,专门用来爬虫,爬完保存下来的文件 scp 到 vultr 服务器上。
这样就是增加了国内服务器的成本,国内服务器又比较贵,不知道大佬有没有更好的解决方案?
或者买个树莓派?
我在 vultr 上有个 VPS 专门爬虫一个网站保存成文件,然后提供 web 访问服务。最近发现这个网站的一个接口把境外 IP 都 ban 了,使用国内 IP 访问就没问题。
目前我的思路是:买一个国内的服务器,专门用来爬虫,爬完保存下来的文件 scp 到 vultr 服务器上。
这样就是增加了国内服务器的成本,国内服务器又比较贵,不知道大佬有没有更好的解决方案?
或者买个树莓派?
|
biu7Aug 10, 2020
1
买点代理不行么
|
|
CriseLYJAug 10, 2020
2
楼上正解
|
|
hugeeAug 10, 2020
3
原来就是你小子在爬我的站
|
|
lxk11153Aug 10, 2020
5
原来就是你小子在爬我的站
|
|
biu7Aug 10, 2020
6
@livc #4 国内代理一般两类,一种直接卖给你短时( 3-5min )有效的 ip,比如几块钱 1000 个之类的,一种是直接转发你的请求,按请求数算钱。可以看下讯代理、阿布云之类的(非广告)
|
|
em70Aug 10, 2020
7
告诉你一个诀窍啊,阿里云有一种抢占式 ECS,才几毛钱一个小时,因为有百分之几的几率会被释放,不适合做长期服务,却是爬虫的天然选择,随用随买,不用就释放
|
|
em70Aug 10, 2020
10
刚帮你看了下,乌兰察布机房最便宜,才 8 分钱一个小时,北京 1 毛 3
|
|
linuxvalueAug 10, 2020
12
代理 ip
|
|
heiheidewoAug 10, 2020
13
原来就是你小子在爬我的站
|
|
Soar360Aug 10, 2020
14
原来就是你小子在爬我的站
|
|
nightwitchAug 10, 2020
15
|
|
murmurAug 10, 2020
16
你现在买了境内机房,下次他把各大云的 ip 也禁了
|
|
121121121Aug 10, 2020
17
代理服务器
|
|
ipohAug 10, 2020
18
你需要淘宝"ADSL VPS" 每几分钟自动重播一次
封 ip 也不怕 |
|
natsjiAug 10, 2020 via Android
19
你用辣鸡阿里清凉云的香港或者新加坡服务器,IP 地址会被很多 ip 库识别成大陆的。
|
|
locozAug 10, 2020 via Android
20
你就不能直接买代理或者在爬的时候开点国内云服务器做代理服务器吗…
|
|
wangyzjAug 10, 2020
21
我之前的做法是去淘宝上买一个可以随意换 IP 的机器
|
|
pagxirAug 10, 2020 via Android
22
可以用阿里云或者其他云的函数计算的,支持 web 请求,选择国内的节点即可
|
|
neweeAug 10, 2020 via iPhone
23
哪里的海外 ip 比较便宜靠谱,最近抓一个海外站点,访问几百次就会被禁。有啥供应商比较实惠的
|
|
BillowSkyAug 10, 2020 via iPhone
24
人家禁你可能你对人家造成了干扰,要不然也不会费力气禁你。
|
|
abersheeranAug 10, 2020
25
原来就是你小子在搞事情。
|
|
sunzirenAug 10, 2020
26
原来就是你小子在爬我的站
|
|
suuuchAug 10, 2020 via iPhone
27
这个感觉像是你的爬虫对别人照成影响了,换 IP 之后应该会升级反爬,
|
|
shakarakaAug 10, 2020
28
原来就是你小子在爬我的站
|
|
jones2000Aug 10, 2020
29
直接买云抓取的服务不就可以了。 还自己爬多麻烦。
|
|
adoulaAug 10, 2020
30
一般不是国外服务器比较贵吗
|
|
smplesugarAug 10, 2020
31
原来就是你小子在爬我的站
|
|
zhiikerAug 10, 2020
32
|
|
unclemczAug 10, 2020
33
淘宝买个玩客云,50 包邮,刷成 armbian 然后跑爬虫,功耗 6-10 瓦吧。
不多说了,再说又止不住手打开淘宝买一个了。 |
|
g079708Aug 10, 2020 via iPhone
34
可以试试这个,独享拨号代理 IP 池;
http://www.kuainiaoip.com/store/exclusive-adsl.html |
|
h4de5Aug 10, 2020
35
github 上面大把的免费的国内的机器。你不拿来用。很多大佬都拿来挖矿了。
|
|
ClericPyAug 10, 2020
36
这么在乎价格成本的话... 白瓢免费代理吧, 选普匿和高匿的, 然后走生产者消费者模式, 慢慢抓慢慢跑
|
|
HYisenAug 11, 2020
37
买个树莓派吧,蹭家用网络是真的便宜。
|
|
woodnaonlySep 21, 2020
38
@h4de5 关键字是什么
|
|
woodnaonlySep 21, 2020
39
@wangyzj 老哥来个关键字
|
|
wangyzjSep 21, 2020
40
@woodnaonly #39 vps
|