要在一个网站上面抓取大概十万个网页里面的数据,网站的抓取不是问题,url很规范
问题在于,我以前用PHP最多抓取一两个页面,也很快,但是这么多的数据,用PHP肯定会死~
但是不知道能否像写shell一样在本地运行PHP,没有时间限制也不会死
嗯,语无伦次了~大概就是这个意思
PS:我知道Python适合干这事,但我Python刚刚跑起helloworld,离运用还有很长的距离。。。。
问题在于,我以前用PHP最多抓取一两个页面,也很快,但是这么多的数据,用PHP肯定会死~
但是不知道能否像写shell一样在本地运行PHP,没有时间限制也不会死
嗯,语无伦次了~大概就是这个意思
PS:我知道Python适合干这事,但我Python刚刚跑起helloworld,离运用还有很长的距离。。。。