直接从网上爬的话,容易 404 。 然后从 rss 爬好像不是最近的,有什么办法爬最新的东西呢?
直接从网上爬的话,容易 404 。 然后从 rss 爬好像不是最近的,有什么办法爬最新的东西呢?
|
andyskauraDec 22, 2020
1
无头浏览器 效率虽然低 但是自己用省事还稳定
|
|
knightdfDec 22, 2020
2
张大妈好爬吧,直接撸接口就行了
|
|
3
不会啊,我爬了一年多,爬取频率是隔三分钟爬三百条,贼稳定,没出现过 404
|
|
SappDec 22, 2020
4
我之前用 electron 直接解析网页读取 dom 收集小说,和直接访问没啥区别,张大妈应该也可以
|
|
hubahubaDec 22, 2020
5
@LikeMurphy 张大妈警告
|
|
LikeMurphyDec 23, 2020
7
@hubahuba 没事,我只是爬信息回来,买东西还是走他的链接,对它没损害,甚至我还发展了几个下线
|
|
LikeMurphyDec 23, 2020
8
@galileo1214 没反应大概率是你的接口调用有问题,去 gayhub 上搜一下吧,很多人写这方面的
|