xinyidao
V2EX  ›  问与答

爬京东的商品列表老被跳转到首页,咋整

  •  
  •   xinyidao · Oct 17, 2014 · 4966 views
    This topic created in 4409 days ago, the information mentioned may be changed or developed.
    公司要爬京东的一类商品列表。
    爬了10多条,就被jd跳转到首页了。

    各位爬网人士,你们都是怎么绕过去的
    6 replies  •  2014-10-18 11:49:43 +08:00
    herozzm
    herozzm
    Oct 17, 2014
    1
    频率太高了,京东有防护,适当降低频率看看
    tcsky
    tcsky
    Oct 18, 2014
    2
    请求太快了, 以前刷东西时也遇到过, 速度放慢, 加代理, 走不同cdn节点.
    zooooom
    zooooom
    Oct 18, 2014
    3
    大公司都会有防爬机制
    zts1993
    zts1993
    Oct 18, 2014 via Android
    4
    遇到验证码了吧,。。。。。。。
    伪造ip试试
    xinyidao
    xinyidao
    OP
    Oct 18, 2014
    5
    @zts1993 ip怎么伪造啊?
    xinyidao
    xinyidao
    OP
    Oct 18, 2014
    6
    @tcsky cdn节点也可以选?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1060 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 18:34 · PVG 02:34 · LAX 10:34 · JFK 13:34
    ♥ Do have faith in what you're doing.