binbinyouliiii
V2EX  ›  站长

频繁抓取电商商品的价格会被封吗,怎么解决这个问题

  •  
  •   binbinyouliiii · Apr 12, 2016 · 4679 views
    This topic created in 3863 days ago, the information mentioned may be changed or developed.

    学校让做项目,自己想做个关于电商商品价格浮动的项目,听说频繁抓取会被封 ip ,如果出现这种情况怎么解决

    16 replies  •  2016-04-12 19:28:55 +08:00
    lxjsmdc
    lxjsmdc
    Apr 12, 2016
    1
    你就抓现成的那几个已经抓好数据的站就行了
    dong3580
    dong3580
    Apr 12, 2016
    2
    会.
    做项目 ? 做成西贴那种 ? 如果是毕设,可以做出来,有个 demo 就行了,没必要一直抓,原理在这儿.
    jedyu
    jedyu
    Apr 12, 2016
    3
    第一步应该先去抓
    mahone3297
    mahone3297
    Apr 12, 2016
    4
    @lxjsmdc 我擦,好思路。现成抓好数据的站,会公开数据?
    binbinyouliiii
    binbinyouliiii
    OP
    Apr 12, 2016
    5
    @lxjsmdc 哪些网站会公开价格

    @jedyu 抓已经找到了些门道,但是我怕抓了没多少我的 ip 就被封了,那不就前功尽弃了
    binbinyouliiii
    binbinyouliiii
    OP
    Apr 12, 2016
    6
    @dong3580 不是网页,是给安卓客户端当服务器的,不过差不多,淘宝我是不敢想了,觉得自己抓抓京东易迅什么的就可以,你说我抓那个西贴可行吗,会被封吗
    herozzm
    herozzm
    Apr 12, 2016
    7
    会,所以做爬虫最大的问题是控制抓取频率加上较多代理 ip
    dong3580
    dong3580
    Apr 12, 2016
    8
    @binbinyouliiii
    这不还是一样...一个是 web 渲染,一个是提供给安卓渲染....
    西贴数据太少了,
    pubby
    pubby
    Apr 12, 2016
    9
    淘宝天猫抓价格都还好,麻烦的是抓淘宝评论数据
    lianyue
    lianyue
    Apr 12, 2016 via iPhone
    11
    @binbinyouliiii 写个 代理脚本就好了呗
    Mysdes
    Mysdes
    Apr 12, 2016
    12
    网易的惠惠助手,双十一的时候都官方申明“因为众所周知的原因”关闭了历史价格
    binbinyouliiii
    binbinyouliiii
    OP
    Apr 12, 2016
    13
    @Mysdes 他关闭他的。我抓我的
    @lianyue 没有这么多 ip 啊
    Navee
    Navee
    Apr 12, 2016
    14
    一般爬虫类应用都会有很多代理,请求的时候会使用不同的代理来保证每次都能抓取到数据
    Felldeadbird
    Felldeadbird
    Apr 12, 2016
    15
    找 /买 IP 代理。
    lianyue
    lianyue
    Apr 12, 2016 via iPhone
    16
    @binbinyouliiii 在写个脚本抓互联网上的代理
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3895 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 56ms · UTC 09:51 · PVG 17:51 · LAX 01:51 · JFK 04:51
    ♥ Do have faith in what you're doing.