推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
Ewig
V2EX  ›  Python

最近想爬天眼查 网站

  •  
  •   Ewig · Jan 20, 2019 · 17097 views
    This topic created in 2847 days ago, the information mentioned may be changed or developed.

    这个网站一个账号查询的次数是不是有限制啊? 限制多少次?

    是不是需要买 vip 账号爬?

    41 replies  •  2019-01-21 20:59:20 +08:00
    d5
    d5
    Jan 20, 2019 via iPhone
    1
    做爬虫出生的公司,你要爬,阻力太多了
    zwl2012
    zwl2012
    Jan 20, 2019 via iPhone
    2
    接口加密了 密钥有效期 1 分钟
    FaustinaD
    FaustinaD
    Jan 20, 2019 via iPhone
    3
    想多了。老老实实买接口吧,卖数据接口的网站会让你爬?
    tomxin7
    tomxin7
    Jan 20, 2019
    4
    去年爬过,但是没有批量,cookie 过期好像时间还挺久的,可能我爬的比较少吧
    519718366
    519718366
    Jan 20, 2019 via iPhone
    5
    我这是找他们商务合作的
    guog
    guog
    Jan 20, 2019 via Android
    6
    他们的数据也是从郭嘉企业信息网爬的吧,不如直接从源头入手
    locoz
    locoz
    Jan 20, 2019 via Android
    7
    只需要简单的信息就行可以直接爬工商局
    ShareDuck
    ShareDuck
    Jan 20, 2019 via Android❤️1
    8
    @guog 是直接从工商那边获取数据,不是通过爬的。
    lhx2008
    lhx2008
    Jan 20, 2019
    9
    反爬虫很厉害的,无所不用其极,验证码也很难,爬几百个没问题,多了代理池都爬不下来。

    天眼查最开始应该是自己爬的,后面为了数据合法找了个背景做靠山。
    OctopusGO
    OctopusGO
    Jan 21, 2019 via Android
    10
    是需要买 vip,我公司现在是用 Java 爬的
    scriptB0y
    scriptB0y
    Jan 21, 2019
    11
    ... 你去爬一个爬虫网站
    xiaotuzi
    xiaotuzi
    Jan 21, 2019 via iPhone
    12
    小心给你一个律师函
    izoabr
    izoabr
    Jan 21, 2019
    13
    要不考虑一下行政渠道的爬虫?
    jssyxzy
    jssyxzy
    Jan 21, 2019
    14
    以前爬过,应该可爬,可能需要上 phatomjs
    myhot21
    myhot21
    Jan 21, 2019 via Android
    15
    自从要登录注册后,就基本不能爬了,给钱买数据吧。
    supervipcard
    supervipcard
    Jan 21, 2019
    16
    如果已经有一个大的公司名列表,逐个搜索爬不难,把代理、cookie 池、验证码识别都弄上。
    fenghuang
    fenghuang
    Jan 21, 2019
    17
    极验证就不好弄
    Ewig
    Ewig
    OP
    Jan 21, 2019
    18
    @OctopusGO 买 vip 的原因是限制次数吗?
    Ewig
    Ewig
    OP
    Jan 21, 2019
    19
    @fenghuang 极验很简单啊
    Ewig
    Ewig
    OP
    Jan 21, 2019
    20
    @supervipcard 主要怕限制账号次数啊
    Ewig
    Ewig
    OP
    Jan 21, 2019
    21
    @tomxin7 主要看 cookie 爬有没有账号爬取次数
    passerbytiny
    passerbytiny
    Jan 21, 2019
    22
    总感觉爬数据这事,大公司做是废物利用地商业行为,个人爬就是抢数据地流氓行为:我脑袋到底哪里出问题了。
    Ewig
    Ewig
    OP
    Jan 21, 2019
    23
    @supervipcard 关键很多说买 vip 爬不知道为啥
    supervipcard
    supervipcard
    Jan 21, 2019
    24
    @Ewig 可能是因为单次搜索的页数限制吧
    wisej
    wisej
    Jan 21, 2019 via Android
    25
    @Ewig 有的信息不是没 vip 不显示么
    guanhui07
    guanhui07
    Jan 21, 2019
    26
    他爬别人,你爬他,别人爬你
    kevinle
    kevinle
    Jan 21, 2019 via Android
    27
    脱裤更省事
    blueskea
    blueskea
    Jan 21, 2019 via Android
    28
    爬过企查查,字体被替换过了,验证码搞不定,半自动爬的。
    dezhou9
    dezhou9
    Jan 21, 2019 via Android
    29
    1.8 亿条你爬他干嘛
    Ewig
    Ewig
    OP
    Jan 21, 2019
    30
    @wisej 我只爬工商数据,vip 能看到那些不显示的数据?能说一下嘛?
    Ewig
    Ewig
    OP
    Jan 21, 2019
    31
    @supervipcard 比如我每次搜百度 腾讯 这种公司能搜多少次,普通的账号
    wisej
    wisej
    Jan 21, 2019 via Android
    32
    @Ewig sry 天眼查 vip 与非 vip 在信息展示完整度没有差别 只是展示量级有差别

    我之前用的另一个非 vip 信息展示才是不完整的
    uuair
    uuair
    Jan 21, 2019
    33
    有这功夫,你不如应聘进去,内网直接往外倒腾。
    loser
    loser
    Jan 21, 2019
    34
    牛逼,支持爬他!!!
    IllllI
    IllllI
    Jan 21, 2019
    35
    @blueskea 谁能搞定验证码
    love9918
    love9918
    Jan 21, 2019
    36
    有想法就干
    hgjhgjgjhgjg
    hgjhgjgjhgjg
    Jan 21, 2019
    37
    https://www.lagou.com/jobs/1570819.html

    反爬虫工程师

    职位描述

    参与公司网站数据反爬虫策略的制定和优化。

    负责反爬虫功能模块的代码实现及测试工作。

    监控网站异常访问并及时调整相关策略。
    andylsr
    andylsr
    Jan 21, 2019 via Android
    38
    天眼查数据随便抓。。。
    zhangsen1992
    zhangsen1992
    Jan 21, 2019
    39
    vip ip 白名单 随便调用接口
    shadiao
    shadiao
    Jan 21, 2019 via iPhone
    40
    @uuair 优秀啊
    penisulaS
    penisulaS
    Jan 21, 2019
    41
    爬一会整个网页开始部分字乱序,后面乱序的会越来越多
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1876 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 75ms · UTC 07:25 · PVG 15:25 · LAX 23:25 · JFK 02:25
    ♥ Do have faith in what you're doing.