• 请不要在回答技术问题时复制粘贴 AI 生成的内容
xiao38245
V2EX  ›  程序员

三年爬虫需要什么技能树?

  •  
  •   xiao38245 · Apr 8, 2020 · 5305 views
    This topic created in 2402 days ago, the information mentioned may be changed or developed.

    如题, 感觉爬虫知识很凌乱, 有什么系统的技能树借鉴一下吗 顺便, 如果想转产品经理的话, 困难吗

    23 replies  •  2020-04-10 18:40:14 +08:00
    scukmh
    scukmh
    Apr 8, 2020❤️14
    1
    三年爬虫经验:
    1. 熟练使用 python 编写爬虫两年
    2. 坐牢一年
    zhanglp888
    zhanglp888
    Apr 8, 2020
    2
    @scukmh 哈!感受了
    renmu123
    renmu123
    Apr 8, 2020
    3
    随便列举一点(我也不是干爬虫的):
    1. 集群下载
    2. app 逆向
    3. js 逆向
    4. js 解密
    5. 不同验证码的破解方法
    6. 各种反反爬的知识
    lhx2008
    lhx2008
    Apr 8, 2020 via Android
    4
    爬虫好像要知道的东西不多,比较难的可能是调度架构,JS 分析,验证码识别,数据清洗之类的吧
    wolfan
    wolfan
    Apr 8, 2020 via Android
    5
    职业律师资格证书
    zcfnc
    zcfnc
    Apr 8, 2020
    6
    不吃三年劳饭的程序员
    不是一个好的爬虫产品经理
    xiao38245
    xiao38245
    OP
    Apr 8, 2020
    7
    @scukmh 太草了
    sakila
    sakila
    Apr 8, 2020
    8
    @scukmh 三年爬虫经验:
    1. 熟练使用 python 编写爬虫两年
    2. 坐牢一年
    ----
    谢谢兄弟, 有被笑到
    yingqi7
    yingqi7
    Apr 8, 2020 via iPhone
    9
    @scukmh 你想来华为上班吗
    yinjy
    yinjy
    Apr 8, 2020
    10
    看成三年爬树了
    forgottencoast
    forgottencoast
    Apr 8, 2020
    11
    吓的瑟瑟发抖。
    幸好我写爬虫的时候还不流行坐牢。
    hugedata
    hugedata
    Apr 8, 2020
    12
    楼上说的职业律师资格证书和坐牢一年这些是备选,主要还是自己要多学习一些法律知识,打铁还需自身硬。一定要知法、懂法、守法。
    murmur
    murmur
    Apr 8, 2020
    13
    现在的爬虫跟爬虫本身已经没多大关联了,首先你得有资源,包括机器和 IP,然后你要能逆向,各种与反扒对抗,最后你要有法律知识,不要越界被制裁
    labulaka521
    labulaka521
    Apr 8, 2020 via Android
    14
    @renmu123 再加一条熟悉法律知识🐶
    masker0817
    masker0817
    Apr 8, 2020 via Android
    15
    会用脚捡肥皂?
    wangyzj
    wangyzj
    Apr 8, 2020
    16
    高级一点逆向工程是必须的
    yprisoner
    yprisoner
    Apr 8, 2020
    17
    一楼笑死哈
    hmxxmh
    hmxxmh
    Apr 8, 2020
    18
    @scukmh 坐牢时间越久,爬虫技术越强???
    Damon154
    Damon154
    Apr 8, 2020
    19
    @scukmh 牛逼牛逼
    levelworm
    levelworm
    Apr 9, 2020 via Android
    20
    @renmu123 感觉和网络安全有点像啊,可惜 js 不会。
    kasper4649
    kasper4649
    Apr 9, 2020
    21
    JS 逆向挺烦的,我还是太菜,打断点找半天。
    freemoon
    freemoon
    Apr 9, 2020
    22
    转的话后端比较方便吧;
    说一些重要的技能点:懂 js 逆向,app 逆向,验证码破解(这个不强求,简单的尽量打码平台),分布式爬虫部署,四选三,逐一而精就够了。
    Cmdhelp
    Cmdhelp
    Apr 10, 2020
    23
    毕业小白,js 调试得会,html 解析得会,分布式得会,docker 得会,ios 逆向找加密~~~,泪奔
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2604 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 56ms · UTC 14:09 · PVG 22:09 · LAX 06:09 · JFK 09:09
    ♥ Do have faith in what you're doing.