爱意满满的作品展示区。
8bits

Spiderless - 一个基于 AWS Lambda 的"即点即爬"爬虫应用

  •  
  •   8bits · Dec 15, 2018 · 7540 views
    This topic created in 2888 days ago, the information mentioned may be changed or developed.

    网站跑在 AWS S3 上面不知道能否访问: https://kmppp.com

    技术栈介绍和价值一个亿的核心代码开源在: https://github.com/slashbit/spider-less

    至于功能,动图走起!

    spiderless.gif

    Supplement 1  ·  Dec 16, 2018

    附上架构图 Serverless Application Architecture (1).png

    24 replies  •  2019-02-20 22:06:42 +08:00
    rayhy
    rayhy
    Dec 15, 2018
    1
    弱弱地问一下楼主有没有试过用国内的云服务商提供的类似功能(比如腾讯云的云函数)来做这件事情?
    d5
    d5
    Dec 15, 2018 via iPhone
    2
    支持
    rayingecho
    rayingecho
    Dec 15, 2018
    3
    思路很棒,已 star
    8bits
    8bits
    OP
    Dec 15, 2018
    4
    @rayhy 目前还没有用过国内的 Serverless 服务,如果有机会做小程序开发的话,倒还真想体验下腾讯云函数
    abmin521
    abmin521
    Dec 15, 2018 via Android
    5
    量大的话需要 MQ 吧
    isCyan
    isCyan
    Dec 15, 2018
    6
    AWS 全家桶实战,支持一个
    8bits
    8bits
    OP
    Dec 15, 2018
    7
    @abmin521 Message Queue 吗?嗯,可以用 AWS 的 SQS ( Simple Queue Service ),cron 函数将需要爬的任务筛选出来后,将消息扔到队列中,scrape 函数由队列消息触发
    Senventise
    Senventise
    Dec 15, 2018 via Android
    8
    建议防一下滥用,貌似可以访问墙外地址
    miao
    miao
    Dec 15, 2018
    9
    只能爬文字?
    8bits
    8bits
    OP
    Dec 15, 2018
    10
    @Senventise 的确哈,因为爬虫访问“外网”是不受限制的...
    8bits
    8bits
    OP
    Dec 15, 2018
    11
    @miao 嗯,目前只支持静态网页,在 AWS Lambda 上用 puppeteer 比较费劲
    binarymann
    binarymann
    Dec 15, 2018
    12
    不错不错,正好学习下 serverless
    8bits
    8bits
    OP
    Dec 15, 2018
    13
    @d5
    @rayingecho
    @isCyan
    @binarymann
    谢谢支持!😊
    tedd
    tedd
    Dec 15, 2018
    14
    已订阅了个站的更新,谢谢分享🙏
    bbmmwan886
    bbmmwan886
    Dec 16, 2018 via Android
    15
    貌似面向国外的 不知道会不会更新中文的 英文用起来还是不太习惯😅😅😅
    8bits
    8bits
    OP
    Dec 16, 2018
    16
    @bbmmwan886 操作很简单啦 😊
    landi
    landi
    Dec 17, 2018
    17
    网站很漂亮啊,ui 是自己设计的吗。。。
    8bits
    8bits
    OP
    Dec 17, 2018
    18
    @landi 谢谢,嗯 😊
    dezhou9
    dezhou9
    Dec 17, 2018 via Android
    19
    有点简单啊,高中生水平,朋友。已 star
    evanvane
    evanvane
    Dec 18, 2018 via Android
    20
    请问下,第二张图是怎么生成的?
    8bits
    8bits
    OP
    Dec 18, 2018
    21
    @dezhou9 谢谢支持 😊嗯嗯主要展示一个完整的 Serverless 应用案例。
    8bits
    8bits
    OP
    Dec 18, 2018
    22
    @evanvane 在这里画的: https://cloudcraft.co/
    dezhou9
    dezhou9
    Dec 18, 2018 via Android
    23
    @8bits 我的发展建议是做一个可编程的信息流网站,根据不同的 parser,以从右向左的方式滚动
    evanvane
    evanvane
    Feb 20, 2019
    24
    @8bits 多谢
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4990 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 42ms · UTC 02:15 · PVG 10:15 · LAX 18:15 · JFK 21:15
    ♥ Do have faith in what you're doing.