ly879
V2EX  ›  问与答

有没有公开授权的可以允许爬虫的网站

  •  
  •   ly879 · Oct 1, 2022 · 2563 views
    This topic created in 1493 days ago, the information mentioned may be changed or developed.
    6 replies  •  2022-10-01 20:59:50 +08:00
    Jojoy
    Jojoy
    Oct 1, 2022
    1
    换句话:有没有倒贴宽带钱给用户的网站。
    0o0O0o0O0o
    0o0O0o0O0o
    Oct 1, 2022❤️2
    2
    按照 robots.txt 来应该就可以
    ly879
    ly879
    OP
    Oct 1, 2022
    3
    更新:网站根目录下有个 robots.txt 文件表明是否允许爬虫。
    qianxaingmoli
    qianxaingmoli
    Oct 1, 2022
    4
    新手入门案例都是豆瓣,豆瓣在反爬上比较友好一点
    Chaidu
    Chaidu
    Oct 1, 2022
    5
    你用 Google 能搜索到的网站都是“公开授权的可以允许爬虫的网站”
    kasusa
    kasusa
    Oct 1, 2022
    6
    煎蛋网好多人都爬爬)
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1382 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 20:15 · PVG 04:15 · LAX 12:15 · JFK 15:15
    ♥ Do have faith in what you're doing.