king2014
V2EX  ›  问与答

网站 nginx 错误日志里面有大量百度过来的访问不存在目录文件记录?请问是什么情况

  •  
  •   king2014 · Apr 4, 2018 · 1970 views
    This topic created in 3138 days ago, the information mentioned may be changed or developed.

    每天超过 5 万条这种错误日志
    1.先查了下网站下面的这个目录.可以确认的是没有这个 /ys/fakeimg/目录,应该是从开始就没有存在过
    2.403forbidden 是我 nginx 做了处理控制访问目录.
    3.查了下下这些 ip 基本上都是属于百度爬虫,前天设置 Robots 文件禁止爬取这个目录,还是不停访问这个不存在的目录
    4.虽然对我网站也没什么影响,表面上看不出来影响,但是每天那么多错误访问看着心里不舒服
    5.现在我如何调查为什么百度的 ip 大量的访问这个不存在的目录呢?
    下面是日志截图,隐藏了我自己网站域名了
    https://wx1.sinaimg.cn/mw690/725fbea0gy1fq0foz14i3j219n0noq9x.jpg

    9 replies  •  2018-04-04 11:17:53 +08:00
    king2014
    king2014
    OP
    Apr 4, 2018
    1
    locktionc
    locktionc
    Apr 4, 2018
    2
    /ys/fakeimg/有点像很久之前的永硕网盘的地址。。。
    7654
    7654
    Apr 4, 2018
    3
    查查这个域名&IP 历史,百度以前收录过了吧
    king2014
    king2014
    OP
    Apr 4, 2018
    4
    @7654 如果是之前被收入过的,我该如何处理?
    sisterth
    sisterth
    Apr 4, 2018
    5
    如果网站正常收录,且排名不受影响的话,可以不用管,现在日志都没怎么看了,除了上新站的时候看一下蜘蛛的爬取记录
    king2014
    king2014
    OP
    Apr 4, 2018
    6
    @sisterth 嗯,实在没办法就只能这样了
    king2014
    king2014
    OP
    Apr 4, 2018
    7
    @locktionc 应该不是
    aaronchou0
    aaronchou0
    Apr 4, 2018
    8
    怎么有点像我之前做的网站呢
    king2014
    king2014
    OP
    Apr 4, 2018
    9
    @aaronchou0 什么意思?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2254 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 12:12 · PVG 20:12 · LAX 04:12 · JFK 07:12
    ♥ Do have faith in what you're doing.