oahebky
V2EX  ›  问与答

解析网站 log(如 Nginx access log),得出 PV, UV, topK access 是什么岗位? ELK?

  •  
  •   oahebky · Sep 13, 2020 · 1558 views
    This topic created in 2112 days ago, the information mentioned may be changed or developed.

    注:ELK(ElasticSearch, Logstash, Kibana)

    背景: 前两天一家公司,搜索了一下感觉还不错;它们发给我一套线上试题先做再邀约面试。 面试题的岗位是爬虫工程师。

    先说我自己,工作经验是 LINUX-C 的,学了 Python 想转 Python 开发 (主要考虑后端或数据相关岗;爬虫岗优先级靠后一点。 Python 能力是得到求职市场承认的,投简历没有百分百邀约面试,不过去面试的百分百谈薪资,面试最后都是我说回去考虑一两天答复; 但是业务能力我完全明白自己不足,具体的 PV,UV 是什么我还得学一下)

    上面是整体的背景;然后下面是线上面试题的细节:

    • 前面是个人测试(类似霍德兰什么那个测试啥的,个人感觉这套测试有升级)
    • 然后是一些素质题(语言能力和逻辑和数学)
    • 然后两道 Python 题(都很 [业务向] ,很不 [基础向] )
      • 第一道简述反爬机制、和应对策略
      • 第二道可以自己运行,然后提交网站代码(形式上像计算机等级考试)

    第二道的题目内容是分析标题的 access log ;不过这个 access log 不是 Nginx 生成的,但是很像就是了; 相当于是 server 提供 RESTful API,是 access API 的 log,包含了更多的信息,举个例子吧:

    {"remote_addr": ..., "host": ..., "time": ...,
     "request": ..., ... "url": ..., "request_url": ...}
    

    json 格式的“大”文件 每一条 log 根据具体的 API 格式没有百分百相同,但都是 JSON

    题目分析 log 文件,调用函数能够得到 pv,uv, 和 topK 的一个 url 查询(如 /api/any_thing?key=中文,得到这个特定 API 的 key 后面内容的 topK )


    最后回到标题,平时工作像上述分析 log 得到 pv,uv,topk 这样的,算是什么岗位? ELK ??

    3 replies    2020-09-13 17:05:31 +08:00
    supermoonie
        1
    supermoonie  
       Sep 13, 2020 via iPhone
    爬虫爬取数据是一回事,爬下来的数据也是一回事,也算是爬虫的工作吧,只不过爬虫还是更专注爬取与反爬
    putaozhenhaochi
        2
    putaozhenhaochi  
       Sep 13, 2020
    数据分析 /增长黑客?
    srlp
        3
    srlp  
       Sep 13, 2020 via iPhone   ❤️ 1
    data engineer
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3693 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 10:18 · PVG 18:18 · LAX 03:18 · JFK 06:18
    ♥ Do have faith in what you're doing.