注:ELK(ElasticSearch, Logstash, Kibana)
背景: 前两天一家公司,搜索了一下感觉还不错;它们发给我一套线上试题先做再邀约面试。 面试题的岗位是爬虫工程师。
先说我自己,工作经验是 LINUX-C 的,学了 Python 想转 Python 开发 (主要考虑后端或数据相关岗;爬虫岗优先级靠后一点。 Python 能力是得到求职市场承认的,投简历没有百分百邀约面试,不过去面试的百分百谈薪资,面试最后都是我说回去考虑一两天答复; 但是业务能力我完全明白自己不足,具体的 PV,UV 是什么我还得学一下)
上面是整体的背景;然后下面是线上面试题的细节:
- 前面是个人测试(类似霍德兰什么那个测试啥的,个人感觉这套测试有升级)
- 然后是一些素质题(语言能力和逻辑和数学)
- 然后两道 Python 题(都很 [业务向] ,很不 [基础向] )
- 第一道简述反爬机制、和应对策略
- 第二道可以自己运行,然后提交网站代码(形式上像计算机等级考试)
第二道的题目内容是分析标题的 access log ;不过这个 access log 不是 Nginx 生成的,但是很像就是了; 相当于是 server 提供 RESTful API,是 access API 的 log,包含了更多的信息,举个例子吧:
{"remote_addr": ..., "host": ..., "time": ...,
"request": ..., ... "url": ..., "request_url": ...}
json 格式的“大”文件 每一条 log 根据具体的 API 格式没有百分百相同,但都是 JSON
题目分析 log 文件,调用函数能够得到 pv,uv,
和 topK 的一个 url 查询(如 /api/any_thing?key=中文,得到这个特定 API 的 key 后面内容的 topK )
最后回到标题,平时工作像上述分析 log 得到 pv,uv,topk 这样的,算是什么岗位? ELK ??