python爬虫开发工程师岗位职责

任职要求:
1. 拥有扎实的编程能力，熟悉 Python 或其他主流编程语言。
2. 熟悉网络基础知识和常用协议，了解 HTTP、HTTPS、FTP 等协议原理及使用方法。
3. 精通 Web 相关技术，包括 HTML、CSS 和 JavaScript，并有相关开发经验。
4. 具备良好的沟通能力和团队意识，有解决问题的积极心态和创新精神。

岗位职责：
1. 根据业务需求，研究爬虫策略和防屏蔽规则，设计和开发分布式爬虫，支持高并发多平台抓取；
2. 负责网页信息抽取、简单清洗、数据入库等开发；
3. 提升爬虫稳定性及可扩展性，充分利用资源，优化爬虫效率和质量。
任职资格：
1. 计算机软件及相关专业本科毕业；
2. 1年以上爬虫项目开发经验，优秀毕业生亦可；
3.了解或处理过手机端抓包、源码分析等；
4.了解或处理过webpack、jsvmp等
5. 熟悉爬虫原理及常见的反爬虫技术，如cookie、js加密、base64等；
6. 熟练运用python及多进程、多线程开发；
7. 熟练使用scrapy、requests、selenium、pyppeteer等爬虫包；
8. 熟悉html，正则、xpath等提取技术；
9. 熟悉Mysql、Redis等数据库及相关操作；
10. 熟悉Linux基础命令；
11. 有Django/Flask等web框架开发经验者优先。

）熟练HTTP、TCP等网络协议及数据抓包与分析；
2）熟练Android/ios的抓包流程与SSL Pinning bypass;
3) 熟练使用Python/Go/C++；
4）有大型app协议风控对抗经验/中间人攻击经验优先；
5）具备独立软件/脚本开发能力；
6）能够协作开发，具备良好的团队协作精神，良好的沟通能力，能够理解并满足业务需求；
7）对新技术有敏锐的洞察力，能够快速学习和应用新技术；
8）负责设计和开发分布式爬虫系统，具备大规模数据处理经验，能够设计并实现高效的数据处理方案，熟悉批量操作的开发，能够优化和提高数据处理效率；
学历要求： 计算机相关专业专科及以上学历