在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题scrapy和scrapy-redis的区别是什么？为什么选择redis数据库？scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的。
scrapy和scrapy-redis的区别
scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。而 scrapy-redis 一套基于redis数据库、运行在 scrapy 框架之上的组件，可以让 scrapy 支持分布式策略，Slaver端共享 Master 端 redis 数据库里的 item 队列、请求队列和请求指集合。
为什么选择redis数据库？
选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的，所以基于redis 的分布式爬虫，对请求和数据的高频读取效率非常高。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python面试题 scrapy 框架运行的机制？
下一篇：
Python应该怎么学？学习python有技巧吗？
相关推荐 更多
Python开发工程师面试中常见知识点集锦（一）
很多Python工程师屡屡碰壁，需要很长时间才能找到合适的工作。虽然有一部分是因为技术能力确实无法满足企业需求，而更多的人技术能力很强仅仅是因为面试过程中没有良好的发挥。所以作为Python开发工程师，不仅仅要掌握知识，同时也要多了解一些面试题。这样在遇到跳槽的时候才能更快的找到满意的工作。下面就是python开发工程师面试中常见的知识点集锦。
8726
2019-06-27 18:11:50
python开发中元组是什么？元组定义
python开发中元组是什么？元组（tuple）是关系数据库中的基本概念，关系是一张表，表中的每行（即数据库中的每条记录）就是一个元组，每列就是一个属性。 在二维表里，元组也称为行。
12545
2019-06-28 14:30:30
Python入门基础练习题整理附答案
在初学者Python入门的时候，一方面要多注重积累理论基础知识，另一方面就是要多练手。因此本文整理了Python入门的基础练习题，相信对初学者会有很大的帮助。
13048
2019-08-14 18:15:39
常见的Python数据可视化库介绍
常见的Python数据可视化库，Python代码脚本不断复用，不断处理更新的数据；调用丰富的工具库，解决做地图、做交互、做动态的多种需求；Python可以访问数据接口实时调取数据。
3834
2021-05-04 11:10:48
需要学习的Python自动化测试框架有哪些？
常用的Python自动化测试框架有Robot Framework、Pytest、UnitTest/PyUnit、Behave、Lettuce。软件测试的自动化在预设条件下运行系统或应用程序，评估运行结果，预先条件应包括正常条件和异常条件。自动化测试以人为驱动的测试行为转化为机器执行的一种过程。
4363
2021-05-13 16:06:39
