在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题scrapy和scrapy-redis的区别是什么？为什么选择redis数据库？scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的。
scrapy和scrapy-redis的区别
scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。而 scrapy-redis 一套基于redis数据库、运行在 scrapy 框架之上的组件，可以让 scrapy 支持分布式策略，Slaver端共享 Master 端 redis 数据库里的 item 队列、请求队列和请求指集合。
为什么选择redis数据库？
选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的，所以基于redis 的分布式爬虫，对请求和数据的高频读取效率非常高。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python面试题 scrapy 框架运行的机制？
下一篇：
Python应该怎么学？学习python有技巧吗？
相关推荐 更多
七个提升Python运行性能的小技巧
七个提升Python运行性能的小技巧有使用局部变量，减少函数调用次数采用映射替代条件查找，直接迭代序列元素，采用生成器表达式替代列表解析，先编译后调用，模块编程习惯。
8605
2019-07-26 18:14:29
python开发中元组是什么？元组定义
python开发中元组是什么？元组（tuple）是关系数据库中的基本概念，关系是一张表，表中的每行（即数据库中的每条记录）就是一个元组，每列就是一个属性。 在二维表里，元组也称为行。
12264
2019-06-28 14:30:30
Python开发的内存管理机制及调优手段？
Python 的内存管理机制及调优手段？Python内存管理机制：引用计数、垃圾回收、内存池。垃圾回收 ：引用计数、标记清除、分代回收。引用计数进行高效的内存管理手段。调优手段：手动垃圾回收、调高垃圾回收阈值、避免循环引用。
7060
2019-06-28 14:59:42
Python开发岗位求职面试常见问题集锦（二）
Python是目前国内外广受关注的编程语言之一。因此很多朋友选择学习python编程语言，而再人才大量涌入这个行业的同时，企业有了更多的选择性，对求职者的筛选也越来越严格。如果没有充分准备就去面试，很容易遭遇碰壁。那如何才能增加自己面试成功的几率呢？……
8531
2019-06-28 18:21:33
Python 函数默认返回None原因是什么？
Python 函数默认返回None原因：定义的函数没有返回值，Python 解释器就会强行地默认给注入一段返回逻辑！实际上 Python 中有很多行为都是隐性的。
6252
2020-08-19 15:29:51
