在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题scrapy和scrapy-redis的区别是什么？为什么选择redis数据库？scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的。
scrapy和scrapy-redis的区别
scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。而 scrapy-redis 一套基于redis数据库、运行在 scrapy 框架之上的组件，可以让 scrapy 支持分布式策略，Slaver端共享 Master 端 redis 数据库里的 item 队列、请求队列和请求指集合。
为什么选择redis数据库？
选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的，所以基于redis 的分布式爬虫，对请求和数据的高频读取效率非常高。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python面试题 scrapy 框架运行的机制？
下一篇：
Python应该怎么学？学习python有技巧吗？
相关推荐 更多
Python面试题 scrapy 框架运行的机制？
scrapy 框架运行的机制从start_urls里获取第一批url并发送请求，请求由引擎交给调度器入请求队列，获取完毕后，调度器将请求队列里的请求交给下载器去获取请求对应的响应资源，并将响应交给自己编写的解析方法做提取处理：
7742
2019-07-04 17:46:45
怎样解决数据库高并发的问题
解决数据库高并发使用缓存式的Web应用程序架构、增加Redis缓存数据库、增加数据库索引、页面静态化、使用存储过程、MySQL主从读写分离、分表分库、负载均衡集群。
9176
2019-07-16 16:20:35
Flask框架学习之环境配置
Flask框架作为轻量级Web应用框架，最大的特征是轻便灵活，第三方库的选择面广，容易上手，试错成本低。为了帮助大家学习并掌握Flask框架，本文将会带着大家一步步的完成Flask安装的环境配置工作，让我们马上开始吧~
3763
2020-08-07 19:31:41
Python常用框架Flask介绍
Flask一直被称为是Python中轻量级的可定制的框架。其核心简单，相比其他框架更加灵活轻便，也更容易掌握。下面我们一起详细的了解一下Flask框架吧。
4416
2020-08-24 11:51:27
Django框架在Python开发很重要为什么？
Django框架是一个web框架,且是一个后端框架程序,它不是服务器，需要注意Django框架帮我们封装了很多的组件,帮助我们实现各种功能,具有很强的扩展性。功能强大的脚手架和诸多开箱即用的组件，用Django搭建Web应用快速而又省力。
5158
2020-10-15 11:56:21
热门文章
- 前端是什么
- 前端开发的工作职责
- 前端开发需要会什么？先掌握这三大核心关键技术
- 前端开发的工作方向有哪些？
- 简历加分-4步写出HR想要的简历
- 程序员如何突击面试？两大招带你拿下面试官
- 程序员面试技巧
- 架构师的厉害之处竟然是这……
- 架构师书籍推荐
- 懂了这些，才能成为架构师 查看更多
扫描二维码，了解更多信息
