查看“分布式任务队列Celery”的源代码
←
分布式任务队列Celery
跳转至:
导航
,
搜索
因为以下原因,您没有权限编辑本页:
您所请求的操作仅限于该用户组的用户使用:
用户
您可以查看与复制此页面的源代码。
==Celery简介== 随着信息时代的持续发展,越来越复杂的业务需求对自动化运维的要求上了一个新的台阶,任务调度系统也由单一主机任务调度系统向分布式任务调度系统过渡。无论是业务层面的作业调度还是运维本身的作业调度需求,分布式的任务也越来越普及。本章将介绍一个非常优秀的开源分布式任务队列——Celery。Celery是一个简单、灵活且可靠的,可以处理大量消息的分布式系统,并且提供了维护这样一个系统的必需工具。它是一个专注于实时处理的任务队列,同时也支持任务调度。 Celery是由纯Python编写的,但协议可以用任何语言实现。目前,已有Ruby实现的RCelery、Node.js实现的node-celery及一个PHP客户端,语言互通也可以通过using webhooks实现。在使用Celery之前,我们先来了解以下几个概念: ==Celery概念== ===任务队列=== 任务队列:简单来说,任务队列就是存放着任务的队列,客户端将要执行任务的消息放入任务队列中,执行节点worker进程持续监视队列,如果有新的任务,就取出来执行该任务。这种机制就像生产者、消费者模型一样,客户端作为生产者,执行节点worker作为消费者,它们之前通过任务队列进行传递, [[文件:python20-14-1.png]] ===中间人=== 中间人(broker):Celery用于消息通信,通常使用中间人(broker)在客户端和worker之前传递,这个过程从客户端向队列添加消息开始,之后中间人把消息派送给worker。官方给出的实现broker的工具。 [[文件:python20-14-2.png]] 在实际使用中,我们选择RabbitMQ或Redis作为中间人。 ==安装Celery== 我们可以从Python Package Index(PyPI)安装或者使用源代码安装Celery,推荐使用pip安装。 ===使用pip安装=== pip install celery ===使用源代码安装=== (http://pypi.python.org/pypi/celery/)。 $ tar xvfz celery-0.0.0.tar.gz $ cd celery-0.0.0 $ python setup.py build $ python setup.py install #这里如果不是在virtualenv中安装,就需要使用root权限安装
返回至
分布式任务队列Celery
。
导航菜单
个人工具
登录
命名空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
首页
最近更改
随机页面
帮助
工具
链入页面
相关更改
特殊页面
页面信息