Python如何快速实现分布式任务

深入读了读python的官方文档，发觉Python自带的multiprocessing模块有很多预制的接口可以方便的实现多个主机之间的通讯，进而实现典型的生产者-消费者模式的分布式任务架构。

之前，为了在Python中实现生产者-消费者模式，往往就会选择一个额外的队列系统，比如rabbitMQ之类。此外，你有可能还要设计一套任务对象的序列化方式以便塞入队列。如果没有队列的支持，那不排除有些同学不得不从socket服务器做起，直接跟TCP/IP打起交道来。

其实multiprocessing.managers中有个BaseManager就为开发者提供了这样一个快速接口。

我们假定的场景是1个生产者（producer.py）+8个消费者(worker.py)的系统，还有一个中央节点负责协调（server.py）实现如下：

server.py

from multiprocessing.managers import BaseManager
import Queue

queue = Queue.Queue() #初始化一个Q，用于消息传递
class QueueManager(BaseManager):
  pass

QueueManager.register('get_queue', callable=lambda:queue) # 在系统中发布get_queue这个业务

if __name__ == '__main__':
  m = QueueManager(address=('10.239.85.193', 50000),authkey='abr' )
 # 监听所有10.239.85.193的50000口
  s = m.get_server()
  s.serve_forever()

worker.py

from multiprocessing.managers import BaseManager
from multiprocessing import Pool


class QueueManager(BaseManager):
 pass

QueueManager.register('get_queue') 

def feb(i): #经典的'山羊增殖'
  if i < 2: return 1
  if i < 5 : return feb(i-1) + feb(i-2)
  return feb(i-1) + feb(i-2) - feb(i-5)

def worker(i): 
  m = QueueManager(address=('10.239.85.193', 50000), authkey='abr')
#连接server
  m.connect()
  while True:
    queue = m.get_queue()
# 获取Q
   c = queue.get()
 print feb(c)

if __name__ == '__main__':

  p = Pool(8) # 分进程启动8个worker
  p.map(worker, range(8))
producer.py

from multiprocessing.managers import BaseManager


class QueueManager(BaseManager):
  pass
QueueManager.register('get_queue')


if __name__ == '__main__':
 m = QueueManager(address=('10.239.85.193', 50000), authkey='abr')
 m.connect()
 i = 0
 while True:
   queue = m.get_queue()
   queue.put(48)

   i+=1

系统会直接将Queue() 对象中的数据直接封装后通过TCP 50000端口在主机之间传递。不过需要注意的是，由于authkey的缘故，各个节点要求python的版本一致。

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。

# Python  # 分布式任务  # Python实现分布式任务  # 支持python的分布式计算框架Ray详解  # 在Python程序中实现分布式进程的教程  # Python自定义主从分布式架构实例分析  # 使用Ray集群简单创建Python分布式应用程序  # 的是  # 就会  # 有个  # 多个  # 有很多  # 你有  # 如果没有  # 这样一个  # 还有一个  # 自带  # 打起  # 读了  # 需要注意  # 那不  # 就为  # 大家多多  # 不从  # 道来  # 象中  # 文档 

相关文章： 昆明网站制作哪家好,昆明公租房申请网上登录入口？  mc皮肤壁纸制作器,苹果平板怎么设置自己想要的壁纸我的世界？  网站设计制作企业有哪些,抖音官网主页怎么设置？  建站之星伪静态规则如何正确配置？  如何在阿里云高效完成企业建站全流程？  网站制作的方法有哪些,如何将自己制作的网站发布到网上？  建站之星安装提示数据库无法连接如何解决？  如何通过WDCP绑定主域名及创建子域名站点？  宝塔面板如何快速创建新站点？  C++如何使用std::optional？（处理可选值）  陕西网站制作公司有哪些,陕西凌云电器有限公司官网？  如何通过虚拟主机快速搭建个人网站？  做企业网站制作流程,企业网站制作基本流程有哪些？  建站之星手机一键生成：多端自适应+小程序开发快速建站指南  建站之星多图banner生成与模板自定义指南  如何通过商城免费建站系统源码自定义网站主题？  沈阳个人网站制作公司,哪个网站能考到沈阳事业编招聘的信息？  矢量图网站制作软件,用千图网的一张矢量图做公司app首页，该网站并未说明版权等问题，这样做算不算侵权？应该如何解决？  长沙企业网站制作哪家好,长沙水业集团官方网站？  如何快速生成专业多端适配建站电话？  新网站制作渠道有哪些,跪求一个无线渠道比较强的小说网站，我要发表小说？  智能起名网站制作软件有哪些,制作logo的软件？  详解一款开源免费的.NET文档操作组件DocX（.NET组件介绍之一）  建站之星如何快速更换网站模板？  如何高效配置IIS服务器搭建网站？  建站之星如何配置系统实现高效建站？  h5在线制作网站电脑版下载,h5网页制作软件？  小型网站制作HTML,*游戏网站怎么搭建？  详解jQuery中基本的动画方法  在线ppt制作网站有哪些,请推荐几个好的课件下载的网站？  建站之星如何防范黑客攻击与数据泄露？  如何在阿里云虚拟机上搭建网站？步骤解析与避坑指南  在线教育网站制作平台,山西立德教育官网？  浅谈Javascript中的Label语句  建站之星代理如何获取技术支持？  广德云建站网站建设方案与建站流程优化指南  教育培训网站制作流程,请问edu教育网站的域名怎么申请？  青岛网站建设如何选择本地服务器？  建站主机是否等同于虚拟主机？  南宁网站建设制作定制,南宁网站建设可以定制吗？  建站之星后台密码遗忘或太弱？如何重置与强化？    c++怎么编写动态链接库dll_c++ __declspec(dllexport)导出与调用【方法】  怎么制作一个起泡网,水泡粪全漏粪育肥舍冬季氨气超过25ppm，可以有哪些措施降低舍内氨气水平？  网站网页制作电话怎么打,怎样安装和使用钉钉软件免费打电话？  C++如何编写函数模板？（泛型编程入门）  香港服务器如何优化才能显著提升网站加载速度？  公司网站的制作公司,企业网站制作基本流程有哪些？  黑客如何通过漏洞一步步攻陷网站服务器？  如何设置并定期更换建站之星安全管理员密码？