GraphScheduleEngine
GraphScheduleEngin通过消息队列的机制,提供了任务配置、任务启动、任务依赖分析、任务分配的方案;开发任务worker时只需要关注任务本身的计算、运行,通过订阅MessageQueue的消息来获取分配的任务,并在任务完成时通过MessageQueue将任务状态发送至GraphScheduleEngine;GraphScheduleEngine在收到一个任务状态后判断是否开始下一轮的任务分配。
Install / Use
/learn @LambdaWx/GraphScheduleEngineREADME
基于DAG图的任务流引擎
GraphScheduleEngin通过消息队列的机制,提供了任务配置、任务启动、任务依赖分析、任务分配的方案;开发任务worker时只需要关注任务本身的计算、运行,通过订阅MessageQueue的消息来获取分配的任务,并在任务完成时通过MessageQueue将任务状态发送至GraphScheduleEngine;GraphScheduleEngine在收到一个任务状态后判断是否开始下一轮的任务分配。
GraphScheduleEngine使用: 1、 运行apache-activemq作为消息中间件,并创建消息队列:"ReduceQueue" 2、 启动hbase作为任务配置信息和任务运行日志的数据仓库 3、 启动GraphScheduleEngine 4、 配置任务,创建一个名为任务worker_name的消息队列 5、 在任务worker中订阅"ReduceQueue"消息,并将任务完成状态发布至worker_name
GraphScheduleEngine是我本人为了协调诸多Java,python,shell编写的不同数据挖掘任务、进行任务调度、监测的项目。 各项功能、代码的健壮性,需要有兴趣的同行一同来完善、发展这个项目,欢迎与本人 邮箱:bchengzhou@163.com blog: http://blog.csdn.net/zbc1090549839 进行交流讨论。
Related Skills
node-connect
344.1kDiagnose OpenClaw node connection and pairing failures for Android, iOS, and macOS companion apps
frontend-design
96.8kCreate distinctive, production-grade frontend interfaces with high design quality. Use this skill when the user asks to build web components, pages, or applications. Generates creative, polished code that avoids generic AI aesthetics.
openai-whisper-api
344.1kTranscribe audio via OpenAI Audio Transcriptions API (Whisper).
qqbot-media
344.1kQQBot 富媒体收发能力。使用 <qqmedia> 标签,系统根据文件扩展名自动识别类型(图片/语音/视频/文件)。
