ysh329 / MegFlow

Efficient ML solutions for long-tailed demands.

Repository from Github https://github.comysh329/MegFlowRepository from Github https://github.comysh329/MegFlow

MegFlow

GitHub license ubuntu macos

MegFlow 是一个面向视觉应用的流式计算框架, 目标是简单、高性能、帮助机器学习应用快速落地。

Features

  • 基于 async-std[features=tokio1] 的高效异步运行时调度器
  • 简洁的基于 toml 的建图描述格式
  • 支持静态、动态、共享子图
  • 支持 Rust/Python 多语言共存(会 Python 即可)
  • 支持资源管理(多层级跨任务共享)
  • 支持异常处理(异常任务会终止所在静态图)
  • 支持 demux/reorder/transform 等通用函数式组件
  • Python 插件内置有栈协程,不依赖 asyncio
  • 基础测试工具,支持插件沙盒,用于单测插件

HowTo

Current Support List

系统环境 支持情况
Windows 10 WSL ubuntu18.04 ✔️
x86 Ubuntu16.04 有 GPU ✔️
x86 Ubuntu18.04 无 GPU ✔️
x86 macos ✔️
ARM /
Python 版本 支持情况
3.6 ✔️
3.7 ✔️
3.8 ✔️
3.9 /

Built-in Applications

  • 猫猫围栏
  • 电梯电动车报警

Coming Soon

  • 进程级别的节点、子图支持
  • 插件自动化测试部署
  • 调试工具,建图实时预览 profile 工具
  • 性能监控,inspect 工具
  • 更多内置应用和组件

Contact Us

  • Issue: github.com/MegEngine/MegFlow/issues
  • Email: megengine-support@megvii.com
  • Forum: discuss.megengine.org.cn
  • QQ Group: 1029741705
  • OPENI: openi.org.cn/MegEngine

License

Acknowledgement

MegFlow 模型和推理学习了这些项目:

MegFlow Python 使用了下列项目:

MegFlow Rust 使用了以下项目:

About

Efficient ML solutions for long-tailed demands.

License:Apache License 2.0


Languages

Language:Rust 67.1%Language:Python 32.4%Language:Shell 0.3%Language:Dockerfile 0.2%