Apache TVM 中文站
Apache TVM 是一个端到端的深度学习编译框架,适用于 CPU、GPU 和各种机器学习加速芯片。
TVM 的全称为 Tensor Virtual Machine ,意为「张量虚拟机」。利用 TVM,工程师可以在任意硬件后端高效地优化和运行计算。本站由 MLC.AI 志愿者组织进行更新,由超神经 Hyper.AI 进行维护及托管。
About Apache TVM
Apache TVM 是一个正在 Apache 软件基金会(ASF)孵化的开源项目。我们致力于维护一个由机器学习、编译器和系统架构方面的专家及从业者组成的多样化社区,建立一个可访问、可扩展及自动化的开源框架,为任意硬件平台优化当前和新兴的机器学习模型。TVM 提供以下主要功能:
- 将深度学习模型编译成最小可部署的模块。
- 在更多的后端自动生成和优化模型的基础设施,进一步提高性能。
主要功能及特点
最佳性能
通过编译和最小化运行时(Runtime),在现有硬件上优化机器学习工作负载,进而发挥最佳性能。
支持任意硬件
可在 CPU、GPU、浏览器、微控制器、FPGA 等硬件运行
同时可自动在多种后端生成和优化张量算子
灵活可用
TVM 的灵活设计支持对区块稀疏度、量化(1、2、4、8 位整数,posit)、随机森林/经典 ML、内存规划、MISRA-C 兼容性、Python 原型设计。
简单易用
在 Keras、MXNet、PyTorch、Tensorflow、CoreML、DarkNet 等的深度学习模型上编译。用 Python 借助 TVM 进行编译,次日即可用 C++、Rust 或 Java 建立生产堆栈。