MegCC

Highlight

• 支持 ARM V8.6 平台新特性 I8MM 实现的 Int8 量化卷积，性能约为 DOT 版本的1.7倍。
• 支持 clip 新模型推理，性能与 megdnn 相当。

Bug Fixes

compiler-kernel

• reisze 算子添加 NEAREST Mode。
• 修正 int8 Winograd F23 的适用条件，避免 hybrid conv 选到该 kernel 的错误情况。
• 修正所有 ConvBias 的适用条件，限制其只支持 channel broadcast 的 bias。
• 新增对 elemwise sqrt sin cos 算子的支持。
• 添加 int8 resize 的 float32 计算实现， 修复 Arm 实现和 naive 实现结果存在误差的问题。...

MegCC

Highlight

增加了 AArch32 Int8 NCHW44 的支持，优化了 AArch32 模式下量化模型的速度。

Bug Fixes

基础组件

• 修复在 DimShuffle 的前后均不是 reshape 时程序挂掉的问题以及 SubTensor 逆序切片时计算出错的问题。
• 修复用户无法在 rsicv 平台编译 runtime 代码的 bug。

compiler-kernel

• 添加部分 cv 算子缺失的函数声明。
• 修复头文件（math.h）缺失导致变异得到的二进制文件出错的问题。
• 修复 arm64 qint 算子计算精度与 x86 无法对齐的问题。
• 支持 elemwise erf。

complier-通用

• 修复模型编译 json 必要配置项和命令行...

MegCC

HighLight

• 优化了 ARM 和 RISCV(RVV) 下常见模型 FP16 推理支持。

breaking change

runtime

• 修复 runtime 暴露符号容易和用户 pipeline 符号（例如 DEBUG 枚举与编译器会自带的 DEBUG 宏）冲突的问题。此改动会导致 log API（LITE_set_log_level）兼容性破坏（若您使用了 LITE_set_log_level , 编译时编译器会报类似 “undefine WARN, do you means LITE_WA...

MegCC

MegCC is a deep-learning model compiler with the following features:

• Extremely Lightweight Runtime: Only keep the required computation kernel in your binary. e.g., 81KB runtime for MobileNet v1
• High Performance: Every operation is carefully optimized by experts
• Portable: generate nothing but computation code, easy to compile and use on Linux, Android, TEE, Bar...

MegCC

以解决 MegEngine 推理库 Binary size 过大为出发点，MegEngine 团队基于 MLIR 开发了一个深度学习模型编译器 MegCC。MegCC 的输入为 MegEngine 的模型，经过编译优化之后生成运行这个模型的高效纯 C kernel，以及优化之后的自定义格式模型。MegCC 具有下特点：

超级轻量的 Binary Size ：仅仅只编译 mobilenetV1，stripped 之后的Runtime只有 81KB . 高性能 ：所有算子都进过精细优化，Arm 推理性能超过 MegEngine。 移植非常容易 ：因为 Runtime 和 Kernel都是纯 C 代码，非常方便部署，支持部署在 Android，TEE 以及无操作系统的单片机上 低内存消耗，快启动 ：使用全局图优化，以及在模型编译时...