Supported models¶
The table below lists the models that are guaranteed to be exportable to other backends.
Model config | Codebase | TorchScript | OnnxRuntime | TensorRT | ncnn | PPLNN | OpenVINO | Ascend | RKNN |
---|---|---|---|---|---|---|---|---|---|
RetinaNet | MMDetection | Y | Y | Y | Y | Y | Y | Y | Y |
Faster R-CNN | MMDetection | Y | Y | Y | Y | Y | Y | Y | N |
YOLOv3 | MMDetection | Y | Y | Y | Y | N | Y | Y | Y |
YOLOX | MMDetection | Y | Y | Y | Y | N | Y | N | Y |
FCOS | MMDetection | Y | Y | Y | Y | N | Y | N | N |
FSAF | MMDetection | Y | Y | Y | Y | Y | Y | N | Y |
Mask R-CNN | MMDetection | Y | Y | Y | N | N | Y | N | N |
SSD* | MMDetection | Y | Y | Y | Y | N | Y | N | Y |
FoveaBox | MMDetection | Y | Y | N | N | N | Y | N | N |
ATSS | MMDetection | N | Y | Y | N | N | Y | N | N |
GFL | MMDetection | N | Y | Y | N | ? | Y | N | N |
Cascade R-CNN | MMDetection | N | Y | Y | N | Y | Y | N | N |
Cascade Mask R-CNN | MMDetection | N | Y | Y | N | N | Y | N | N |
Swin Transformer* | MMDetection | N | Y | Y | N | N | Y | N | N |
VFNet | MMDetection | N | N | N | N | N | Y | N | N |
RepPoints | MMDetection | N | N | Y | N | ? | Y | N | N |
DETR | MMDetection | N | Y | Y | N | ? | N | N | N |
CenterNet | MMDetection | N | Y | Y | N | ? | Y | N | N |
SOLO | MMDetection | N | Y | N | N | N | Y | N | N |
SOLOv2 | MMDetection | N | Y | N | N | N | Y | N | N |
ResNet | MMPretrain | Y | Y | Y | Y | Y | Y | Y | Y |
ResNeXt | MMPretrain | Y | Y | Y | Y | Y | Y | Y | Y |
SE-ResNet | MMPretrain | Y | Y | Y | Y | Y | Y | Y | Y |
MobileNetV2 | MMPretrain | Y | Y | Y | Y | Y | Y | Y | Y |
MobileNetV3 | MMPretrain | Y | Y | Y | Y | N | Y | N | N |
ShuffleNetV1 | MMPretrain | Y | Y | Y | Y | Y | Y | Y | Y |
ShuffleNetV2 | MMPretrain | Y | Y | Y | Y | Y | Y | Y | Y |
VisionTransformer | MMPretrain | Y | Y | Y | Y | ? | Y | Y | N |
SwinTransformer | MMPretrain | Y | Y | Y | N | ? | N | ? | N |
MobileOne | MMPretrain | N | Y | Y | N | N | N | N | N |
FCN | MMSegmentation | Y | Y | Y | Y | Y | Y | Y | Y |
PSPNet*static | MMSegmentation | Y | Y | Y | Y | Y | Y | Y | Y |
DeepLabV3 | MMSegmentation | Y | Y | Y | Y | Y | Y | Y | N |
DeepLabV3+ | MMSegmentation | Y | Y | Y | Y | Y | Y | Y | N |
Fast-SCNN*static | MMSegmentation | Y | Y | Y | N | Y | Y | N | Y |
UNet | MMSegmentation | Y | Y | Y | Y | Y | Y | Y | Y |
ANN* | MMSegmentation | Y | Y | Y | N | N | N | N | N |
APCNet | MMSegmentation | Y | Y | Y | Y | N | N | N | Y |
BiSeNetV1 | MMSegmentation | Y | Y | Y | Y | N | Y | N | Y |
BiSeNetV2 | MMSegmentation | Y | Y | Y | Y | N | Y | N | N |
CGNet | MMSegmentation | Y | Y | Y | Y | N | Y | N | Y |
DMNet | MMSegmentation | ? | Y | N | N | N | N | N | N |
DNLNet | MMSegmentation | ? | Y | Y | Y | N | Y | N | N |
EMANet | MMSegmentation | Y | Y | Y | N | N | Y | N | N |
EncNet | MMSegmentation | Y | Y | Y | N | N | Y | N | N |
ERFNet | MMSegmentation | Y | Y | Y | Y | N | Y | N | Y |
FastFCN | MMSegmentation | Y | Y | Y | Y | N | Y | N | N |
GCNet | MMSegmentation | Y | Y | Y | N | N | N | N | N |
ICNet* | MMSegmentation | Y | Y | Y | N | N | Y | N | N |
ISANet*static | MMSegmentation | N | Y | Y | N | N | Y | N | Y |
NonLocal Net | MMSegmentation | ? | Y | Y | Y | N | Y | N | N |
OCRNet | MMSegmentation | ? | Y | Y | Y | N | Y | N | Y |
PointRend | MMSegmentation | Y | Y | Y | N | N | Y | N | N |
Semantic FPN | MMSegmentation | Y | Y | Y | Y | N | Y | N | Y |
STDC | MMSegmentation | Y | Y | Y | Y | N | Y | N | Y |
UPerNet* | MMSegmentation | ? | Y | Y | N | N | N | N | Y |
DANet | MMSegmentation | ? | Y | Y | N | N | N | N | N |
Segmenter *static | MMSegmentation | Y | Y | Y | Y | N | Y | N | N |
SRCNN | MMagic | Y | Y | Y | Y | Y | Y | N | N |
ESRGAN | MMagic | Y | Y | Y | Y | Y | Y | N | N |
SRGAN | MMagic | Y | Y | Y | Y | Y | Y | N | N |
SRResNet | MMagic | Y | Y | Y | Y | Y | Y | N | N |
Real-ESRGAN | MMagic | Y | Y | Y | Y | Y | Y | N | N |
EDSR | MMagic | Y | Y | Y | Y | N | Y | N | N |
RDN | MMagic | Y | Y | Y | Y | Y | Y | N | N |
DBNet | MMOCR | Y | Y | Y | Y | Y | Y | Y | N |
DBNetpp | MMOCR | Y | Y | Y | ? | ? | Y | ? | N |
PANet | MMOCR | Y | Y | Y | Y | ? | Y | Y | N |
PSENet | MMOCR | Y | Y | Y | Y | ? | Y | Y | N |
TextSnake | MMOCR | Y | Y | Y | Y | ? | ? | ? | N |
MaskRCNN | MMOCR | Y | Y | Y | ? | ? | ? | ? | N |
CRNN | MMOCR | Y | Y | Y | Y | Y | N | N | N |
SAR | MMOCR | N | Y | N | N | N | N | N | N |
SATRN | MMOCR | Y | Y | Y | N | N | N | N | N |
ABINet | MMOCR | Y | Y | Y | N | N | N | N | N |
HRNet | MMPose | N | Y | Y | Y | N | Y | N | N |
MSPN | MMPose | N | Y | Y | Y | N | Y | N | N |
LiteHRNet | MMPose | N | Y | Y | N | N | Y | N | N |
Hourglass | MMPose | N | Y | Y | Y | N | Y | N | N |
SimCC | MMPose | N | Y | Y | Y | N | N | N | N |
PointPillars | MMDetection3d | ? | Y | Y | N | N | Y | N | N |
CenterPoint (pillar) | MMDetection3d | ? | Y | Y | N | N | Y | N | N |
RotatedRetinaNet | RotatedDetection | N | Y | Y | N | N | N | N | N |
Oriented RCNN | RotatedDetection | N | Y | Y | N | N | N | N | N |
Gliding Vertex | RotatedDetection | N | N | Y | N | N | N | N | N |
Note¶
Tag:
static: This model only support static export. Please use
static
deploy config, just like $MMDEPLOY_DIR/configs/mmseg/segmentation_tensorrt_static-1024x2048.py.
SSD: When you convert SSD model, you need to use min shape deploy config just like 300x300-512x512 rather than 320x320-1344x1344, for example $MMDEPLOY_DIR/configs/mmdet/detection/detection_tensorrt_dynamic-300x300-512x512.py.
YOLOX: YOLOX with ncnn only supports static shape.
Swin Transformer: For TensorRT, only version 8.4+ is supported.
SAR: Chinese text recognition model is not supported as the protobuf size of ONNX is limited.