Operators.md

Operator Schemas

TPAT-1.0

Operator	Onnx TensorRT Supported	TPAT-1.0 Supported
Abs	Y	Y
Acos	Y	Y
Acosh	Y	Y
Add	Y	Y
And	Y	Y
ArgMax	Y	Y
ArgMin	Y	Y
Asin	Y	Y
Asinh	Y	Y
Atan	Y	Y
Atanh	Y	Y
AveragePool	Y	Y
BatchNormalization	Y	Y
BitShift	N	Y
Cast	Y	N
Ceil	Y	Y
Celu	Y	Y
Clip	Y	Y
Compress	N	Y
Concat	Y	Y
ConcatFromSequence	N	Y
Constant	Y	N
ConstantOfShape	Y	N
Conv	Y	Y
ConvInteger	N	N
ConvTranspose	Y	Y
Cos	Y	Y
Cosh	Y	Y
CumSum	Y	N
DepthToSpace	Y	Y
DequantizeLinear	Y	N
Det	N	N
Div	Y	Y
Dropout	Y	N
Einsum	N	Y
Elu	Y	Y
Equal	Y	Y
Erf	Y	Y
Exp	Y	Y
Expand	Y	Y
EyeLike	Y	Y
Flatten	Y	Y
Floor	Y	Y
GRU	Y	Y
Gather	Y	Y
GatherElements	Y	Y
GatherND	Y	Y
Gemm	Y	Y
GlobalAveragePool	Y	Y
GlobalLpPool	Y	Y
GlobalMaxPool	Y	Y
Greater	Y	Y
GreaterOrEqual	Y	Y
GridSample		N
HardSigmoid	Y	Y
HardSwish		Y
Hardmax	N	Y
Identity	Y	Y
If	Y	N
InstanceNormalization	Y	Y
IsInf	N	Y
IsNaN	Y	Y
LRN	Y	Y
LSTM	Y	Y
LeakyRelu	Y	Y
Less	Y	Y
LessOrEqual	Y	Y
Log	Y	Y
LogSoftmax	Y	Y
Loop	Y	N
LpNormalization	Y	N
LpPool	Y	Y
MatMul	Y	Y
MatMulInteger	N	N
Max	Y	Y
MaxPool	Y	Y
MaxRoiPool	N	Y
MaxUnpool	N	Y
Mean	Y	Y
MeanVarianceNormalization	N	N
Min	Y	Y
Mod	N	Y
Mul	Y	Y
Multinomial	N	N
Neg	Y	Y
NegativeLogLikelihoodLoss	N	Y
NonMaxSuppression	Y [EXPERIMENTAL]	N
NonZero	N	N
Not	Y	Y
OneHot	N	Y
Optional		N
OptionalGetElement		N
OptionalHasElement		N
Or	Y	Y
PRelu	Y	Y
ParametricSoftplus	Y	Y
Pad	Y	Y
Pow	Y	Y
QLinearConv	N	N
QLinearMatMul	N	N
QuantizeLinear	Y	N
RNN	Y	Y
RandomNormal	N	Y
RandomNormalLike	N	N
RandomUniform	Y	N
RandomUniformLike	Y	N
Reciprocal	N	Y
ReduceL1	Y	Y
ReduceL2	Y	Y
ReduceLogSum	Y	Y
ReduceLogSumExp	Y	Y
ReduceMax	Y	Y
ReduceMean	Y	Y
ReduceMin	Y	Y
ReduceProd	Y	Y
ReduceSum	Y	Y
ReduceSumSquare	Y	Y
Relu	Y	Y
Reshape	Y	Y
Resize	Y	Y
ReverseSequence	Y	Y
RoiAlign	N	Y
Round	Y	Y
ScaledTanh	Y	N
Scan	Y	N
Scatter (deprecated)	Y	Y
ScatterElements	Y	Y
ScatterND	Y	Y
Selu	Y	Y
SequenceAt	N	N
SequenceConstruct	N	N
SequenceEmpty	N	N
SequenceErase	N	N
SequenceInsert	N	N
SequenceLength	N	N
Shape	Y	N
Shrink	N	Y
Sigmoid	Y	Y
Sign	Y	Y
Sin	Y	Y
Sinh	Y	Y
Size	Y	Y
Slice	Y	Y
Softmax	Y	Y
SoftmaxCrossEntropyLoss	N	Y
Softplus	Y	Y
Softsign	Y	Y
SpaceToDepth	Y	Y
Split	Y	Y
SplitToSequence	N	N
Sqrt	Y	Y
Squeeze	Y	N
StringNormalizer	N	N
Sub	Y	Y
Sum	Y	Y
Tan	Y	Y
Tanh	Y	Y
TfIdfVectorizer	N	N
ThresholdedRelu	Y	Y
Tile	Y	Y
TopK	Y	N
Transpose	Y	Y
Trilu		N
Unique	N	N
Unsqueeze	Y	N
Where	Y	Y
Xor	N	Y