Parser解析接口支持的配置参数【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况如下参数为全量芯片支持。INPUT_FP16_NODES指定输入数据类型为FP16的输入节点名称。例如node_name1;node_name2指定的节点必须放在双引号中节点中间使用英文分号分隔。配置示例{ge::AscendString(ge::ir_option::INPUT_FP16_NODES), ge::AscendString(input1;input2)},IS_INPUT_ADJUST_HW_LAYOUT用于指定网络输入数据类型是否为FP16数据格式是否为NC1HWC0。该参数需要与INPUT_FP16_NODES配合使用。若IS_INPUT_ADJUST_HW_LAYOUT参数设置为true对应INPUT_FP16_NODES节点的输入数据类型为FP16输入数据格式为NC1HWC0。参数取值取值范围为false或true默认值为false。配置示例{ge::AscendString(ge::ir_option::INPUT_FP16_NODES), ge::AscendString(input1;input2)}, {ge::AscendString(ge::ir_option::IS_INPUT_ADJUST_HW_LAYOUT), ge::AscendString(true,true)},OUTPUT指定转图后计算图名称。配置示例{ge::AscendString(ge::ir_option::OUTPUT), ge::AscendString(newIssue)},IS_OUTPUT_ADJUST_HW_LAYOUT用于指定网络输出的数据类型是否为FP16数据格式是否为NC1HWC0。该参数需要与OUT_NODES配合使用。若IS_OUTPUT_ADJUST_HW_LAYOUT参数设置为true对应OUT_NODES中输出节点的输出数据类型为FP16数据格式为NC1HWC0。参数取值false或true默认为false。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(add_input:0)}, {ge::AscendString(ge::ir_option::IS_OUTPUT_ADJUST_HW_LAYOUT), ge::AscendString(true)},OUT_NODES指定某层输出节点算子作为网络模型的输出或指定网络模型输出的名称。如果不指定输出节点算子名称则模型的输出默认为最后一层的算子信息如果指定则以指定的为准。某些情况下用户想要查看某层算子参数是否合适则需要将该层算子的参数输出即可以在模型编译时通过该参数指定输出某层算子模型编译后在相应.om模型文件最后即可以看到指定输出算子的参数信息如果通过.om模型文件无法查看则可以将.om模型文件转换成JSON格式后查看。支持三种格式格式1node_name1:0;node_name1:1;node_name2:0。网络模型中的节点node_name名称指定的输出节点必须放在双引号中节点中间使用英文分号分隔。node_name必须是模型编译前的网络模型中的节点名称冒号后的数字表示第几个输出例如node_name1:0表示节点名称为node_name1的第1个输出。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(add_input:0)},格式2topname1;topname2。(仅支持CAFFE)某层输出节点的topname指定的输出节点必须放在双引号中节点中间使用英文分号分隔。topname必须是模型编译前的caffe网络模型中的layer的某个top名称若几个layer有相同的topname最后一个layer为准。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(res5c_branch2c)},格式3output1;output2;output3仅支持ONNX指定网络模型输出的名称output的name指定的output的name必须放在双引号中多个output的name中间使用英文分号分隔。output必须是网络模型的输出。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(output1)},ENABLE_SCOPE_FUSION_PASSES指定编译时需要生效的融合规则列表。融合规则分类如下内置融合规则General各网络通用的scope融合规则默认生效不支持用户指定失效。Non-General特定网络适用的scope融合规则默认不生效用户可以通过ENABLE_SCOPE_FUSION_PASSES参数指定生效的融合规则列表。用户自定义的融合规则General加载后默认生效暂不提供用户指定失效的功能。Non-General加载后默认不生效用户可以通过ENABLE_SCOPE_FUSION_PASSES参数指定生效的融合规则列表。指定的融合规则必须放在双引号中规则中间使用英文逗号分隔。配置示例{ge::AscendString(ge::ir_option::ENABLE_SCOPE_FUSION_PASSES), ge::AscendString(ScopePass1,ScopePass2)},[!NOTE]说明 仅aclgrphParseTensorFlow支持该参数。INPUT_DATA_NAMES指定模型文件输入节点的name和index属性的映射关系。系统按照输入name的顺序设置对应输入节点的index属性。配置示例{ge::AscendString(ge::ir_option::INPUT_DATA_NAMES), ge::AscendString(Placeholder,Placeholder_1)},INPUT_SHAPE模型输入的shape信息。参数取值静态shape。若模型为单个输入则shape信息为input_name:n,c,h,w指定的节点必须放在双引号中。若模型有多个输入则shape信息为input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2不同输入之间使用英文分号分隔input_name必须是转换前的网络模型中的节点名称。若原始模型中输入数据的某个或某些维度值不固定当前支持通过设置shape范围的方式转换模型。设置shape范围。Atlas 200I/500 A2 推理产品**不支持设置shape范围**。 IPV350**不支持设置shape范围**。 设置INPUT\_SHAPE参数时可将对应维度的值设置为范围。支持按照name设置input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2例如input_name1:8~20,3,5,-1;input_name2:5,3~9,10,-1。指定的节点必须放在双引号中节点中间使用英文分号分隔。input_name必须是转换前的网络模型中的节点名称。如果用户知道data节点的name推荐按照name设置。支持按照index设置n1,c1,h1,w1;n2,c2,h2,w2例如8~20,3,5,-1;5,3~9,10,-1。可以不指定节点名节点按照索引顺序排列节点中间使用英文分号分隔。按照index设置shape范围时data节点需要设置属性index说明是第几个输入index从0开始。如果用户不想指定维度的范围或具体取值则可以将其设置为-1表示此维度可以使用0的任意取值该场景下取值上限为int64数据类型表达范围但受限于host和device侧物理内存的大小用户可以通过增大内存来支持。shape为标量。非动态分档场景shape为标量的输入可选配置例如模型有两个输入input\_name1为标量即shape为\[\]形式input\_name2输入shape为\[n2,c2,h2,w2\]则shape信息为**input\_name1:**;input\_name2:n2,c2,h2,w2指定的节点必须放在双引号中不同输入之间使用英文分号分隔input\_name必须是转换前的网络模型中的节点名称标量的输入如果配置则配置为空。配置示例静态shape例如某网络的输入shape信息输入1****input_0_0 [16,32,208,208]输入2input_1_0 [16,64,208,208]则INPUT_SHAPE的配置信息为{ge::AscendString(ge::ir_option::INPUT_SHAPE), ge::AscendString(input_0_0:16,32,208,208;input_1_0:16,64,208,208)},设置shape范围的示例{ge::AscendString(ge::ir_option::INPUT_SHAPE), ge::AscendString(input_0_0:1~10,32,208,208;input_1_0:16,64,100~208,100~208)},shape为标量非动态分档场景shape为标量的输入可选配置。例如模型有两个输入input_name1为标量input_name2输入shape为[16,32,208,208]配置示例为{ge::AscendString(ge::ir_option::INPUT_SHAPE), ge::AscendString(input_name1:;input_name2:16,32,208,208)},上述示例中的input_name1为可选配置**。**[!NOTE]说明INPUT_SHAPE为可选设置。如果不设置系统直接读取对应Data节点的shape信息如果设置以此处设置的为准同时刷新对应Data节点的shape信息。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
CANN/GE解析器配置参数
Parser解析接口支持的配置参数【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况如下参数为全量芯片支持。INPUT_FP16_NODES指定输入数据类型为FP16的输入节点名称。例如node_name1;node_name2指定的节点必须放在双引号中节点中间使用英文分号分隔。配置示例{ge::AscendString(ge::ir_option::INPUT_FP16_NODES), ge::AscendString(input1;input2)},IS_INPUT_ADJUST_HW_LAYOUT用于指定网络输入数据类型是否为FP16数据格式是否为NC1HWC0。该参数需要与INPUT_FP16_NODES配合使用。若IS_INPUT_ADJUST_HW_LAYOUT参数设置为true对应INPUT_FP16_NODES节点的输入数据类型为FP16输入数据格式为NC1HWC0。参数取值取值范围为false或true默认值为false。配置示例{ge::AscendString(ge::ir_option::INPUT_FP16_NODES), ge::AscendString(input1;input2)}, {ge::AscendString(ge::ir_option::IS_INPUT_ADJUST_HW_LAYOUT), ge::AscendString(true,true)},OUTPUT指定转图后计算图名称。配置示例{ge::AscendString(ge::ir_option::OUTPUT), ge::AscendString(newIssue)},IS_OUTPUT_ADJUST_HW_LAYOUT用于指定网络输出的数据类型是否为FP16数据格式是否为NC1HWC0。该参数需要与OUT_NODES配合使用。若IS_OUTPUT_ADJUST_HW_LAYOUT参数设置为true对应OUT_NODES中输出节点的输出数据类型为FP16数据格式为NC1HWC0。参数取值false或true默认为false。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(add_input:0)}, {ge::AscendString(ge::ir_option::IS_OUTPUT_ADJUST_HW_LAYOUT), ge::AscendString(true)},OUT_NODES指定某层输出节点算子作为网络模型的输出或指定网络模型输出的名称。如果不指定输出节点算子名称则模型的输出默认为最后一层的算子信息如果指定则以指定的为准。某些情况下用户想要查看某层算子参数是否合适则需要将该层算子的参数输出即可以在模型编译时通过该参数指定输出某层算子模型编译后在相应.om模型文件最后即可以看到指定输出算子的参数信息如果通过.om模型文件无法查看则可以将.om模型文件转换成JSON格式后查看。支持三种格式格式1node_name1:0;node_name1:1;node_name2:0。网络模型中的节点node_name名称指定的输出节点必须放在双引号中节点中间使用英文分号分隔。node_name必须是模型编译前的网络模型中的节点名称冒号后的数字表示第几个输出例如node_name1:0表示节点名称为node_name1的第1个输出。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(add_input:0)},格式2topname1;topname2。(仅支持CAFFE)某层输出节点的topname指定的输出节点必须放在双引号中节点中间使用英文分号分隔。topname必须是模型编译前的caffe网络模型中的layer的某个top名称若几个layer有相同的topname最后一个layer为准。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(res5c_branch2c)},格式3output1;output2;output3仅支持ONNX指定网络模型输出的名称output的name指定的output的name必须放在双引号中多个output的name中间使用英文分号分隔。output必须是网络模型的输出。配置示例{ge::AscendString(ge::ir_option::OUT_NODES), ge::AscendString(output1)},ENABLE_SCOPE_FUSION_PASSES指定编译时需要生效的融合规则列表。融合规则分类如下内置融合规则General各网络通用的scope融合规则默认生效不支持用户指定失效。Non-General特定网络适用的scope融合规则默认不生效用户可以通过ENABLE_SCOPE_FUSION_PASSES参数指定生效的融合规则列表。用户自定义的融合规则General加载后默认生效暂不提供用户指定失效的功能。Non-General加载后默认不生效用户可以通过ENABLE_SCOPE_FUSION_PASSES参数指定生效的融合规则列表。指定的融合规则必须放在双引号中规则中间使用英文逗号分隔。配置示例{ge::AscendString(ge::ir_option::ENABLE_SCOPE_FUSION_PASSES), ge::AscendString(ScopePass1,ScopePass2)},[!NOTE]说明 仅aclgrphParseTensorFlow支持该参数。INPUT_DATA_NAMES指定模型文件输入节点的name和index属性的映射关系。系统按照输入name的顺序设置对应输入节点的index属性。配置示例{ge::AscendString(ge::ir_option::INPUT_DATA_NAMES), ge::AscendString(Placeholder,Placeholder_1)},INPUT_SHAPE模型输入的shape信息。参数取值静态shape。若模型为单个输入则shape信息为input_name:n,c,h,w指定的节点必须放在双引号中。若模型有多个输入则shape信息为input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2不同输入之间使用英文分号分隔input_name必须是转换前的网络模型中的节点名称。若原始模型中输入数据的某个或某些维度值不固定当前支持通过设置shape范围的方式转换模型。设置shape范围。Atlas 200I/500 A2 推理产品**不支持设置shape范围**。 IPV350**不支持设置shape范围**。 设置INPUT\_SHAPE参数时可将对应维度的值设置为范围。支持按照name设置input_name1:n1,c1,h1,w1;input_name2:n2,c2,h2,w2例如input_name1:8~20,3,5,-1;input_name2:5,3~9,10,-1。指定的节点必须放在双引号中节点中间使用英文分号分隔。input_name必须是转换前的网络模型中的节点名称。如果用户知道data节点的name推荐按照name设置。支持按照index设置n1,c1,h1,w1;n2,c2,h2,w2例如8~20,3,5,-1;5,3~9,10,-1。可以不指定节点名节点按照索引顺序排列节点中间使用英文分号分隔。按照index设置shape范围时data节点需要设置属性index说明是第几个输入index从0开始。如果用户不想指定维度的范围或具体取值则可以将其设置为-1表示此维度可以使用0的任意取值该场景下取值上限为int64数据类型表达范围但受限于host和device侧物理内存的大小用户可以通过增大内存来支持。shape为标量。非动态分档场景shape为标量的输入可选配置例如模型有两个输入input\_name1为标量即shape为\[\]形式input\_name2输入shape为\[n2,c2,h2,w2\]则shape信息为**input\_name1:**;input\_name2:n2,c2,h2,w2指定的节点必须放在双引号中不同输入之间使用英文分号分隔input\_name必须是转换前的网络模型中的节点名称标量的输入如果配置则配置为空。配置示例静态shape例如某网络的输入shape信息输入1****input_0_0 [16,32,208,208]输入2input_1_0 [16,64,208,208]则INPUT_SHAPE的配置信息为{ge::AscendString(ge::ir_option::INPUT_SHAPE), ge::AscendString(input_0_0:16,32,208,208;input_1_0:16,64,208,208)},设置shape范围的示例{ge::AscendString(ge::ir_option::INPUT_SHAPE), ge::AscendString(input_0_0:1~10,32,208,208;input_1_0:16,64,100~208,100~208)},shape为标量非动态分档场景shape为标量的输入可选配置。例如模型有两个输入input_name1为标量input_name2输入shape为[16,32,208,208]配置示例为{ge::AscendString(ge::ir_option::INPUT_SHAPE), ge::AscendString(input_name1:;input_name2:16,32,208,208)},上述示例中的input_name1为可选配置**。**[!NOTE]说明INPUT_SHAPE为可选设置。如果不设置系统直接读取对应Data节点的shape信息如果设置以此处设置的为准同时刷新对应Data节点的shape信息。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考