属性名列表【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge本节所列属性名为通过SetAttr接口可设置的属性名称级别都为算子级头文件位于CANN软件安装后文件存储路径下的include/ge/ge_api_types.h。_enable_inner_parallel是否允许_user_stream_label内的算子按照GE原有的并发策略分流。参数取值true_user_stream_label范围内的算子按照GE原有的并发策略分流。false_user_stream_label范围内的所有算子将不再区分原有并发策略统一合并到同一计算流中执行。使用约束该属性需要配合_user_stream_label使用当_enable_inner_parallel属性为true时_user_stream_label范围内的算子还按照GE原有的并发策略分流如CMO算子单独分流产品支持情况全量芯片支持。_op_aicore_num用于配置算子编译时使用的AI Core中的Cube Core核数。参数取值整数类型整数需要大于0小于等于AI处理器包含的最大Cube Core。不同AI处理器包含的最大CubeCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明AI处理器上存在24个Cube Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24 cube_core_cnt24 vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。_arch_表示具体操作系统架构_xxx_请根据实际产品进行选择。产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 推理系列产品不支持Atlas 训练系列产品不支持Atlas 200I/500 A2 推理产品不支持MC62CM12A AI处理器不支持BS9SX1A AI处理器不支持BS9SX2A AI处理器不支持IPV350不支持_op_vectorcore_num用于配置算子编译时使用的AI Core中的Vector Core核数。参数取值整数类型整数需要大于0小于等于AI处理器包含的最大Vector Core。不同AI处理器包含的最大VectorCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明AI处理器上存在48个Vector Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24 cube_core_cnt24 vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。_arch_表示具体操作系统架构_xxx_请根据实际产品进行选择。产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 推理系列产品不支持Atlas 训练系列产品不支持Atlas 200I/500 A2 推理产品不支持MC62CM12A AI处理器不支持BS9SX1A AI处理器不支持BS9SX2A AI处理器不支持IPV350不支持_op_exec_never_timeout设置静态图上的AI Core算子执行时是否受超时时间限制。参数取值true算子执行不受超时时间限制永不超时。false算子执行受超时时间限制。用户可以通过《Runtime运行时 API》中的“执行控制 aclrtSetOpExecuteTimeOutV2”接口设置算子执行的超时时间。使用约束如果AI Core算子开启了Tiling下沉特性即开启性能调优中的ge.tiling_schedule_optimize参数则此类算子不支持设置永不超时属性。产品支持情况全量芯片支持。_user_stream_label字符串类型指定算子执行的目标stream标签需要切换到的流的标签相同的标签代表相同的流由用户控制。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。产品支持情况全量芯片支持。_user_stream_priorityint类型表示切换到_user_stream_label流的优先级即Runtime运行时在并发时优先给高优先级的流分配核资源。当前版本为预留参数建议取默认值0。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。产品支持情况全量芯片支持。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 CANN/ge属性名列表
属性名列表【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge本节所列属性名为通过SetAttr接口可设置的属性名称级别都为算子级头文件位于CANN软件安装后文件存储路径下的include/ge/ge_api_types.h。_enable_inner_parallel是否允许_user_stream_label内的算子按照GE原有的并发策略分流。参数取值true_user_stream_label范围内的算子按照GE原有的并发策略分流。false_user_stream_label范围内的所有算子将不再区分原有并发策略统一合并到同一计算流中执行。使用约束该属性需要配合_user_stream_label使用当_enable_inner_parallel属性为true时_user_stream_label范围内的算子还按照GE原有的并发策略分流如CMO算子单独分流产品支持情况全量芯片支持。_op_aicore_num用于配置算子编译时使用的AI Core中的Cube Core核数。参数取值整数类型整数需要大于0小于等于AI处理器包含的最大Cube Core。不同AI处理器包含的最大CubeCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明AI处理器上存在24个Cube Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24 cube_core_cnt24 vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。_arch_表示具体操作系统架构_xxx_请根据实际产品进行选择。产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 推理系列产品不支持Atlas 训练系列产品不支持Atlas 200I/500 A2 推理产品不支持MC62CM12A AI处理器不支持BS9SX1A AI处理器不支持BS9SX2A AI处理器不支持IPV350不支持_op_vectorcore_num用于配置算子编译时使用的AI Core中的Vector Core核数。参数取值整数类型整数需要大于0小于等于AI处理器包含的最大Vector Core。不同AI处理器包含的最大VectorCore的数量可从${INSTALL_DIR}/arch-linux/data/platform_config/xxx.ini文件查看如下所示说明AI处理器上存在48个Vector Core。[SoCInfo] # 参数配置为默认值默认值即为最大值 ai_core_cnt24 cube_core_cnt24 vector_core_cnt48其中${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。_arch_表示具体操作系统架构_xxx_请根据实际产品进行选择。产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 推理系列产品不支持Atlas 训练系列产品不支持Atlas 200I/500 A2 推理产品不支持MC62CM12A AI处理器不支持BS9SX1A AI处理器不支持BS9SX2A AI处理器不支持IPV350不支持_op_exec_never_timeout设置静态图上的AI Core算子执行时是否受超时时间限制。参数取值true算子执行不受超时时间限制永不超时。false算子执行受超时时间限制。用户可以通过《Runtime运行时 API》中的“执行控制 aclrtSetOpExecuteTimeOutV2”接口设置算子执行的超时时间。使用约束如果AI Core算子开启了Tiling下沉特性即开启性能调优中的ge.tiling_schedule_optimize参数则此类算子不支持设置永不超时属性。产品支持情况全量芯片支持。_user_stream_label字符串类型指定算子执行的目标stream标签需要切换到的流的标签相同的标签代表相同的流由用户控制。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。产品支持情况全量芯片支持。_user_stream_priorityint类型表示切换到_user_stream_label流的优先级即Runtime运行时在并发时优先给高优先级的流分配核资源。当前版本为预留参数建议取默认值0。图执行过程中如需开启“图内多流表达功能”可通过_user_stream_label和_user_stream_priority指定图内多个算子分发到不同stream做并行计算提高资源利用率。产品支持情况全量芯片支持。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考