动态shape【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/geAC_PARALLEL_ENABLE动态shape图中是否允许AI CPU算子和AI Core算子并行运行。此参数实际对应的options参数为ac_parallel_enable。动态shape图中开关开启时系统自动识别图中可以和AI Core并发的AI CPU算子不同引擎的算子下发到不同流上实现多引擎间的并行从而提升资源利用效率和动态shape执行性能。参数取值1允许AI CPU和AI Core算子间的并行运行。0默认AI CPU算子不会单独分流。配置示例{ge::ir_option::AC_PARALLEL_ENABLE, 1}产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持IPV350不支持【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考