aclgrphBundleBuildModel【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_ir_build.h库文件libge_compiler.so功能说明将输入的一组Graph编译为适配昇腾AI处理器的离线模型。与aclgrphBuildModel接口的区别是该接口适用于权重更新场景。通过aclgrphBundleBuildModel接口生成离线模型缓存后需要使用aclgrphBundleSaveModel接口落盘。函数原型graphStatus aclgrphBundleBuildModel(const std::vectorge::GraphWithOptions graph_with_options, ModelBufferData model)参数说明参数名输入/输出说明graph_with_options输入待编译的一组图和编译参数。该入参为一个结构体包括如下参数struct GraphWithOptions { ge::Graph graph; std::mapAscendString, AscendString build_options; };一组图包括权重初始化图权重更新图推理图其中只有推理图支持设置如下options参数。可以通过传入options参数配置离线模型编译配置信息当前支持的配置参数请参见aclgrphBuildModel支持的配置参数。配置举例void PrepareOptions(std::mapAscendString, AscendString options) { options.insert({ {ge::ir_option::EXEC_DISABLE_REUSED_MEMORY, 1} // close reuse memory }); }model输出编译生成的离线模型缓存。详情请参见ModelBufferData。struct ModelBufferData { std::shared_ptruint8_t data nullptr; uint64_t length; };其中data指向生成的模型数据length代表该模型的实际大小。返回值说明参数名类型说明-graphStatusGRAPH_SUCCESS(0)成功。其他值失败。约束说明该接口内多个图如果涉及共享同名variable算子接口内部会进行variable算子加速融合建议通过aclgrphConvertToWeightRefreshableGraphs接口生成否则可能会出现variable算子格式不一致的问题。调用示例完整调用示例请参见调用示例。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考