人工智能大模型计算机视觉NLP模型评测【免费下载链接】modelsA collection of pre-trained, state-of-the-art models in the ONNX format项目地址https://gitcode.com/gh_mirrors/model/models点击查看免费下载AlexNet 是 2012 年 ImageNet 大规模视觉识别挑战赛ILSVRC上的经典卷积神经网络也是现代深度学习复兴的标志性起点。本仓库在 validated/vision/classification/alexnet/README.md 中完整收录了 BVLC AlexNet 从 Opset 3 到 Opset 12 的多版本 ONNX 权重、int8/qdq 量化模型以及在 Computer_Vision 目录下的 torch_hub 导出版本与 turnkey 构建统计。阅读本文后你将掌握 AlexNet ONNX 模型的输入输出约定、ImageNet 预处理与后处理流程、模型文件选择方法以及基于 Intel Neural Compressor 的 PTQ 量化实操流程。一、AlexNet ONNX 模型版本清单与文件布局仓库在 validated/vision/classification/alexnet/model 目录下按 Opset 版本组织模型文件每个版本同时提供裸.onnx文件和包含随机样本测试数据的.tar.gz压缩包ModelDownloadDownload (with sample test data)ONNX versionOpset versionTop-1 accuracy (%)Top-5 accuracy (%)AlexNet238 MB225 MB1.13--AlexNet238 MB225 MB1.1.26--AlexNet238 MB226 MB1.27--AlexNet238 MB226 MB1.38--AlexNet238 MB226 MB1.49--AlexNet233 MB216 MB1.91254.8078.23AlexNet-int858 MB39 MB1.91254.6878.23AlexNet-qdq59 MB44 MB1.91254.7178.22各文件的具体下载方式既可以直接在仓库内获取上述相对路径文件也可以使用wget从远端拉取 fp32 模型wget https://github.com/onnx/models/raw/main/vision/classification/alexnet/model/bvlcalexnet-12.onnx说明上述精度数据与预处理方法强相关表格中的 Top-1/Top-5 精度依赖特定的预处理脚本对应 Intel Neural Compressor 的 alexnet PTQ 示例不同预处理手段会导致不同的精度结果。同时性能数据依赖测试硬件——表中数据采集自 Intel Xeon Platinum 8280 处理器、每实例 1 插槽 4 核、CentOS Linux 8.3、batch size 为 1 的环境。除上述经典 BVLC 导出外本仓库 Computer_Vision/alexnet_Opset16_torch_hub 与 Computer_Vision/alexnet_Opset17_torch_hub 还收录了由 torch.hub 导出的 Opset 16/17 版本alexnet_Opset16.onnx、alexnet_Opset17.onnx配套 turnkey_stats.yaml 记录了完整的构建与模型统计信息。二、模型来源Caffe BVLC AlexNet 的 ONNX 化链路按照文档 Source 一节的说明仓库中模型的来源链路为Caffe BVLC AlexNet Caffe2 AlexNet ONNX AlexNet即模型权重源自 Caffe 社区广泛使用的 BVLC AlexNet 预训练模型经由 Caffe2 框架中转后导出为 ONNX 格式。与原始的 BVLC AlexNet 相比文档明确列出两点差异训练时未使用 relighting 数据增强非零偏置初始化为 0.1 而非 1作者在训练中发现偏置初始化为 1 会导致 loss 无法下降因此改为 0.1。训练与验证所用的数据集为 ILSVRC2012即 ImageNet 大规模视觉识别挑战赛 2012 数据集。三、模型输入输出约定与算子构成3.1 输入与输出张量仓库文档明确给出了 AlexNet ONNX 模型的输入输出签名输入data_0: float[1, 3, 224, 224] 输出softmaxout_1: float[1, 1000]输入data_0形状为[1, 3, 224, 224]的 float32 张量对应 batch1、通道数3RGB、高宽224。输出softmaxout_1形状为[1, 1000]的 float32 张量对应 ImageNet 1000 类分类得分softmax 概率。3.2 算子构成源码佐证Computer_Vision/alexnet_Opset16_torch_hub/turnkey_stats.yaml 中onnx_ops_counter字段给出了模型的完整算子构成可以直接印证 AlexNet 的网络结构Conv: 55 个卷积层MaxPool: 33 个最大池化层其中第一个在前两个卷积之间另两个成对出现在 conv3→conv4、conv4→conv5 之后Relu: 77 个 ReLU 激活AveragePool: 1全局平均池化替代全连接前的降维Flatten: 1展平层Gemm: 33 个全连接层同一 yaml 文件还记录了ir_version: 8、opset: 16、磁盘大小约 238679.07 KiB、总参数量parameters: 61100840约 6100 万参数与 AlexNet 的 6000 万参数规模一致。Opset 17 版本Computer_Vision/alexnet_Opset17_torch_hub/turnkey_stats.yaml的算子构成完全一致仅 opset 升级为 17。输入维度onnx_input_dimensions.x [1, 3, 224, 224]与文档签名完全对应。3.3 样本测试数据.tar.gz压缩包内含随机生成的样本测试数据用于快速验证模型推理正确性test_data_0.npztest_data_1.npztest_data_2.npztest_data_set_0test_data_set_1test_data_set_2这些随机输入可以配合 onnxruntime 快速跑通前向推理作为模型加载与运行环境的冒烟测试。四、ImageNet 预处理与后处理步骤4.1 预处理Pre-processingAlexNet 的输入要求为[1, 3, 224, 224]的 float32 张量。仓库中 validated/vision/classification/imagenet_preprocess.py 给出了标准的 ImageNet 预处理流程preprocess函数步骤为等比缩放将图像较短边缩放至 256 像素保持长宽比使用双线性插值中心裁剪从缩放后的图像中心裁剪 224×224 窗口转置将 HWC 布局转置为 CHWtranspose(2, 0, 1)类型转换转为 float32归一化先除以 255 将像素缩放到 [0,1]再按 ImageNet 均值/标准差标准化mean [0.485, 0.456, 0.406]stddev [0.485, 0.456, 0.406] 的配套值 [0.229, 0.224, 0.225]增加 batch 维度reshape 为(1, 3, 224, 224)。同一文件中的preprocess_mxnet函数提供了等价的 mxnet gluon 版本Resize(224) - CenterCrop(224) - ToTensor() - Normalize(mean, std)说明 ImageNet 分类模型家族AlexNet、ResNet、VGG 等共用同一套预处理约定。4.2 后处理Post-processingvalidated/vision/classification/imagenet_postprocess.py 中的postprocess函数给出了标准后处理对网络输出的得分向量施加 softmax 得到概率分布再按概率降序排序返回类别 ID 序列概率最高的类别在最前。这与输出张量softmaxout_1的 1000 维得分含义一致可直接用于 Top-1/Top-5 精度统计。五、模型精度与验证结果文档 Results/accuracy on test set 一节对打包模型的来源与精度给出了明确说明打包模型为训练第 360,000 次迭代时的快照训练过程中最佳验证性能出现在第 358,000 次迭代验证精度 57.258%、loss 1.83948该模型在验证集上仅使用中心裁剪即可获得Top-1 精度 57.1%、Top-5 精度 80.2%若使用 10-crop 平均4 角 1 中心× 2 镜像翻转精度还可进一步提升。与之对应Opset 12 版本在 ONNX 生态评测流程依赖上述特定预处理下复测得 Top-1 54.80%、Top-5 78.23%可视为不同预处理约定下的参考量级。仓库 validated/vision/classification 目录下还提供了 imagenet_inference.ipynb、imagenet_validation.ipynb、onnxrt_inference.ipynb 等 Notebook以及 synset.txt 类别标签文件可用于端到端的推理与精度验证。六、int8 量化AlexNet-int8 与 AlexNet-qdq6.1 量化背景与精度/性能对比AlexNet-int8 与 AlexNet-qdq 均通过对 fp32 模型做量化得到量化工具为 Intel Neural Compressoronnxruntime 后端。表格数据显示指标fp32int8qdqTop-1 精度 (%)54.8054.6854.71Top-5 精度 (%)78.2378.2378.22文档给出的结论是与 fp32 相比int8 模型 Top-1 精度下降 0.22%、Top-5 精度下降 0.05%而性能提升约2.26 倍。文件体积上int8/qdq 模型58 MB / 59 MB约为 fp32233 MB的 1/4可显著降低存储与内存占用。需要说明的是该性能数据同样依赖上述测试硬件环境Intel Xeon Platinum 8280、1s 4c、batch size 1。6.2 量化环境量化示例的软件环境为onnx: 1.9.0onnxruntime: 1.8.06.3 量化实操流程文档给出了基于 run_tuning.sh 的 PTQPost-Training Quantization训练后量化调用方式。先准备 fp32 模型见第一节的 wget 命令或仓库内 bvlcalexnet-12.onnx然后在配置文件中指定合适的校准数据集路径再执行bash run_tuning.sh --input_modelpath/to/model \ # 模型路径格式为 *.onnx --configalexnet.yaml \ --data_path/path/to/imagenet \ --label_path/path/to/imagenet/label \ --output_modelpath/to/save参数含义--input_model输入 fp32 ONNX 模型路径--config量化配置文件alexnet.yaml用于指定量化策略、校准数据加载方式等--data_pathImageNet 校准数据集路径--label_pathImageNet 标签文件路径--output_model量化后模型的保存路径。七、参考与许可AlexNet 的原始论文为《ImageNet Classification with Deep Convolutional Neural Networks》2012 年 NIPS量化工具为 Intel Neural Compressor。仓库内模型文件遵循 BSD-3 许可参见 validated/vision/classification/alexnet/LICENSE许可主体为 Facebook Inc. 与 Microsoft Corporation模型目录随附的 README 亦声明采用 BSD-3 协议。该模型文档由 Intel 团队维护mengniwang95、yuwenzho、airMeng、ftian1、hshen14 等贡献者。八、使用建议小结需要兼容旧版推理引擎时可按 Opset 3/6/7/8/9 选择对应版本追求最新算子集与精度复现时推荐 Opset 12 版本存储与推理延迟敏感场景优先选用 bvlcalexnet-12-int8.onnx 或 bvlcalexnet-12-qdq.onnx可在精度几乎无损的前提下获得约 2.26 倍的性能提升推理前务必按第四节预处理流程将输入转换为[1, 3, 224, 224]的 float32 张量后处理对输出施加 softmax 后按概率排序若需在 PyTorch 生态中快速获得 AlexNet 的 ONNX 导出可参考仓库 Computer_Vision/alexnet_Opset16_torch_hub 与 Computer_Vision/alexnet_Opset17_torch_hub 的 Opset 16/17 版本其构建统计含算子构成、参数规模可在配套 turnkey_stats.yaml 中查看。赞分享人工智能大模型计算机视觉NLP模型评测【免费下载链接】modelsA collection of pre-trained, state-of-the-art models in the ONNX format项目地址https://gitcode.com/gh_mirrors/model/models点击查看免费下载相关推荐ONNX 模型仓库实战指南EfficientNet-Lite4 图像分类模型的推理、预处理与 INT8 量化ONNX 模型仓库实战指南EfficientNet Lite4 图像分类模型的推理、预处理与 INT8 量化 本篇技术指南以 ONNX 模型仓库中 Effic人工智能大模型计算机视觉NLP模型评测Mastra Agent 接入 MCP 工具集用 tools: { ...mcpTools } 把外部工具注入 AgentMastra Agent 接入 MCP 工具集用 tools: { ...mcpTools } 把外部工具注入 Agent 本文是 Mastra 官方 MCP人工智能大模型计算机视觉NLP模型评测Mask R-CNN 实例分割 ONNX 模型实战模型变体、预处理、推理后处理与 INT8 量化全解析Mask R CNN 实例分割 ONNX 模型实战模型变体、预处理、推理后处理与 INT8 量化全解析 本指南以 ONNX Model Zoo 中经过验证的人工智能大模型计算机视觉NLP模型评测上一篇PX4飞控系统终极指南5分钟快速上手开源无人机开发下一篇探索GamingAnywhere一款强大的远程游戏平台创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 models 仓库 AlexNet ONNX 模型全解析：从模型清单、预处理到 int8 量化实战
人工智能大模型计算机视觉NLP模型评测【免费下载链接】modelsA collection of pre-trained, state-of-the-art models in the ONNX format项目地址https://gitcode.com/gh_mirrors/model/models点击查看免费下载AlexNet 是 2012 年 ImageNet 大规模视觉识别挑战赛ILSVRC上的经典卷积神经网络也是现代深度学习复兴的标志性起点。本仓库在 validated/vision/classification/alexnet/README.md 中完整收录了 BVLC AlexNet 从 Opset 3 到 Opset 12 的多版本 ONNX 权重、int8/qdq 量化模型以及在 Computer_Vision 目录下的 torch_hub 导出版本与 turnkey 构建统计。阅读本文后你将掌握 AlexNet ONNX 模型的输入输出约定、ImageNet 预处理与后处理流程、模型文件选择方法以及基于 Intel Neural Compressor 的 PTQ 量化实操流程。一、AlexNet ONNX 模型版本清单与文件布局仓库在 validated/vision/classification/alexnet/model 目录下按 Opset 版本组织模型文件每个版本同时提供裸.onnx文件和包含随机样本测试数据的.tar.gz压缩包ModelDownloadDownload (with sample test data)ONNX versionOpset versionTop-1 accuracy (%)Top-5 accuracy (%)AlexNet238 MB225 MB1.13--AlexNet238 MB225 MB1.1.26--AlexNet238 MB226 MB1.27--AlexNet238 MB226 MB1.38--AlexNet238 MB226 MB1.49--AlexNet233 MB216 MB1.91254.8078.23AlexNet-int858 MB39 MB1.91254.6878.23AlexNet-qdq59 MB44 MB1.91254.7178.22各文件的具体下载方式既可以直接在仓库内获取上述相对路径文件也可以使用wget从远端拉取 fp32 模型wget https://github.com/onnx/models/raw/main/vision/classification/alexnet/model/bvlcalexnet-12.onnx说明上述精度数据与预处理方法强相关表格中的 Top-1/Top-5 精度依赖特定的预处理脚本对应 Intel Neural Compressor 的 alexnet PTQ 示例不同预处理手段会导致不同的精度结果。同时性能数据依赖测试硬件——表中数据采集自 Intel Xeon Platinum 8280 处理器、每实例 1 插槽 4 核、CentOS Linux 8.3、batch size 为 1 的环境。除上述经典 BVLC 导出外本仓库 Computer_Vision/alexnet_Opset16_torch_hub 与 Computer_Vision/alexnet_Opset17_torch_hub 还收录了由 torch.hub 导出的 Opset 16/17 版本alexnet_Opset16.onnx、alexnet_Opset17.onnx配套 turnkey_stats.yaml 记录了完整的构建与模型统计信息。二、模型来源Caffe BVLC AlexNet 的 ONNX 化链路按照文档 Source 一节的说明仓库中模型的来源链路为Caffe BVLC AlexNet Caffe2 AlexNet ONNX AlexNet即模型权重源自 Caffe 社区广泛使用的 BVLC AlexNet 预训练模型经由 Caffe2 框架中转后导出为 ONNX 格式。与原始的 BVLC AlexNet 相比文档明确列出两点差异训练时未使用 relighting 数据增强非零偏置初始化为 0.1 而非 1作者在训练中发现偏置初始化为 1 会导致 loss 无法下降因此改为 0.1。训练与验证所用的数据集为 ILSVRC2012即 ImageNet 大规模视觉识别挑战赛 2012 数据集。三、模型输入输出约定与算子构成3.1 输入与输出张量仓库文档明确给出了 AlexNet ONNX 模型的输入输出签名输入data_0: float[1, 3, 224, 224] 输出softmaxout_1: float[1, 1000]输入data_0形状为[1, 3, 224, 224]的 float32 张量对应 batch1、通道数3RGB、高宽224。输出softmaxout_1形状为[1, 1000]的 float32 张量对应 ImageNet 1000 类分类得分softmax 概率。3.2 算子构成源码佐证Computer_Vision/alexnet_Opset16_torch_hub/turnkey_stats.yaml 中onnx_ops_counter字段给出了模型的完整算子构成可以直接印证 AlexNet 的网络结构Conv: 55 个卷积层MaxPool: 33 个最大池化层其中第一个在前两个卷积之间另两个成对出现在 conv3→conv4、conv4→conv5 之后Relu: 77 个 ReLU 激活AveragePool: 1全局平均池化替代全连接前的降维Flatten: 1展平层Gemm: 33 个全连接层同一 yaml 文件还记录了ir_version: 8、opset: 16、磁盘大小约 238679.07 KiB、总参数量parameters: 61100840约 6100 万参数与 AlexNet 的 6000 万参数规模一致。Opset 17 版本Computer_Vision/alexnet_Opset17_torch_hub/turnkey_stats.yaml的算子构成完全一致仅 opset 升级为 17。输入维度onnx_input_dimensions.x [1, 3, 224, 224]与文档签名完全对应。3.3 样本测试数据.tar.gz压缩包内含随机生成的样本测试数据用于快速验证模型推理正确性test_data_0.npztest_data_1.npztest_data_2.npztest_data_set_0test_data_set_1test_data_set_2这些随机输入可以配合 onnxruntime 快速跑通前向推理作为模型加载与运行环境的冒烟测试。四、ImageNet 预处理与后处理步骤4.1 预处理Pre-processingAlexNet 的输入要求为[1, 3, 224, 224]的 float32 张量。仓库中 validated/vision/classification/imagenet_preprocess.py 给出了标准的 ImageNet 预处理流程preprocess函数步骤为等比缩放将图像较短边缩放至 256 像素保持长宽比使用双线性插值中心裁剪从缩放后的图像中心裁剪 224×224 窗口转置将 HWC 布局转置为 CHWtranspose(2, 0, 1)类型转换转为 float32归一化先除以 255 将像素缩放到 [0,1]再按 ImageNet 均值/标准差标准化mean [0.485, 0.456, 0.406]stddev [0.485, 0.456, 0.406] 的配套值 [0.229, 0.224, 0.225]增加 batch 维度reshape 为(1, 3, 224, 224)。同一文件中的preprocess_mxnet函数提供了等价的 mxnet gluon 版本Resize(224) - CenterCrop(224) - ToTensor() - Normalize(mean, std)说明 ImageNet 分类模型家族AlexNet、ResNet、VGG 等共用同一套预处理约定。4.2 后处理Post-processingvalidated/vision/classification/imagenet_postprocess.py 中的postprocess函数给出了标准后处理对网络输出的得分向量施加 softmax 得到概率分布再按概率降序排序返回类别 ID 序列概率最高的类别在最前。这与输出张量softmaxout_1的 1000 维得分含义一致可直接用于 Top-1/Top-5 精度统计。五、模型精度与验证结果文档 Results/accuracy on test set 一节对打包模型的来源与精度给出了明确说明打包模型为训练第 360,000 次迭代时的快照训练过程中最佳验证性能出现在第 358,000 次迭代验证精度 57.258%、loss 1.83948该模型在验证集上仅使用中心裁剪即可获得Top-1 精度 57.1%、Top-5 精度 80.2%若使用 10-crop 平均4 角 1 中心× 2 镜像翻转精度还可进一步提升。与之对应Opset 12 版本在 ONNX 生态评测流程依赖上述特定预处理下复测得 Top-1 54.80%、Top-5 78.23%可视为不同预处理约定下的参考量级。仓库 validated/vision/classification 目录下还提供了 imagenet_inference.ipynb、imagenet_validation.ipynb、onnxrt_inference.ipynb 等 Notebook以及 synset.txt 类别标签文件可用于端到端的推理与精度验证。六、int8 量化AlexNet-int8 与 AlexNet-qdq6.1 量化背景与精度/性能对比AlexNet-int8 与 AlexNet-qdq 均通过对 fp32 模型做量化得到量化工具为 Intel Neural Compressoronnxruntime 后端。表格数据显示指标fp32int8qdqTop-1 精度 (%)54.8054.6854.71Top-5 精度 (%)78.2378.2378.22文档给出的结论是与 fp32 相比int8 模型 Top-1 精度下降 0.22%、Top-5 精度下降 0.05%而性能提升约2.26 倍。文件体积上int8/qdq 模型58 MB / 59 MB约为 fp32233 MB的 1/4可显著降低存储与内存占用。需要说明的是该性能数据同样依赖上述测试硬件环境Intel Xeon Platinum 8280、1s 4c、batch size 1。6.2 量化环境量化示例的软件环境为onnx: 1.9.0onnxruntime: 1.8.06.3 量化实操流程文档给出了基于 run_tuning.sh 的 PTQPost-Training Quantization训练后量化调用方式。先准备 fp32 模型见第一节的 wget 命令或仓库内 bvlcalexnet-12.onnx然后在配置文件中指定合适的校准数据集路径再执行bash run_tuning.sh --input_modelpath/to/model \ # 模型路径格式为 *.onnx --configalexnet.yaml \ --data_path/path/to/imagenet \ --label_path/path/to/imagenet/label \ --output_modelpath/to/save参数含义--input_model输入 fp32 ONNX 模型路径--config量化配置文件alexnet.yaml用于指定量化策略、校准数据加载方式等--data_pathImageNet 校准数据集路径--label_pathImageNet 标签文件路径--output_model量化后模型的保存路径。七、参考与许可AlexNet 的原始论文为《ImageNet Classification with Deep Convolutional Neural Networks》2012 年 NIPS量化工具为 Intel Neural Compressor。仓库内模型文件遵循 BSD-3 许可参见 validated/vision/classification/alexnet/LICENSE许可主体为 Facebook Inc. 与 Microsoft Corporation模型目录随附的 README 亦声明采用 BSD-3 协议。该模型文档由 Intel 团队维护mengniwang95、yuwenzho、airMeng、ftian1、hshen14 等贡献者。八、使用建议小结需要兼容旧版推理引擎时可按 Opset 3/6/7/8/9 选择对应版本追求最新算子集与精度复现时推荐 Opset 12 版本存储与推理延迟敏感场景优先选用 bvlcalexnet-12-int8.onnx 或 bvlcalexnet-12-qdq.onnx可在精度几乎无损的前提下获得约 2.26 倍的性能提升推理前务必按第四节预处理流程将输入转换为[1, 3, 224, 224]的 float32 张量后处理对输出施加 softmax 后按概率排序若需在 PyTorch 生态中快速获得 AlexNet 的 ONNX 导出可参考仓库 Computer_Vision/alexnet_Opset16_torch_hub 与 Computer_Vision/alexnet_Opset17_torch_hub 的 Opset 16/17 版本其构建统计含算子构成、参数规模可在配套 turnkey_stats.yaml 中查看。赞分享人工智能大模型计算机视觉NLP模型评测【免费下载链接】modelsA collection of pre-trained, state-of-the-art models in the ONNX format项目地址https://gitcode.com/gh_mirrors/model/models点击查看免费下载相关推荐ONNX 模型仓库实战指南EfficientNet-Lite4 图像分类模型的推理、预处理与 INT8 量化ONNX 模型仓库实战指南EfficientNet Lite4 图像分类模型的推理、预处理与 INT8 量化 本篇技术指南以 ONNX 模型仓库中 Effic人工智能大模型计算机视觉NLP模型评测Mastra Agent 接入 MCP 工具集用 tools: { ...mcpTools } 把外部工具注入 AgentMastra Agent 接入 MCP 工具集用 tools: { ...mcpTools } 把外部工具注入 Agent 本文是 Mastra 官方 MCP人工智能大模型计算机视觉NLP模型评测Mask R-CNN 实例分割 ONNX 模型实战模型变体、预处理、推理后处理与 INT8 量化全解析Mask R CNN 实例分割 ONNX 模型实战模型变体、预处理、推理后处理与 INT8 量化全解析 本指南以 ONNX Model Zoo 中经过验证的人工智能大模型计算机视觉NLP模型评测上一篇PX4飞控系统终极指南5分钟快速上手开源无人机开发下一篇探索GamingAnywhere一款强大的远程游戏平台创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考