ziwang-com / AGM

AGM阿格姆:AI基因图谱模型,从token-weight权重微粒角度,探索AI模型,GPT\LLM大模型的内在运作机制。

Home Page:http://www.m-f.vip

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

英特尔模型实用工具

ziwang-com opened this issue · comments

https://github.com/yas-sim/openvino-ir-utility
英特尔(r) 开放视频(tm) 红外模型实用程序工具
这是OpenVINO IR模型文件的实用工具。此工具具有以下功能:
image

2022 年 4 月 2 日更新:添加 IRv11 和 OpenVINO 2022.1 API2.0 支持。

显示 IR 模型摘要信息 ()
显示 IR 版本、输入/输出 blob 名称和形状ir-summary.py

权重数据提取 ()
从 IR 模型中提取权重数据并处理泡菜文件ir_weight_extractor.py

从 IR 模型中提取特征图(层之间的中间缓冲区)
运行 IR 模型并提取所有层的特征图数据并生成泡菜文件ir_featuremap_extractor.py

比较特征图数据文件 ()
比较两个特征图文件并检查差异。此工具可能有助于查找不同类型的 OpenVINO 插件之间准确性问题的问题点。compare_feature_maps.py

计算 OpenVINO IR 模型的单个输出斑点大小 ()
该工具计算 IR 模型中图层的输出斑点大小并进行汇总。您可以使用它来识别模型中的内存饥饿层。ir_output_blob_size_calculator.py

将标头 (XML)、权重 (.bin) 和图形 (.xml) 与 CPU 的编译模型分开 ()
该工具会将编译的模型拆分为 3 个文件,以供进一步分析或研究。exported_model_disassembler.py