# ONNX IR(Intermediate Representation)

### ONNX部分

ONNX是一种神经网络的格式，采用Protobuf二进制形式进行序列化模型。 Protobuf会根据用于定义的数据结构来进行序列化存储 同理，我们可以根据官方提供的数据结构信息，去修改或者创建onnx。

<figure><img src="/files/lKmqTSQrP1ZG50qxqBOa" alt="" width="563"><figcaption></figcaption></figure>

onnx的各类proto的定义需要看官方文档(<https://github.com/onnx/onnx/tree/main>) 。这里面的`onnx/onnx.in.proto`定义了所有onnx的Proto。有关onnx的IR(`intermediate representation`)信息，看这里(<https://github.com/onnx/onnx/blob/main/docs/IR.md>)

### 理解onnx中的组织结构

* `ModelProto` (描述的是整个模型的信息)
* `GraphProto` (描述的是整个网络的信息)
* `NodeProto` (描述的是各个计算节点，比如`conv`, `linear`)
* `TensorProto` (描述的是`tensor`的信息，主要包括权重)
* `ValueInfoProto` (描述的是`input/output`信息)
* `AttributeProto` (描述的是`node`节点的各种属性信息)

### onnx中的ValueInfoProto

一般用来定义网络的`input/output` ，会根据`input/output`的`type`来附加属性

​

<figure><img src="/files/HRqtueiRj0r3v1n7zNNa" alt="" width="563"><figcaption></figcaption></figure>

<figure><img src="/files/xJl0X4M2Vqc8P7nYd2VW" alt="" width="563"><figcaption></figcaption></figure>

### onnx中的TensorProto

​

<figure><img src="/files/UcbeH5K9cfwKeXzk5A3V" alt="" width="563"><figcaption></figcaption></figure>

<figure><img src="/files/chvghiOlVrsLMWBpkvaa" alt="" width="563"><figcaption></figcaption></figure>

<figure><img src="/files/WcS3q4dDdY2HxqKRggIy" alt="" width="563"><figcaption></figcaption></figure>

一般用来定义一个权重，比如conv的w和b ，`dims`是`repeated`类型，意味着是数组，`raw_data`是`bytes`类型。

### onnx中的NodeProto

<figure><img src="/files/vgtI9daWJ0XzEYW0wSIG" alt="" width="563"><figcaption></figcaption></figure>

一般用来定义一个计算节点，比如`conv`, `linear` ，`input`是`repeated`类型，意味着是数组，output是repeated类型，意味着是数组，`attribute`有一个自己的Proto，`op_type`需要严格根据`onnx`所提供的`Operators`写。

#### onnx中的AttributeProto

​

<figure><img src="/files/z2QkbJd6f4kBXHebRBWJ" alt="" width="563"><figcaption></figcaption></figure>

<figure><img src="/files/HaxPa7I61Ri6ZKOe2EUz" alt="" width="563"><figcaption></figcaption></figure>

一般用来定义一个`node`的属性。比如说`kernel size`，比较常见的方式就是把`(key, value)`传入`Proto`，之后 `name = key` ,`i = value` 。

#### onnx中的GraphProto

<figure><img src="/files/7nNSIPE4igILcIBxpjIg" alt="" width="563"><figcaption></figcaption></figure>

一般用来定义一个网络。包括 ：`input/output` ，`initializer`，`initializer`: 在onnx中一般表示权重信息。 `node`是`repeated`，所以是数组，`initializer`是`repeated`，所以是数组，`input/output`是`repeated`，所以是数组。

#### onnx中的ModelProto

<figure><img src="/files/VlFHabwH7nnrzV6ofl5N" alt="" width="563"><figcaption></figcaption></figure>

一般用来定义模型的全局信息，比如`opset` ，`graph`并不是`repeated`，所以一个`model`对应一个`graph`

🥰onnx提供了一些很方便的`api`来创建`onnx` ：`onnx.helper.make_tensor` `onnx.helper.make_tensor_value_info` ，`onnx.helper.make_attribute` `onnx.helper.make_node` ，`onnx.helper.make_graph` ，`onnx.helper.make_model`

虽然onnx官方提供了而一些python API来修改onnx，但是推荐大家使用`TensorRT`下的`onnxsurgeon`，更加方便快捷。


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://deployment.gitbook.io/love/whitepaper/onnx_intro/onnx-ir-intermediate-representation.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.