relay.md

Expressions in Relay🔗

⌚️:2020年11月30日

📚参考

• https://blog.csdn.net/weixin_42164269/article/details/103399882
  • Dataflow and Control Fragments

---

Relay是一种功能多样的编程语言，用于机器学习系统表达的中间表示。relay支持代数数据类型，闭包，控制流和递归，从而可以直接表示比基于计算图的IR更复杂的模型。relay还包括一种使用类型关系的依赖类型的形式，来处理对参数形状有复杂的要求的操作符的形状分析。relay在设计上是可扩展的，这使得机器学习的研究人员和实践者可以很容易地开发新的大型程序转换和优化。

​ 以下页面分别描述了relay中的语法，类型系统，代数数据类型和运算符。

• Relay

  中的表达式

  • 数据流和控制片段
  • 变量
  • 函数
  • 操作符
  • 代数数据类型构造器
  • 调用
  • 模块和全局函数
  • 常量
  • 三元组
  • Let Bindings
  • Graph Bindings
  • If-Then-Else
  • 代数数据类型匹配
  • TempExprs

• Relay

  的类型系统

  • Type
  • Tensor Type
  • Tuple Type
  • Type Parameter
  • Type Constraint
  • Function Type
  • Type Relation
  • Incomplete Type
  • Algebraic Data Types

• R

  elay中的代数数据类型

  • Defining and Matching on an ADT
  • Type-Checking ADTs and Polymorphism
  • Recursion with ADTs
  • Pattern Matching in Match Expressions
  • Common ADT Uses
  • Implementing Neural Nets Using ADTs

• Relay

  核张量操作符

  • Overview of Operators
  • Level 1 Definitions
  • Level 2 Definitions
  • Level 3 Definitions
  • Level 4 Definitions
  • Level 5 Definitions
  • Level 6 Definitions
  • Level 10 Definitions
  • Level 11 Definitions

---

The Relay IR is a pure, expression-oriented language. The below sections describe the different expressions in Relay and give details of their semantics.

Relay IR是一种纯粹的面向表达式的语言。以下各节描述了Relay中的不同表达式，并提供了其语义的详细信息

1. Dataflow and Control Fragments

For the purposes of comparing Relay to traditional computational graph-based IRs, it can be useful to consider Relay expressions in terms of dataflow and control fragments. Each portion of a Relay program containing expressions that only affect the dataflow can be viewed as a traditional computation graph when writing and expressing transformations.

为了将Relay与传统的基于计算图的IR进行比较，从数据流和控制片段的角度考虑Relay表达式可能会很有用。编写和表示转换时，包含仅影响数据流的表达式的Relay程序的每个部分都可以视为传统的计算图。

The dataflow fragment covers the set of Relay expressions that do not involve control flow. That is, any portion of a program containing only the following constructs corresponds to a pure computation graph:

数据流片段涵盖了不涉及控制流的一组中继表达式。也就是说，仅包含以下构造的程序的任何部分都对应于纯计算图：