triton.language
编程模型
表示一个 N 维的值或指针数组。 |
|
表示全局内存中张量的描述符。 |
|
返回当前程序实例在给定 |
|
返回在给定 |
创建操作
返回半开区间 |
|
连接给定的块 |
|
返回一个由标量值填充的张量,具有给定的 |
|
返回一个由标量值 0 填充的张量,具有给定的 |
|
返回一个与给定张量形状和类型相同的全零张量。 |
|
将张量转换为给定的 |
形状操作
尝试将两个给定的块广播为兼容的公共形状。 |
|
尝试将给定张量广播为新的 |
|
通过插入新的长度为 1 的维度来扩展张量的形状。 |
|
沿最后一个维度交错两个张量的值。 |
|
在一个新的次要维度上连接给定的张量。 |
|
置换张量的维度。 |
|
返回 |
|
返回一个与输入元素数量相同但形状不同的张量。 |
|
沿最后一个维度将张量一分为二,该维度的大小必须为 2。 |
|
置换张量的维度。 |
|
返回一个与 input 元素相同但形状不同的张量。 |
线性代数操作
返回两个块的矩阵乘积。 |
|
返回微缩放(microscaling)格式下两个块的矩阵乘积。 |
内存/指针操作
返回一个张量,其值是从 pointer 定义的内存位置加载的。 |
|
将一个张量存入 pointer 定义的内存位置。 |
|
创建一个张量描述符对象。 |
|
从张量描述符加载一个数据块。 |
|
将一个数据块存入张量描述符。 |
|
返回指向父张量中某个块的指针。 |
|
推进块指针。 |
索引操作
沿维度 dim 翻转张量 x。 |
|
根据 |
|
将行主序 size_i * size_j 矩阵的索引转换为每组 size_g 行的列主序矩阵索引。 |
数学操作
计算 |
|
计算 |
|
计算 |
|
将输入张量 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
|
计算 |
归约操作
返回 |
|
返回 |
|
返回 |
|
返回 |
|
沿提供的 |
|
返回 |
|
返回 |
扫描/排序操作
沿提供的 |
|
返回 |
|
返回 |
|
基于带有 num_bins 个桶的输入张量计算直方图,桶宽度为 1,从 0 开始。 |
|
返回输入张量在指定维度上最大的(或最小的)k 个元素。 |
|
沿给定维度从张量中收集(gather)数据。 |
原子操作
在 |
|
在 |
|
在 |
|
在 |
|
在 |
|
在 |
|
在 |
|
在 |
随机数生成
给定 |
|
给定 |
|
给定 |
|
给定 |
迭代器
永远向上计数的迭代器。 |
|
永远向上计数的迭代器。 |
内联汇编
在张量上执行内联汇编。 |
编译器提示操作
允许编译器假定 |
|
插入栅栏(barrier)以同步块中的所有线程。 |
|
让编译器知道 |
|
让编译器知道 |
|
让编译器知道 |
调试操作
在编译时打印值。 |
|
在编译时断言条件。 |
|
在运行时从设备打印值。 |
|
在运行时从设备断言条件。 |