深圳福田网站建设公司东营建设网

深圳福田网站建设公司,东营建设网,网站备案 类型,视频交易类网页Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境#xff0c;以高效编写自定义 DNN 计算内核#xff0c;并能够在现代 GPU 硬件上以最大吞吐量运行。 更多 Triton 中文文档可访问 →triton.hyper.ai/ triton.language.load(pointer, maskNo…Triton 是一种用于并行编程的语言和编译器。它旨在提供一个基于 Python 的编程环境以高效编写自定义 DNN 计算内核并能够在现代 GPU 硬件上以最大吞吐量运行。更多 Triton 中文文档可访问 →triton.hyper.ai/triton.language.load(pointer, maskNone, otherNone, boundary_check(), padding_option, cache_modifier, eviction_policy, volatileFalse)返回 1 个数据张量其值从由指针所定义的内存位置处加载1.如果pointer是单元素指针则加载 1 个标量。在这种情况下mask和other必须也是标量other会隐式地转换为pointer.dtype.element_ty类型boundary_check和padding_option必须为空。2.如果pointer是 1 个 N 维指针张量则加载 1 个 N 维张量。在这种情况下mask和other会被隐式地广播到pointer.shapeother会隐式地转换为pointer.dtype.element_ty类型boundary_check和padding_option必须为空。3.如果pointer是由make_block_ptr定义的块指针则加载 1 个张量。在这种情况下mask和other必须为None可以指定boundary_check和padding_option来控制超出越界访问的行为。参数****pointertriton.PointerType**或 dtypetriton.PointerType 的块- 指向要加载的数据的指针。masktriton.int1 的块**可选- 如果 mask[idx] 为 false则不加载 pointer[idx] 处的数据对于块指针必须为 None。other(块,可选) - 如果 mask[idx] 为 false则返回 other[idx]。boundary_check整数元组**可选- 表示应进行边界检查维度的元组。padding_option- 应为 {“”, “zero”, “nan”} 中的一个越界时进行填充。cache_modifier***str可选*应为 {“”, “ca”, “cg”} 中的一个- 其中「ca」表示在所有层级进行缓存「cg」表示在全局层级缓存在 L2 及以下缓存不是 L1详细信息请参见缓存操作符。在 NVIDIA PTX 中更改缓存选项。eviction_policystr,可选- 更改 NVIDIA PTX 中的驱逐策略。volatilebool,可选- 更改 NVIDIA PTX 中的易失性选项。