triton.testing.do_bench_cudagraph

triton.testing.do_bench_cudagraph(fn, rep=20, grad_to_none=None, quantiles=None, return_mode='mean')

对提供的函数进行基准测试。

参数:
  • fn (Callable) – 要进行基准测试的函数

  • rep (int) – 重复次数(单位:ms)

  • grad_to_none (torch.tensor, optional) – 将提供的张量的梯度重置为 None

  • return_mode (str) – 要返回的统计度量。选项包括“min”、“max”、“mean”、“median”或“all”。默认值为“mean”。