triton.testing.do_bench

triton.testing.do_bench(fn, warmup=25, rep=100, grad_to_none=None, quantiles=None, return_mode='mean')

对所提供函数的运行时间进行基准测试。默认情况下,返回 fn 的中位数运行时间以及第 20 和第 80 百分位数的性能数据。

参数:
  • fn (Callable) – 要进行基准测试的函数

  • warmup (int) – 预热次数(ms)

  • rep (int) – 重复次数(ms)

  • grad_to_none (torch.tensor, optional) – 将所提供张量的梯度重置为 None

  • quantiles (list[float], optional) – 除中位数外要返回的性能百分位数。

  • return_mode (str) – 要返回的统计指标。选项包括 “min”、“max”、“mean”、“median” 或 “all”。默认为 “mean”。