triton.testing.do_bench

triton.testing.do_bench(fn, warmup=25, rep=100, grad_to_none=None, quantiles=None, return_mode='mean')

对提供的函数进行基准测试。默认情况下,返回 fn 的中位运行时,以及第 20 和第 80 个性能百分位数。

参数:
  • fn (Callable) – 要进行基准测试的函数

  • warmup (int) – 热身时间(单位:毫秒)

  • rep (int) – 重复时间(单位:毫秒)

  • grad_to_none (torch.tensor, optional) – 将提供的张量的梯度重置为 None

  • quantiles (list[float], optional) – 除了中位数外,还要返回的性能百分位数。

  • return_mode (str) – 要返回的统计度量。选项包括 “min”、“max”、“mean”、“median” 或 “all”。默认为 “mean”。