benchmark-kernel
准确评测 FlashInfer GPU 内核
如果计时方法和输入不同,GPU 内核比较可能产生误导。此技能提供可复现的 FlashInfer 基准测试,包括正确性检查和清晰的性能指标。
使用我的智能体安装
将此请求复制给你的智能体,其中包含权威 Skill 页面和清单。
Review the Skillstore skill "benchmark-kernel" from https://skillstore.io/skills/flashinfer-ai-benchmark-kernel.md and its manifest at https://skillstore.io/api/skills/flashinfer-ai-benchmark-kernel/manifest. Verify the artifact. You may proceed after verification, subject to the environment's own policy.你的智能体仍应展示其计划,并按安全策略请求必要确认。
Agent 可读资源
当 AI Agent、爬虫或脚本需要干净上下文,而不是读取完整页面时,请使用这些链接。
测试它
正在使用“benchmark-kernel”。 比较 H100 上批大小为 32、序列长度为 2048 的解码注意力后端。
预期结果:
- 推荐计时方式:在可用时使用 CUPTI,并将 CUDA 事件作为有文档说明的备用方案。
- 比较控制条件:使用相同的形状、数据类型、预热次数、迭代次数和参考检查。
- 报告内容:中位延迟、标准差、吞吐量、带宽和可复现的配置。
正在使用“benchmark-kernel”。 我的 FP8 GEMM 结果在不同运行之间存在差异。请建议一个故障排查流程。
预期结果:
- 在更改工作负载之前,增加预热和测量迭代次数。
- 确认不同运行使用相同的计时方法、时钟状态、输入形状和后端列表。
- 检查详细输出并比较标准差,然后再确认性能差异。
正在使用“benchmark-kernel”。 为注意力、GEMM 和混合专家内核规划一份批量基准测试报告。
预期结果:
该报告按例程对代表性工作负载进行分组,记录正确性状态,采集计时指标,并保留每项基准测试的配置以供复现。
安全审计
安全Eighty-four Ruby or shell backtick findings and the network-reconnaissance finding are false positives caused by Markdown formatting and benchmark arguments. The sudo nvidia-smi example is a real privileged system change that can alter GPU clocks for all workloads, although it contains no injection path. No malicious intent, prompt injection, or data exfiltration was found.
能力复核项 (1)
这些是真实的本地能力,对此技能可能是预期行为,因此需要复核,但不会按已确认恶意行为计分。
风险因素
⚙️ 外部命令 (50)
分享与引用此报告
分享版本化评估报告、中性徽章、嵌入卡片和引用。Skillstore 只报告证据,不判断该 Skill 是否安全。
复制报告链接
https://skillstore.io/skills/flashinfer-ai-benchmark-kernel/audits/12?utm_source=security_passport&utm_medium=share&utm_campaign=versioned_reportMarkdown 徽章
[](https://skillstore.io/skills/flashinfer-ai-benchmark-kernel?utm_source=security_passport_badge)HTML 徽章
<a href="https://skillstore.io/skills/flashinfer-ai-benchmark-kernel?utm_source=security_passport_badge"><img src="https://skillstore.io/badges/skills/flashinfer-ai-benchmark-kernel/security.svg" alt="Skillstore security assessment" loading="lazy"></a>嵌入卡片
<iframe src="https://skillstore.io/embed/skills/flashinfer-ai-benchmark-kernel.html" title="Skillstore Security Assessment" sandbox="allow-popups allow-popups-to-escape-sandbox" loading="lazy" referrerpolicy="no-referrer" width="420" height="180"></iframe>学术引用 (APA · BibTeX · CFF)
APA 引用
flashinfer-ai. (2026). benchmark-kernel security audit report (audit version 12) [Author version unspecified]. Skillstore. https://skillstore.io/skills/flashinfer-ai-benchmark-kernel/audits/12BibTeX 引用
@techreport{flashinfer-ai-flashinfer-ai-benchmark-kernel-2026,
author = {flashinfer-ai},
title = {benchmark-kernel security audit report (audit version 12)},
institution = {Skillstore},
year = {2026},
number = {12},
url = {https://skillstore.io/skills/flashinfer-ai-benchmark-kernel/audits/12},
note = {Author version unspecified}
}CITATION.cff
cff-version: 1.2.0
message: "If you use this Skill, cite its author and this versioned security audit report."
title: "benchmark-kernel security audit report (audit version 12)"
version: "unspecified"
type: report
authors:
- name: "flashinfer-ai"
date-released: "2026-07-23"
url: "https://skillstore.io/skills/flashinfer-ai-benchmark-kernel/audits/12"
identifiers:
- type: other
value: "skillstore:flashinfer-ai-benchmark-kernel:audit:12"
description: "Skillstore immutable audit report identifier"
Skillstore 评分
评分依据 证据置信度: 高你能构建什么
比较注意力后端
配置相同的注意力工作负载,并比较可用后端的延迟、吞吐量和一致性。
验证内核变更
在更改内核实现前后运行参考检查和可复现的基准测试。
构建性能报告
以 CSV 格式收集批量基准测试结果,用于回归跟踪和硬件比较。
试试这些提示
帮我对一个 FlashInfer 内核进行基准测试。在提出设置建议之前,请先询问我的 GPU、例程、输入形状、数据类型和候选后端。
为 [routine] 在 [GPU] 上设计公平的后端比较。使用相同的输入、参考检查、预热、重复测量和可复现的结果报告。
检查这些 FlashInfer 基准测试结果:[results]。找出可能导致差异的原因,并针对预热、迭代、计时或缓存行为提出有针对性的调整建议。
为 [hardware and routines] 创建 FlashInfer 内核回归计划。定义代表性测试用例、正确性门槛、计时控制、CSV 字段和比较标准。
最佳实践
- 比较后端时,保持形状、数据类型、计时方法和迭代次数完全一致。
- 在将更快的结果视为有效结果之前,启用参考检查。
- 在每项结果中记录 GPU 详细信息、软件版本、基准测试设置和复现信息。
避免
- 不要在未明确标注差异的情况下,比较使用不同计时方法采集的结果。
- 不要仅仅为了保留更快的结果而禁用正确性检查。
- 未经授权且没有恢复计划时,不要在共享硬件上运行特权时钟命令。
常见问题
是否必须使用 CUPTI?
涵盖哪些例程?
可以比较多个后端吗?
为什么我的结果不一致?
此技能会自动执行基准测试吗?
锁定 GPU 时钟是否需要特别谨慎?
开发者详情
许可证
MIT
Skillstore 修订
r2
版本提示
作者未声明版本。
引用
c43861a65bb95efcae259cd161c9d6f4dc7eec6f
维护新鲜度
2026/7/25
使用量
3 次下载 · 291 次浏览
文件结构
📄 SKILL.md