大模型 Prefill & Decode 性能测试工具 v1.8 ChirpBench · 大模型测速

未登录： ⬅ 返回排行榜
OpenAI兼容接口
Ollama接口

OpenAI兼容接口测试说明

API 信息

💡 勾选后会保存完整的提示词和输出内容到历史记录，方便查看详情。不勾选可节省存储空间。

基准测试（v2 固定标准，无需配置）

为保证全球成绩可比，测试方法已统一固定：固定语料（SHA-256 钉死）、长度点从 512 起按 ×2 递增（512→1K→2K→4K→8K→16K→32K→64K→128K，不超过你填的最大上下文）、 输出 512 token、greedy 采样（temperature=0）、并发 1。 长度点自动从 512 逐档翻倍上探，直到超出模型上下文自动停止——无需任何配置。

执行测试

多结果对比

说明：先“开始测试”运行一次，然后再导入其他CSV文件，点击“生成对比图表”

等待开始测试...

ChirpBench · 斗蛐蛐测速榜 — 基于 gengchaogit 的开源项目 llm_speedtest 二次开发，感谢原作者。