分类标签归档:lm-evaluation-harness

lm-evaluation-harness 实战笔记:把 LLM 评测从「跑分」变成可复现的工程

在 LLM 质量保障的日常里,最常被问到的问题之一是:"这个模型到底行不行?"

但"行不行"从来不是一个数字能回答的。同样是"MMLU 78 分",few-shot 设成几?prompt 模板用什么?是不是 chat 格式?温度多少?有没有踩到测试集污染?——任何一项没对齐,跨团队、跨模型、跨版本的数字都不可比。

lm-evaluation-harness 就是为消灭这种"不可比"而生的。它是 EleutherAI 维护的 LLM 评测框架,也是 HuggingFace Open LLM Leaderboard 背后的评测引擎。这篇文章是我把它真正用进质量体系的实战笔记,不堆概念,只讲怎么跑、

阅读全文 →