MCP HubMCP Hub
SKILL·C4C207

evaluating-llms-harness

davila7
Mis à jour 2 months ago
176 vues
18,478
1,685
18,478
Voir sur GitHub
TestsEvaluationLM Evaluation HarnessBenchmarkingMMLUHumanEvalGSM8KEleutherAIModel QualityAcademic BenchmarksIndustry Standard

À propos

Cette compétence exécute des évaluations standardisées de LLM sur plus de 60 benchmarks académiques tels que MMLU et GSM8K, en utilisant la suite d'évaluation standardisée lm-evaluation-harness. Utilisez-la pour évaluer la qualité des modèles, comparer différents modèles ou suivre les progrès de l'entraînement, avec prise en charge des modèles HuggingFace, vLLM et basés sur des API. Elle fournit une méthode cohérente et largement adoptée pour rapporter des résultats académiques.

Installation rapide

Claude Code

Recommandé
Principal
npx skills add davila7/claude-code-templates -a claude-code
Commande PluginAlternatif
/plugin add https://github.com/davila7/claude-code-templates
Git CloneAlternatif
git clone https://github.com/davila7/claude-code-templates.git ~/.claude/skills/evaluating-llms-harness

Copiez et collez cette commande dans Claude Code pour installer cette compétence

Dépôt GitHub

davila7/claude-code-templates
Chemin: cli-tool/components/skills/ai-research/evaluation-lm-evaluation-harness
0
anthropicanthropic-claudeclaudeclaude-code
FAQ

Frequently asked questions

What is the evaluating-llms-harness skill?

evaluating-llms-harness is a Claude Skill by davila7. Skills package instructions and resources that Claude loads on demand, so Claude can perform evaluating-llms-harness-related tasks without extra prompting.

How do I install evaluating-llms-harness?

Use the install commands on this page: add evaluating-llms-harness to Claude Code as a plugin, or clone its repository into your skills directory, then restart Claude so it picks up the skill.

What category does evaluating-llms-harness belong to?

evaluating-llms-harness is in the Testing category, tagged Evaluation, LM Evaluation Harness, Benchmarking, MMLU, HumanEval and GSM8K.

Is evaluating-llms-harness free to use?

Yes. evaluating-llms-harness is listed on AIMCP and free to install. It runs inside Claude, so no separate service account is required to use the skill itself.

Compétences associées

evaluating-llms-harness
Tests

Cette compétence Claude exécute le lm-evaluation-harness pour évaluer les modèles de langage sur plus de 60 tâches académiques standardisées telles que MMLU et GSM8K. Elle est conçue pour permettre aux développeurs de comparer la qualité des modèles, de suivre les progrès de l'entraînement ou de rapporter des résultats académiques. L'outil prend en charge différents backends, incluant les modèles HuggingFace et vLLM.

Voir la compétence
cloudflare-cron-triggers
Tests

Cette compétence fournit une connaissance complète pour la mise en œuvre de Déclencheurs Cron Cloudflare afin de planifier des Workers à l'aide d'expressions cron. Elle couvre la configuration de tâches périodiques, de travaux de maintenance et de flux de travail automatisés, tout en traitant des problèmes courants tels que les expressions cron non valides et les problèmes de fuseau horaire. Les développeurs peuvent l'utiliser pour configurer des gestionnaires planifiés, tester des déclencheurs cron et intégrer avec Workflows et Green Compute.

Voir la compétence
webapp-testing
Tests

Cette Compétence Claude fournit une boîte à outils basée sur Playwright pour tester des applications web locales via des scripts Python. Elle permet la vérification frontend, le débogage d'interface utilisateur, la capture d'écrans et la consultation des journaux, tout en gérant les cycles de vie du serveur. Utilisez-la pour les tâches d'automatisation de navigateur, mais exécutez les scripts directement plutôt que de lire leur code source pour éviter la pollution du contexte.

Voir la compétence
finishing-a-development-branch
Tests

Cette compétence aide les développeurs à finaliser leur travail en vérifiant que les tests passent, puis en présentant des options d'intégration structurées. Elle guide le processus de fusion, de création de PRs ou de nettoyage des branches une fois l'implémentation terminée. Utilisez-la lorsque votre code est prêt et testé pour finaliser systématiquement le cycle de développement.

Voir la compétence