moe-training
Über
Diese Fähigkeit ermöglicht das Training von Mixture of Experts (MoE)-Modellen mit DeepSpeed oder HuggingFace und bietet eine Kostenreduzierung um das 5-fache im Vergleich zu dichten Modellen für groß angelegtes Training. Sie ist ideal für die Implementierung spärlicher Architekturen wie Mixtral 8x7B und die Skalierung der Modellkapazität ohne proportionalen Rechenaufwand. Die Fähigkeit behandelt MoE-Architekturen, Routing, Lastenausgleich, Expert Parallelism und Inferenzoptimierung.
Schnellinstallation
Claude Code
Empfohlennpx skills add davila7/claude-code-templates -a claude-code/plugin add https://github.com/davila7/claude-code-templatesgit clone https://github.com/davila7/claude-code-templates.git ~/.claude/skills/moe-trainingKopieren Sie diesen Befehl und fügen Sie ihn in Claude Code ein, um diese Fähigkeit zu installieren
GitHub Repository
Frequently asked questions
What is the moe-training skill?
moe-training is a Claude Skill by davila7. Skills package instructions and resources that Claude loads on demand, so Claude can perform moe-training-related tasks without extra prompting.
How do I install moe-training?
Use the install commands on this page: add moe-training to Claude Code as a plugin, or clone its repository into your skills directory, then restart Claude so it picks up the skill.
What category does moe-training belong to?
moe-training is in the Other category, tagged Emerging Techniques, MoE, Mixture Of Experts, Sparse Models, DeepSpeed and Expert Parallelism.
Is moe-training free to use?
Yes. moe-training is listed on AIMCP and free to install. It runs inside Claude, so no separate service account is required to use the skill itself.
Verwandte Skills
LlamaGuard ist Metas 7-8B-Parameter-Modell zur Moderation von LLM-Eingaben und -Ausgaben in sechs Sicherheitskategorien wie Gewalt und Hassrede. Es bietet eine Genauigkeit von 94-95 % und kann mit vLLM, Hugging Face oder Amazon SageMaker eingesetzt werden. Nutzen Sie diese Skill, um Inhaltsfilterung und Sicherheitsguardrails einfach in Ihre KI-Anwendungen zu integrieren.
Diese Claude Skill unterstützt Entwickler bei der Optimierung von Cloud-Kosten durch Ressourcen-Dimensionierung, Tagging-Strategien und Ausgabenanalysen. Sie bietet einen Rahmen zur Senkung von Cloud-Ausgaben und zur Implementierung von Kosten-Governance für AWS, Azure und GCP. Nutzen Sie sie, wenn Sie Infrastrukturkosten analysieren, Ressourcen richtig dimensionieren oder Budgetvorgaben einhalten müssen.
Diese Claude Skill analysiert Sportwettenmärkte inklusive Handicaps, Over/Unders und Spezialwetten, indem sie historische Trends und situative Statistiken untersucht, um Wertwetten zu identifizieren. Sie liefert strukturierte Markdown-Ausgaben mit umsetzbaren Empfehlungen zu Bildungszwecken. Entwickler sollten dies für Sportwetten-Analysetools nutzen, wobei zu beachten ist, dass es nur zur Unterhaltung/Bildung konzipiert wurde.
Diese Fähigkeit quantisiert LLMs auf 8-Bit- oder 4-Bit-Präzision mittels bitsandbytes und erreicht dabei eine Speicherreduzierung von 50–75 % bei minimalem Genauigkeitsverlust. Sie ist ideal für den Betrieb größerer Modelle mit begrenztem GPU-Speicher oder zur Beschleunigung von Inferenzvorgängen und unterstützt Formate wie INT8, NF4 und FP4. Die Fähigkeit integriert sich in HuggingFace Transformers und ermöglicht QLoRA-Training sowie 8-Bit-Optimierer.