SKILL·22377E

knowledge-distillation

davila7
Aktualisiert 5 months ago
237 Ansichten
18,478
1,685
18,478
Auf GitHub ansehen
AndereEmerging TechniquesKnowledge DistillationModel CompressionTeacher-StudentMiniLLMReverse KLDSoft TargetsTemperature ScalingLogit DistillationModel Transfer

Über

Diese Fähigkeit ermöglicht Wissensdestillation, um große Sprachmodelle in kleinere, effiziente Versionen zu komprimieren und dabei die Leistung zu erhalten. Sie ist nützlich, um Fähigkeiten von Modellen wie GPT-4 auf Open-Source-Alternativen zu übertragen oder Inferenzkosten zu senken. Zu den Schlüsseltechniken gehören Temperaturskalierung, Soft Targets und Logit-Destillation.

Schnellinstallation

Claude Code

Empfohlen
Primär
npx skills add davila7/claude-code-templates -a claude-code
Plugin-BefehlAlternativ
/plugin add https://github.com/davila7/claude-code-templates
Git CloneAlternativ
git clone https://github.com/davila7/claude-code-templates.git ~/.claude/skills/knowledge-distillation

Kopieren Sie diesen Befehl und fügen Sie ihn in Claude Code ein, um diese Fähigkeit zu installieren

GitHub Repository

davila7/claude-code-templates
Pfad: cli-tool/components/skills/ai-research/emerging-techniques-knowledge-distillation
0
anthropicanthropic-claudeclaudeclaude-code
FAQ

Häufig gestellte Fragen

Was ist der Skill knowledge-distillation?

knowledge-distillation ist ein Claude Skill von davila7. Skills bündeln Anweisungen und Ressourcen, die Claude bei Bedarf lädt, um Aufgaben rund um knowledge-distillation ohne zusätzliche Eingaben auszuführen.

Wie installiere ich knowledge-distillation?

Verwende die Installationsbefehle auf dieser Seite: Füge knowledge-distillation als Plugin zu Claude Code hinzu oder klone das Repository in dein Skills-Verzeichnis. Starte Claude danach neu, damit der Skill geladen wird.

Zu welcher Kategorie gehört knowledge-distillation?

knowledge-distillation gehört zur Kategorie Andere.

Kann ich knowledge-distillation kostenlos nutzen?

Ja. knowledge-distillation ist auf AIMCP gelistet und kann kostenlos installiert werden.

Verwandte Skills

sports-betting-analyzer
Andere

Diese Claude Skill analysiert Sportwettenmärkte inklusive Handicaps, Over/Unders und Spezialwetten, indem sie historische Trends und situative Statistiken untersucht, um Wertwetten zu identifizieren. Sie liefert strukturierte Markdown-Ausgaben mit umsetzbaren Empfehlungen zu Bildungszwecken. Entwickler sollten dies für Sportwetten-Analysetools nutzen, wobei zu beachten ist, dass es nur zur Unterhaltung/Bildung konzipiert wurde.

Skill ansehen
llamaguard
Andere

LlamaGuard ist Metas 7-8B-Parameter-Modell zur Moderation von LLM-Eingaben und -Ausgaben in sechs Sicherheitskategorien wie Gewalt und Hassrede. Es bietet eine Genauigkeit von 94-95 % und kann mit vLLM, Hugging Face oder Amazon SageMaker eingesetzt werden. Nutzen Sie diese Skill, um Inhaltsfilterung und Sicherheitsguardrails einfach in Ihre KI-Anwendungen zu integrieren.

Skill ansehen
cost-optimization
Andere

Diese Claude Skill unterstützt Entwickler bei der Optimierung von Cloud-Kosten durch Ressourcen-Dimensionierung, Tagging-Strategien und Ausgabenanalysen. Sie bietet einen Rahmen zur Senkung von Cloud-Ausgaben und zur Implementierung von Kosten-Governance für AWS, Azure und GCP. Nutzen Sie sie, wenn Sie Infrastrukturkosten analysieren, Ressourcen richtig dimensionieren oder Budgetvorgaben einhalten müssen.

Skill ansehen
quantizing-models-bitsandbytes
Andere

Diese Fähigkeit quantisiert LLMs auf 8-Bit- oder 4-Bit-Präzision mittels bitsandbytes und erreicht dabei eine Speicherreduzierung von 50–75 % bei minimalem Genauigkeitsverlust. Sie ist ideal für den Betrieb größerer Modelle mit begrenztem GPU-Speicher oder zur Beschleunigung von Inferenzvorgängen und unterstützt Formate wie INT8, NF4 und FP4. Die Fähigkeit integriert sich in HuggingFace Transformers und ermöglicht QLoRA-Training sowie 8-Bit-Optimierer.

Skill ansehen