model-serving
Über
Diese Fähigkeit bietet Anleitung für den Einsatz von LLMs und ML-Modellen in der Produktion und behandelt Serving-Engines, Optimierung und API-Muster. Sie hilft Entwicklern bei der Auswahl zwischen Tools wie vLLM, TensorRT-LLM und BentoML für Aufgaben wie den Aufbau von KI-APIs, die Implementierung von RAG oder die Optimierung von Inferenz. Nutzen Sie sie, wenn Sie Modelle selbst hosten, Streaming-Antworten ermöglichen oder Serving mit Frontend-Anwendungen integrieren müssen.
Schnellinstallation
Claude Code
Empfohlennpx skills add NeverSight/skills_feed -a claude-code/plugin add https://github.com/NeverSight/skills_feedgit clone https://github.com/NeverSight/skills_feed.git ~/.claude/skills/model-servingKopieren Sie diesen Befehl und fügen Sie ihn in Claude Code ein, um diese Fähigkeit zu installieren
GitHub Repository
Frequently asked questions
What is the model-serving skill?
model-serving is a Claude Skill by NeverSight. Skills package instructions and resources that Claude loads on demand, so Claude can perform model-serving-related tasks without extra prompting.
How do I install model-serving?
Use the install commands on this page: add model-serving to Claude Code as a plugin, or clone its repository into your skills directory, then restart Claude so it picks up the skill.
What category does model-serving belong to?
model-serving is in the Meta category, tagged ai, api and design.
Is model-serving free to use?
Yes. model-serving is listed on AIMCP and free to install. It runs inside Claude, so no separate service account is required to use the skill itself.
Verwandte Skills
Diese Skill bietet eine produktionsgetestete Einrichtung für Content Collections – ein TypeScript-first-Tool, das Markdown/MDX-Dateien in typsichere Datensammlungen mit Zod-Validierung umwandelt. Verwenden Sie ihn beim Erstellen von Blogs, Dokumentationsseiten oder inhaltsstarken Vite + React-Anwendungen, um Typsicherheit und automatische Inhaltsvalidierung zu gewährleisten. Er behandelt alles von der Vite-Plugin-Konfiguration und MDX-Kompilierung bis hin zur Deployment-Optimierung und Schema-Validierung.
Diese Fähigkeit ermöglicht es Entwicklern, Anwendungen mit der Polymarket-Prognosemärkte-Plattform zu erstellen, einschließlich API-Integration für Handel und Marktdaten. Sie bietet außerdem Echtzeit-Datenstreaming über WebSocket, um Live-Trades und Marktaktivitäten zu überwachen. Nutzen Sie sie zur Implementierung von Handelsstrategien oder zur Erstellung von Tools, die Live-Marktaktualisierungen verarbeiten.
Diese Fähigkeit unterstützt Entwickler dabei, OpenCode-Plugins zu erstellen, die in über 25 Ereignistypen wie Befehle, Dateien und LSP-Operationen eingreifen. Sie bietet die Plugin-Struktur, Event-API-Spezifikationen und Implementierungsmuster für JavaScript/TypeScript-Module. Nutzen Sie sie, wenn Sie den Lebenszyklus des OpenCode KI-Assistenten mit benutzerdefinierter ereignisgesteuerter Logik abfangen, überwachen oder erweitern müssen.
SGLang ist ein hochperformantes LLM-Serving-Framework, das sich auf schnelle, strukturierte Generierung für JSON, Regex und agentenbasierte Workflows unter Verwendung seines RadixAttention-Prefix-Cachings spezialisiert. Es bietet deutlich schnellere Inferenz, insbesondere für Aufgaben mit wiederholten Präfixen, was es ideal für komplexe, strukturierte Ausgaben und Mehrfachdialoge macht. Wählen Sie SGLang gegenüber Alternativen wie vLLM, wenn Sie constrained decoding benötigen oder Anwendungen mit umfangreicher Präfix-Weitergabe entwickeln.