MCP HubMCP Hub
Retour aux compétences

sglang

zechenzhangAGI
Mis à jour 20 days ago
1811 vues
62
2
62
Voir sur GitHub
Métaaiautomation

À propos

SGLang est un framework de service LLM haute performance spécialisé dans la génération rapide et structurée pour les workflows JSON, regex et agentiques grâce à son cache de préfixe RadixAttention. Il offre une inférence nettement plus rapide, particulièrement pour les tâches avec des préfixes répétés, ce qui le rend idéal pour les sorties complexes et structurées ainsi que les conversations multi-tours. Choisissez SGLang plutôt que des alternatives comme vLLM lorsque vous avez besoin d'un décodage contraint ou que vous construisez des applications avec un partage étendu de préfixes.

Installation rapide

Claude Code

Recommandé
Principal
npx skills add zechenzhangAGI/AI-research-SKILLs -a claude-code
Commande PluginAlternatif
/plugin add https://github.com/zechenzhangAGI/AI-research-SKILLs
Git CloneAlternatif
git clone https://github.com/zechenzhangAGI/AI-research-SKILLs.git ~/.claude/skills/sglang

Copiez et collez cette commande dans Claude Code pour installer cette compétence

Dépôt GitHub

zechenzhangAGI/AI-research-SKILLs
Chemin: 12-inference-serving/sglang
0
aiai-researchclaudeclaude-codeclaude-skillscodex

Compétences associées

content-collections

Méta

This skill provides a production-tested setup for Content Collections, a TypeScript-first tool that transforms Markdown/MDX files into type-safe data collections with Zod validation. Use it when building blogs, documentation sites, or content-heavy Vite + React applications to ensure type safety and automatic content validation. It covers everything from Vite plugin configuration and MDX compilation to deployment optimization and schema validation.

Voir la compétence

himalaya-email-manager

Communication

This Claude Skill enables email management through the Himalaya CLI tool using IMAP. It allows developers to search, summarize, and delete emails from an IMAP account with natural language queries. Use it for automated email workflows like getting daily summaries or performing batch operations directly from Claude.

Voir la compétence

cloudflare-turnstile

Méta

This skill provides comprehensive guidance for implementing Cloudflare Turnstile as a CAPTCHA-alternative bot protection system. It covers integration for forms, login pages, API endpoints, and frameworks like React/Next.js/Hono, while handling invisible challenges that maintain user experience. Use it when migrating from reCAPTCHA, debugging error codes, or implementing token validation and E2E tests.

Voir la compétence

evaluating-llms-harness

Tests

This Claude Skill runs the lm-evaluation-harness to benchmark LLMs across 60+ standardized academic tasks like MMLU and GSM8K. It's designed for developers to compare model quality, track training progress, or report academic results. The tool supports various backends including HuggingFace and vLLM models.

Voir la compétence