serving-llms-vllm
Acerca de
Esta Skill de Claude sirve modelos de lenguaje grandes con alto rendimiento utilizando PagedAttention de vLLM y procesamiento por lotes continuo. Es ideal para desplegar APIs de LLM en producción, optimizar el rendimiento de inferencia o servir modelos con memoria de GPU limitada. La skill admite endpoints compatibles con OpenAI, múltiples métodos de cuantización y paralelismo de tensores.
Instalación rápida
Claude Code
Recomendadonpx skills add zechenzhangAGI/AI-research-SKILLs -a claude-code/plugin add https://github.com/zechenzhangAGI/AI-research-SKILLsgit clone https://github.com/zechenzhangAGI/AI-research-SKILLs.git ~/.claude/skills/serving-llms-vllmCopia y pega este comando en Claude Code para instalar esta habilidad
Repositorio GitHub
Preguntas frecuentes
¿Qué es el Skill serving-llms-vllm?
serving-llms-vllm es un Skill de Claude creado por zechenzhangAGI. Los Skills agrupan instrucciones y recursos que Claude carga cuando los necesita para realizar tareas relacionadas con serving-llms-vllm sin indicaciones adicionales.
¿Cómo instalo serving-llms-vllm?
Usa los comandos de instalación de esta página: añade serving-llms-vllm a Claude Code como plugin o clona su repositorio en tu directorio de skills y reinicia Claude para cargarlo.
¿A qué categoría pertenece serving-llms-vllm?
serving-llms-vllm pertenece a la categoría Desarrollo.
¿Se puede usar serving-llms-vllm gratis?
Sí. serving-llms-vllm aparece en AIMCP y se puede instalar gratis.
Habilidades relacionadas
qmd es una herramienta CLI de búsqueda e indexación local que permite a los desarrolladores indexar y buscar en archivos locales mediante búsqueda híbrida que combina BM25, embeddings vectoriales y reranking. Es compatible tanto con uso desde la línea de comandos como con modo MCP (Model Context Protocol) para integración con Claude. La herramienta utiliza Ollama para los embeddings y almacena los índices localmente, lo que la hace ideal para buscar documentación o bases de código directamente desde la terminal.
Esta habilidad ejecuta planes de implementación asignando un nuevo subagente para cada tarea independiente, con revisión de código entre tareas. Permite una iteración rápida mientras mantiene controles de calidad a través de este proceso de revisión. Úsala cuando trabajes en tareas mayormente independientes dentro de la misma sesión para garantizar un progreso continuo con verificaciones de calidad integradas.
La habilidad mcporter permite a los desarrolladores gestionar y llamar servidores del Protocolo de Contexto de Modelo (MCP) directamente desde Claude. Proporciona comandos para listar servidores disponibles, llamar a sus herramientas con argumentos, y manejar la autenticación y el ciclo de vida del daemon. Utiliza esta habilidad para integrar y probar la funcionalidad de servidores MCP en tu flujo de trabajo de desarrollo.
Esta habilidad despliega y orquesta agentes Vertex AI ADK utilizando el protocolo A2A, gestionando el descubrimiento de AgentCard, el envío de tareas y soportando herramientas como el Sandbox de Ejecución de Código y el Banco de Memoria. Permite construir sistemas multiagente con patrones de orquestación secuencial, paralela o en bucle en Python, Java o Go. Úsela cuando se le solicite desplegar agentes ADK u orquestar flujos de trabajo de agentes en Google Cloud.