gptq
Acerca de
GPTQ es una técnica de cuantización posentrenamiento de 4 bits para LLMs que permite una reducción de memoria de 4 veces y una inferencia de 3 a 4 veces más rápida con una pérdida mínima de precisión. Es ideal para implementar modelos grandes en GPUs de consumo y se integra con transformers y PEFT para el ajuste fino QLoRA. Úsalo cuando necesites adaptar modelos de 70B+ parámetros en hardware limitado manteniendo el rendimiento.
Instalación rápida
Claude Code
Recomendadonpx skills add davila7/claude-code-templates -a claude-code/plugin add https://github.com/davila7/claude-code-templatesgit clone https://github.com/davila7/claude-code-templates.git ~/.claude/skills/gptqCopia y pega este comando en Claude Code para instalar esta habilidad
Repositorio GitHub
Preguntas frecuentes
¿Qué es el Skill gptq?
gptq es un Skill de Claude creado por davila7. Los Skills agrupan instrucciones y recursos que Claude carga cuando los necesita para realizar tareas relacionadas con gptq sin indicaciones adicionales.
¿Cómo instalo gptq?
Usa los comandos de instalación de esta página: añade gptq a Claude Code como plugin o clona su repositorio en tu directorio de skills y reinicia Claude para cargarlo.
¿A qué categoría pertenece gptq?
gptq pertenece a la categoría Otro.
¿Se puede usar gptq gratis?
Sí. gptq aparece en AIMCP y se puede instalar gratis.
Habilidades relacionadas
Esta habilidad de Claude analiza los mercados de apuestas deportivas, incluyendo spreads, over/unders y apuestas de propuestas, mediante el examen de tendencias históricas y estadísticas situacionales para identificar apuestas de valor. Proporciona una salida en markdown estructurado con recomendaciones accionables con fines educativos. Los desarrolladores deben utilizar esto para herramientas de análisis de apuestas deportivas, teniendo en cuenta que está diseñado únicamente para entretenimiento/educación.
LlamaGuard es el modelo de Meta de 7-8B parámetros para moderar las entradas y salidas de LLM en seis categorías de seguridad como violencia y discurso de odio. Ofrece una precisión del 94-95% y puede implementarse usando vLLM, Hugging Face o Amazon SageMaker. Utiliza esta skill para integrar fácilmente filtrado de contenido y barreras de seguridad en tus aplicaciones de IA.
Esta Skill de Claude ayuda a los desarrolladores a optimizar los costes en la nube mediante el ajuste de tamaño de recursos, estrategias de etiquetado y análisis de gastos. Proporciona un marco para reducir los gastos en la nube e implementar una gobernanza de costes en AWS, Azure y GCP. Úsala cuando necesites analizar los costes de infraestructura, ajustar el tamaño de los recursos o cumplir con restricciones presupuestarias.
Esta habilidad cuantiza LLMs a precisión de 8 o 4 bits utilizando bitsandbytes, logrando una reducción de memoria del 50-75% con pérdida mínima de precisión. Es ideal para ejecutar modelos más grandes en memoria GPU limitada o para acelerar la inferencia, admitiendo formatos como INT8, NF4 y FP4. La habilidad se integra con HuggingFace Transformers y permite entrenamiento QLoRA y optimizadores de 8 bits.
