constitutional-ai
Acerca de
La Inteligencia Artificial Constitucional es el método de Anthropic para entrenar modelos de IA inofensivos mediante la automejora, utilizando un enfoque de dos fases: aprendizaje supervisado con autocrítica seguido de aprendizaje por refuerzo a partir de retroalimentación de IA (RLAIF). Permite la alineación de seguridad reduciendo resultados dañinos sin necesidad de etiquetas humanas. Esta habilidad es ideal para desarrolladores que necesitan implementar sistemas de seguridad o garantizar que sus aplicaciones de IA produzcan respuestas inofensivas.
Instalación rápida
Claude Code
Recomendadonpx skills add zechenzhangAGI/AI-research-SKILLs -a claude-code/plugin add https://github.com/zechenzhangAGI/AI-research-SKILLsgit clone https://github.com/zechenzhangAGI/AI-research-SKILLs.git ~/.claude/skills/constitutional-aiCopia y pega este comando en Claude Code para instalar esta habilidad
Repositorio GitHub
Frequently asked questions
What is the constitutional-ai skill?
constitutional-ai is a Claude Skill by zechenzhangAGI. Skills package instructions and resources that Claude loads on demand, so Claude can perform constitutional-ai-related tasks without extra prompting.
How do I install constitutional-ai?
Use the install commands on this page: add constitutional-ai to Claude Code as a plugin, or clone its repository into your skills directory, then restart Claude so it picks up the skill.
What category does constitutional-ai belong to?
constitutional-ai is in the Other category, tagged ai.
Is constitutional-ai free to use?
Yes. constitutional-ai is listed on AIMCP and free to install. It runs inside Claude, so no separate service account is required to use the skill itself.
Habilidades relacionadas
LlamaGuard es el modelo de Meta de 7-8B parámetros para moderar las entradas y salidas de LLM en seis categorías de seguridad como violencia y discurso de odio. Ofrece una precisión del 94-95% y puede implementarse usando vLLM, Hugging Face o Amazon SageMaker. Utiliza esta skill para integrar fácilmente filtrado de contenido y barreras de seguridad en tus aplicaciones de IA.
Esta Skill de Claude ayuda a los desarrolladores a optimizar los costes en la nube mediante el ajuste de tamaño de recursos, estrategias de etiquetado y análisis de gastos. Proporciona un marco para reducir los gastos en la nube e implementar una gobernanza de costes en AWS, Azure y GCP. Úsala cuando necesites analizar los costes de infraestructura, ajustar el tamaño de los recursos o cumplir con restricciones presupuestarias.
Esta habilidad de Claude analiza los mercados de apuestas deportivas, incluyendo spreads, over/unders y apuestas de propuestas, mediante el examen de tendencias históricas y estadísticas situacionales para identificar apuestas de valor. Proporciona una salida en markdown estructurado con recomendaciones accionables con fines educativos. Los desarrolladores deben utilizar esto para herramientas de análisis de apuestas deportivas, teniendo en cuenta que está diseñado únicamente para entretenimiento/educación.
Esta habilidad cuantiza LLMs a precisión de 8 o 4 bits utilizando bitsandbytes, logrando una reducción de memoria del 50-75% con pérdida mínima de precisión. Es ideal para ejecutar modelos más grandes en memoria GPU limitada o para acelerar la inferencia, admitiendo formatos como INT8, NF4 y FP4. La habilidad se integra con HuggingFace Transformers y permite entrenamiento QLoRA y optimizadores de 8 bits.
