MCP HubMCP Hub
SKILL·ED1C2B

quantizing-models-bitsandbytes

davila7
更新日 3 months ago
934 閲覧
18,478
1,685
18,478
GitHubで表示
その他OptimizationBitsandbytesQuantization8-Bit4-BitMemory OptimizationQLoRANF4INT8HuggingFaceEfficient Inference

について

このスキルは、bitsandbytesを使用してLLMを8ビットまたは4ビット精度に量子化し、精度の低下を最小限に抑えつつ50〜75%のメモリ削減を実現します。限られたGPUメモリでより大規模なモデルを実行したり、推論を高速化するのに理想的で、INT8、NF4、FP4などのフォーマットをサポートしています。HuggingFace Transformersと統合され、QLoRAトレーニングや8ビットオプティマイザーを可能にします。

クイックインストール

Claude Code

推奨
メイン
npx skills add davila7/claude-code-templates -a claude-code
プラグインコマンド代替
/plugin add https://github.com/davila7/claude-code-templates
Git クローン代替
git clone https://github.com/davila7/claude-code-templates.git ~/.claude/skills/quantizing-models-bitsandbytes

このコマンドをClaude Codeにコピー&ペーストしてスキルをインストールします

GitHub リポジトリ

davila7/claude-code-templates
パス: cli-tool/components/skills/ai-research/optimization-bitsandbytes
0
anthropicanthropic-claudeclaudeclaude-code
FAQ

よくある質問

quantizing-models-bitsandbytes Skillとは何ですか?

quantizing-models-bitsandbytes はdavila7 が作成した Claude Skillです。Skillは、Claudeが必要に応じて読み込む指示とリソースをまとめ、追加の指示なしで quantizing-models-bitsandbytes に関連するタスクを実行できるようにします。

quantizing-models-bitsandbytes をインストールするには?

このページのインストールコマンドを使用してください。quantizing-models-bitsandbytes をプラグインとして Claude Code に追加するか、リポジトリを skills ディレクトリにクローンし、Claudeを再起動してSkillを読み込みます。

quantizing-models-bitsandbytes はどのカテゴリに属しますか?

quantizing-models-bitsandbytes は その他 カテゴリに属します。

quantizing-models-bitsandbytes は無料で利用できますか?

はい。quantizing-models-bitsandbytes は AIMCP に掲載されており、無料でインストールできます。

関連スキル

llamaguard
その他

LlamaGuardは、暴力やヘイトスピーチなど6つの安全性カテゴリーにおいて、LLMの入力と出力をモデレートするMetaの70-80億パラメータモデルです。94〜95%の精度を提供し、vLLM、Hugging Face、Amazon SageMakerを使用してデプロイ可能です。このスキルを使用して、AIアプリケーションにコンテンツフィルタリングと安全策を簡単に統合できます。

スキルを見る
cost-optimization
その他

このClaudeスキルは、リソースの適正サイジング、タグ付け戦略、支出分析を通じて、開発者がクラウドコストを最適化することを支援します。AWS、Azure、GCPにわたるクラウド支出の削減とコストガバナンスの実施のためのフレームワークを提供します。インフラコストの分析、リソースの適正サイジング、または予算制約への対応が必要な際にご利用ください。

スキルを見る
sports-betting-analyzer
その他

このClaudeスキルは、スポーツベッティング市場(スプレッド、オーバー/アンダー、プロップベットなど)を分析し、過去の傾向や状況統計を検証することでバリューベットを特定します。教育目的のための実践的な提案を構造化されたマークダウン形式で出力します。開発者はスポーツベッティング分析ツールとして本機能を活用できますが、娯楽および教育目的に限定されている点に留意してください。

スキルを見る
dispatching-parallel-agents
その他

このClaudeスキルは、複数のエージェントを配備し、3つ以上の独立した問題を並行して調査・修正します。共有状態や依存関係がなく解決可能な、無関係な障害が発生するシナリオ向けに設計されています。中核となる機能は並列問題解決であり、効率を最大化するために独立した問題領域ごとに1つのエージェントを割り当てます。

スキルを見る