llama-cpp
について
llama-cppスキルは、CPU、Apple Silicon、およびNVIDIA以外のGPU上で効率的なLLM推論を可能にし、エッジデプロイメントやCUDAが利用できない状況に最適です。GGUF量子化をサポートしてメモリ使用量を削減し、CPU上ではPyTorchよりも大幅な高速化を提供します。Mac、AMD/Intelシステム、または組み込みデバイスでの利用に適していますが、最大スループットを必要とするNVIDIAハードウェアの場合はTensorRT-LLMを選択してください。
クイックインストール
Claude Code
推奨npx skills add davila7/claude-code-templates -a claude-code/plugin add https://github.com/davila7/claude-code-templatesgit clone https://github.com/davila7/claude-code-templates.git ~/.claude/skills/llama-cppこのコマンドをClaude Codeにコピー＆ペーストしてスキルをインストールします
GitHub リポジトリ
よくある質問
llama-cpp Skillとは何ですか？
llama-cpp はdavila7 が作成した Claude Skillです。Skillは、Claudeが必要に応じて読み込む指示とリソースをまとめ、追加の指示なしで llama-cpp に関連するタスクを実行できるようにします。
llama-cpp をインストールするには？
このページのインストールコマンドを使用してください。llama-cpp をプラグインとして Claude Code に追加するか、リポジトリを skills ディレクトリにクローンし、Claudeを再起動してSkillを読み込みます。
llama-cpp はどのカテゴリに属しますか？
llama-cpp は その他 カテゴリに属します。
llama-cpp は無料で利用できますか？
はい。llama-cpp は AIMCP に掲載されており、無料でインストールできます。
関連スキル
LlamaGuardは、暴力やヘイトスピーチなど6つの安全性カテゴリーにおいて、LLMの入力と出力をモデレートするMetaの70-80億パラメータモデルです。94〜95%の精度を提供し、vLLM、Hugging Face、Amazon SageMakerを使用してデプロイ可能です。このスキルを使用して、AIアプリケーションにコンテンツフィルタリングと安全策を簡単に統合できます。
このClaudeスキルは、リソースの適正サイジング、タグ付け戦略、支出分析を通じて、開発者がクラウドコストを最適化することを支援します。AWS、Azure、GCPにわたるクラウド支出の削減とコストガバナンスの実施のためのフレームワークを提供します。インフラコストの分析、リソースの適正サイジング、または予算制約への対応が必要な際にご利用ください。
このClaudeスキルは、スポーツベッティング市場（スプレッド、オーバー/アンダー、プロップベットなど）を分析し、過去の傾向や状況統計を検証することでバリューベットを特定します。教育目的のための実践的な提案を構造化されたマークダウン形式で出力します。開発者はスポーツベッティング分析ツールとして本機能を活用できますが、娯楽および教育目的に限定されている点に留意してください。
このスキルは、bitsandbytesを使用してLLMを8ビットまたは4ビット精度に量子化し、精度の低下を最小限に抑えつつ50〜75％のメモリ削減を実現します。限られたGPUメモリでより大規模なモデルを実行したり、推論を高速化するのに理想的で、INT8、NF4、FP4などのフォーマットをサポートしています。HuggingFace Transformersと統合され、QLoRAトレーニングや8ビットオプティマイザーを可能にします。