inference-latency-profiler
О программе
Этот навык автоматически активируется, чтобы помочь разработчикам профилировать и оптимизировать задержки инференса при развертывании ML. Он предоставляет поддержку по обслуживанию моделей, конвейерам MLOps и мониторингу при активации соответствующими фразами. Навык поддерживает файловые операции, bash-команды и grep для выполнения практических задач профилирования.
Быстрая установка
Claude Code
Рекомендуетсяnpx skills add jeremylongshore/claude-code-plugins-plus-skills -a claude-code/plugin add https://github.com/jeremylongshore/claude-code-plugins-plus-skillsgit clone https://github.com/jeremylongshore/claude-code-plugins-plus-skills.git ~/.claude/skills/inference-latency-profilerСкопируйте и вставьте эту команду в Claude Code для установки этого навыка
GitHub репозиторий
Часто задаваемые вопросы
Что такое Skill inference-latency-profiler?
inference-latency-profiler — это Claude Skill от jeremylongshore. Skills объединяют инструкции и ресурсы, которые Claude загружает по мере необходимости, чтобы выполнять задачи, связанные с inference-latency-profiler, без дополнительных запросов.
Как установить inference-latency-profiler?
Используйте команды установки на этой странице: добавьте inference-latency-profiler в Claude Code как плагин или клонируйте репозиторий в каталог skills, затем перезапустите Claude, чтобы загрузить Skill.
К какой категории относится inference-latency-profiler?
inference-latency-profiler относится к категории Мета.
Можно ли использовать inference-latency-profiler бесплатно?
Да. inference-latency-profiler размещён на AIMCP и доступен для бесплатной установки.
Похожие навыки
Этот навык предоставляет проверенную в продакшене настройку для Content Collections — TypeScript-ориентированного инструмента, который преобразует файлы Markdown/MDX в типобезопасные коллекции данных с валидацией Zod. Используйте его при создании блогов, сайтов документации или контентных приложений на Vite + React для обеспечения типобезопасности и автоматической проверки содержимого. Он охватывает всё: от настройки плагина Vite и компиляции MDX до оптимизации развертывания и валидации схем.
Этот навык позволяет разработчикам создавать приложения на платформе прогнозных рынков Polymarket, включая интеграцию с API для торговли и получения рыночных данных. Он также обеспечивает потоковую передачу данных в реальном времени через WebSocket для отслеживания текущих сделок и рыночной активности. Используйте его для реализации торговых стратегий или создания инструментов, обрабатывающих обновления рынка в реальном времени.
Этот навык помогает разработчикам создавать плагины OpenCode, которые подключаются к более чем 25 типам событий, таким как команды, файлы и операции LSP. Он предоставляет структуру плагина, спецификации API событий и шаблоны реализации для модулей на JavaScript/TypeScript. Используйте его, когда вам нужно перехватывать, отслеживать или расширять жизненный цикл ассистента OpenCode AI с помощью пользовательской событийно-ориентированной логики.
SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых моделей (LLM), специализирующийся на быстрой структурированной генерации JSON, regex и рабочих процессов агентов с использованием кэширования префиксов RadixAttention. Он обеспечивает значительно более высокую скорость вывода, особенно для задач с повторяющимися префиксами, что делает его идеальным для сложных структурированных результатов и многократных диалогов. Выбирайте SGLang вместо альтернатив, таких как vLLM, когда вам требуется ограниченное декодирование или вы создаете приложения с интенсивным совместным использованием префиксов.
