MCP HubMCP Hub
스킬 목록으로 돌아가기

build-feature-store

pjt222
업데이트됨 Yesterday
3 조회
17
2
17
GitHub에서 보기
메타aidesign

정보

이 스킬은 Feast를 사용하여 여러 모델 간의 ML 피처를 관리하는 중앙 집중식 피처 스토어를 구축합니다. 배치 학습과 저지연 실시간 추론을 위해 오프라인 및 온라인 스토어를 별도로 구성하여 학습-서빙 일관성을 보장합니다. 재사용 가능한 피처 정의, 시점 정확 조인(point-in-time correct join) 또는 통제된 피처 카탈로그가 필요할 때 사용하세요.

빠른 설치

Claude Code

추천
기본
npx skills add pjt222/agent-almanac -a claude-code
플러그인 명령대체
/plugin add https://github.com/pjt222/agent-almanac
Git 클론대체
git clone https://github.com/pjt222/agent-almanac.git ~/.claude/skills/build-feature-store

Claude Code에서 이 명령을 복사하여 붙여넣어 스킬을 설치하세요

문서

Build Feature Store

See Extended Examples for complete configuration files and templates.

以 Feast 實作集中式特徵管理,確訓練與推理間特徵服務之一致。

適用時機

  • 為多團之多 ML 模型管特徵
  • 確特徵訓服一致
  • 實作時點正確之歷史特徵
  • 為實時推理提低延之特徵
  • 跨項目復用特徵定義
  • 版特徵轉換
  • 建可發現與治理之特徵目錄
  • 止訓練管線中之特徵洩

輸入

  • 必要:原數源(數據庫、數據湖、數據倉)
  • 必要:裝 Feast 之 Python 環境
  • 必要:離線倉後端(BigQuery、Snowflake、Redshift、或 Parquet 文件)
  • 必要:在線倉後端(Redis、DynamoDB、Cassandra、或開發用 SQLite)
  • 選擇性:特徵轉換邏輯(Python、SQL、Spark)
  • 選擇性:實體鍵定義(user_id、product_id 等)
  • 選擇性:Feast 伺服器部署之 Kubernetes 集群

步驟

步驟一:初始化 Feast 特徵庫

立 Feast 項目結構並配存儲後端。

# Install Feast with required extras
pip install 'feast[redis,postgres]'  # Add backends as needed

# Initialize new feature repository
feast init my_feature_repo
cd my_feature_repo

# Directory structure created:
# my_feature_repo/
# ├── feature_store.yaml       # Configuration
# ├── features.py              # Feature definitions
# └── data/                    # Sample data (dev only)

feature_store.yaml

# feature_store.yaml
project: customer_analytics
registry: data/registry.db  # SQLite for dev, use S3/GCS for prod
provider: local

# Offline store for training data
offline_store:
  type: postgres
# ... (see EXAMPLES.md for complete implementation)

生產配,以雲後端:

# feature_store.prod.yaml
project: customer_analytics
registry: s3://feast-registry/prod/registry.db
provider: aws

offline_store:
  type: bigquery
  project_id: my-gcp-project
# ... (see EXAMPLES.md for complete implementation)

預期: Feast 庫已初始化附配文件,樣本特徵定義已創,離/在線倉已配,註冊路可達。

失敗時: 驗數據庫/Redis 憑(psql -U feast_user -h localhost),查連接字串格式,確數據庫存(CREATE DATABASE feature_store),驗 S3/BigQuery/DynamoDB 之雲權,測存儲後端連通,查 Feast 版與後端之相容(feast version)。

步驟二:定實體與數源

創實體定義並連原數源。

# entities.py
from feast import Entity, ValueType

# Define entities (primary keys for features)
customer = Entity(
    name="customer",
    description="Customer entity",
    value_type=ValueType.INT64,
# ... (see EXAMPLES.md for complete implementation)

定數源:

# data_sources.py
from feast import FileSource, BigQuerySource, RedshiftSource
from feast.data_format import ParquetFormat
from datetime import timedelta

# Development: File-based source
customer_transactions_source = FileSource(
    path="data/customer_transactions.parquet",
# ... (see EXAMPLES.md for complete implementation)

預期: 實體定義引正 ID 列,數源成連原數,event_timestamp_column 於源中存,created_timestamp_column 允時點查詢。

失敗時: 驗源數據文件存且可讀,查 BigQuery/Redshift 憑與表存取,確時戳列格式正確(Unix 時戳或 ISO8601),驗 Kafka 連通與題存,查源與實體間之綱相容。

步驟三:定附轉換之特徵視圖

創定原數如何化為 ML 就緒特徵之特徵視圖。

# feature_views.py
from feast import FeatureView, Field
from feast.types import Float32, Int64, String, Bool
from datetime import timedelta
from entities import customer, product
from data_sources import customer_features_source

# Simple feature view without transformations
# ... (see EXAMPLES.md for complete implementation)

預期: 特徵視圖成註,綱合源數,轉換無錯執,TTL 值合用例,on-demand 視圖合批與請特徵。

失敗時: 驗欄名與源列完合,查 dtype 相容(Int64 對 Int32),確實體引存,以樣本數驗轉換邏輯,查算中除零,驗請源綱合推理載荷。

步驟四:應特徵定義並物化特徵

部特徵定義至註冊並物化至在線倉。

# Apply feature definitions to registry
feast apply

# Expected output:
# Created entity customer
# Created feature view customer_stats
# Created on demand feature view customer_segments

# ... (see EXAMPLES.md for complete implementation)

程序化物化:

# materialize_features.py
from feast import FeatureStore
from datetime import datetime, timedelta

# Initialize feature store
fs = FeatureStore(repo_path=".")

# Materialize all feature views
# ... (see EXAMPLES.md for complete implementation)

預期: 特徵定義應至註冊而無衝,物化作業成完,在線倉以特徵填,特徵新鮮於所配 TTL 內。

失敗時: 查離線倉查詢成(feast feature-views describe customer_stats),驗時段有數,確在線倉可寫(Redis/DynamoDB 權),查特徵名於視圖間無重,驗實體鍵於源數存,監物化作業日誌求錯,查本地倉之盤空。

步驟五:為訓練取特徵

取時點正確之歷史特徵以供模型訓練。

# get_training_data.py
from feast import FeatureStore
import pandas as pd
from datetime import datetime

# Initialize feature store
fs = FeatureStore(repo_path=".")

# ... (see EXAMPLES.md for complete implementation)

時點正確性驗:

# validate_pit_correctness.py
import pandas as pd
from datetime import datetime, timedelta

def validate_point_in_time_correctness(training_df, entity_df):
    """
    Ensure features don't leak future information.
    """
# ... (see EXAMPLES.md for complete implementation)

預期: 歷史特徵成取,entity_df 時戳保全,已物化特徵無 NaN,時點正確性保(無未來數洩),特徵服務合邏輯組特徵。

失敗時: 查 entity_df 具必列(實體名加 event_timestamp),驗特徵視圖名合註冊,確離線倉於所請時段有數,查時區失配(用 UTC),驗實體 ID 於源數存,察日誌求 SQL 查詢錯,驗特徵視圖 TTL 覆所請時段。

步驟六:為實時推理服特徵

自在線倉取低延特徵以供模型服務。

# serve_features.py
from feast import FeatureStore
import time

# Initialize feature store
fs = FeatureStore(repo_path=".")

def get_inference_features(customer_ids: list, request_data: dict = None):
# ... (see EXAMPLES.md for complete implementation)

FastAPI 整合:

# api.py
from fastapi import FastAPI
from pydantic import BaseModel
from feast import FeatureStore
import mlflow

app = FastAPI()
fs = FeatureStore(repo_path=".")
# ... (see EXAMPLES.md for complete implementation)

預期: 在線特徵於單實體十毫秒內取,批取有效擴展,on-demand 轉換正執,請時特徵與批特徵合,API 快應(端到端小於五十毫秒)。

失敗時: 查在線倉已填(若空則物化),驗 Redis/DynamoDB 連通與延,確實體鍵於在線倉存,查冷啟問題(暖快取),驗 on-demand 轉換邏輯,監在線倉之記憶/CPU,查服務與在線倉間之網延。

驗證

  • Feast 庫已初始化並配
  • 離/在線倉成連
  • 實體定義合源數
  • 特徵視圖於註冊已註
  • On-demand 轉換正執
  • 物化無錯完
  • 歷史特徵取附時點正確性
  • 在線特徵以低延服(小於十毫秒)
  • 特徵新鮮於所配 TTL 內
  • 訓服一致已驗
  • 特徵目錄可為發現存取

常見陷阱

  • 特徵洩:歷史特徵中用未來數——恆驗時點正確,用 created_timestamp 列
  • 轉換不一致:訓練對服務之異邏輯——用 Feast on-demand 視圖以求一致
  • 陳特徵:在線倉未定期物化——立排程物化作業(cron/Airflow)
  • 實體鍵缺:訓集中實體不在在線倉——確全面物化,優雅處缺鍵
  • 類型失配:綱類與源數不合——apply 前驗 dtype,用明 Field 定義
  • 在線取慢:網延或在線倉超載——服特徵倉與推理服同地,用連池
  • 大特徵視圖:物化數百萬實體慢——按日分區,用增量物化,優離線查詢
  • 無特徵版:破壞變影生產模型——版特徵視圖,維反向相容
  • 時區混:混時區致誤合——時戳恆用 UTC
  • 忽 TTL:服過期特徵——設合之 TTL,監特徵新鮮

相關技能

  • track-ml-experiments - 於 MLflow 實驗中記特徵元數據
  • orchestrate-ml-pipeline - 排程特徵物化作業
  • version-ml-data - 版特徵工程之原數源
  • deploy-ml-model-serving - 特徵倉與模型服務之整合
  • serialize-data-formats - 擇特徵之高效存儲格式
  • design-serialization-schema - 為特徵源設計綱

GitHub 저장소

pjt222/agent-almanac
경로: i18n/wenyan-lite/skills/build-feature-store
0
agentsagentskillsai-assisted-developmentclaude-codeskillsteams

연관 스킬

content-collections

메타

이 스킬은 콘텐츠 콜렉션(Content Collections)을 위한 프로덕션 검증된 설정을 제공합니다. 콘텐츠 콜렉션은 Markdown/MDX 파일을 Zod 검증이 포함된 타입 안전한 데이터 콜렉션으로 변환해주는 TypeScript 최우선 도구입니다. 블로그, 문서 사이트 또는 콘텐츠 중심의 Vite + React 애플리케이션을 구축할 때 타입 안전성과 자동 콘텐츠 검증을 보장하기 위해 사용하세요. Vite 플러그인 구성과 MDX 컴파일부터 배포 최적화 및 스키마 검증에 이르기까지 모든 것을 다룹니다.

스킬 보기

polymarket

메타

이 스킬은 개발자들이 Polymarket 예측 시장 플랫폼을 활용한 애플리케이션을 구축할 수 있도록 지원하며, 거래 및 시장 데이터를 위한 API 통합 기능을 포함합니다. 또한 WebSocket을 통한 실시간 데이터 스트리밍을 제공하여 실시간 거래와 시장 활동을 모니터링할 수 있습니다. 이를 통해 거래 전략을 구현하거나 실시간 시장 업데이트를 처리하는 도구를 생성하는 데 활용할 수 있습니다.

스킬 보기

creating-opencode-plugins

메타

이 스킬은 개발자들이 명령어, 파일, LSP 작업 등 25개 이상의 이벤트 유형에 연결되는 OpenCode 플러그인을 만들 수 있도록 돕습니다. JavaScript/TypeScript 모듈을 위한 플러그인 구조, 이벤트 API 명세, 구현 패턴을 제공합니다. OpenCode AI 어시스턴트의 라이프사이클을 사용자 정의 이벤트 기반 로직으로 가로채거나, 모니터링하거나, 확장해야 할 때 사용하세요.

스킬 보기

sglang

메타

SGLang은 RadixAttention 프리픽스 캐싱을 활용하여 JSON, 정규식, 에이전트 워크플로우를 위한 고속 구조화 생성에 특화된 고성능 LLM 서빙 프레임워크입니다. 특히 반복되는 프리픽스가 있는 작업에서 상당히 빠른 추론 속도를 제공하여 복잡한 구조화 출력 및 다중 턴 대화에 이상적입니다. 제약 디코딩이 필요하거나 광범위한 프리픽스 공유가 있는 애플리케이션을 구축할 때는 vLLM과 같은 대안보다 SGLang을 선택하십시오.

스킬 보기