FONSIDEV
Volver al portfolio
📡
Lab2026

ModelTrace

LLM Observability Lab

Gemini APISession tracesHonest demo

ModelTrace simula un dashboard de observabilidad para LLMs en producción. Ejecuta prompts reales con Gemini 3.6 Flash, registra latencia, tokens de entrada/salida y permite filtrar traces por estado. Métricas de sesión (p95, error rate) se calculan sobre runs locales — ideal para demostrar MLOps/LLMOps sin infra pesada.

Arquitectura · ModelTrace

Layer 1

Runs via /api/run con captura latency/tokens

Layer 2

Cost estimator FinOps + export OTel JSON

Layer 3

Compare traces con explicación Gemini

Layer 4

Ingest cross-app: FlowForge, Partykit trace-new

Demo loop · 10sModelTrace

Ejecuta un prompt · compara 2 traces · exporta OTel JSON

Preview animado — abre el demo live para la experiencia completa

Try in 30s

Runs reales con Gemini 3.6 Flash
Traces expandibles con I/O
Métricas p95 y tokens/min
Filtros ok / fallback / error

Stack técnico

  • → Runs via /api/run con captura latency/tokens
  • → Cost estimator FinOps + export OTel JSON
  • → Compare traces con explicación Gemini
  • → Ingest cross-app: FlowForge, Partykit trace-new
Next.jsVercel AI SDKGemini 3.6 FlashTypeScriptTailwind v4
Abrir demo liveVer código en GitHub