Inteligência Itaú
Demo de cache semântico com Redis LangCache
Entrar
inteligência itaú
concierge com cache semântico
Concierge
Replay do tráfego
conectando…
·
powered by
LangCache
0
Cache hits
0
Chamadas LLM
0%
Hit rate
0
Bypass seguro
·
Speedup do cache
$0.00
Economia da sessão
G
Gabriel Cerioni
Personnalité · The One
A
Ana Souza
Uniclass
Carregar seeds
Limpar demo
➤
Replay do tráfego do concierge
amostra histórica do tráfego (15 a 22 de julho), ao vivo contra o LangCache
Perguntas
80 (rápido, ~1 min)
200 (~2,5 min)
400 (~5 min)
▶ Iniciar replay
Parar
Zerar cache do replay
Modelo de custo (por chamada LLM evitada)
Tokens de prompt (RAG incluso)
Tokens de resposta
Preço entrada USD/1M
Preço saída USD/1M
0
Perguntas
0%
Hit rate
0
Chamadas LLM evitadas
0
Tokens poupados
$0.00
Economia (USD)
·
Latência média cache
Hit rate ao longo do replay
a curva de aquecimento acontecendo ao vivo
Perguntas processadas
