AI Summary
Toda ferramenta de observabilidade de LLM mostra que os custos dispararam. Nenhuma delas diz qual deploy causou isso. O LLMTrace é um proxy em Go auto-hospedado que fica à frente das suas chamadas da Anthropic/OpenAI e registra cada requisição com custo, usuário e SHA do deploy no seu próprio Postgres. Quando sua fatura aumenta, você pode apontar o commit exato. Sem SaaS, sem dados saindo da sua infraestrutura. Adicione o docker-compose e você estará registrando em menos de 5 minutos.
No comments yet
Be the first to share your thoughts and start the conversation!