05 Dataset
Guia do participante: 05 Dataset
O material do workshop é mantido no repositório público langfuse/langfuse-workshop. Use o repositório para executar a aplicação, acessar os branches de checkpoint e fazer a configuração local.
Guia do participante: 05 Dataset
Notas para o instrutor
- Apresente o dataset como o escopo do produto por escrito: entradas esperadas dos usuários, comportamento esperado e metadados para segmentação.
- O caminho no código é intencionalmente simples: carregar JSON selecionado no Langfuse e examinar o dataset hospedado.
- Explique por que
expectedOutputtem dois campos:idealAnsweralimenta o juiz Correctness, enquantoexpectedKeywordsalimenta a verificação determinísticakeyword_overlapdo próximo capítulo. - Relacione este capítulo ao monitoramento: bons itens de dataset muitas vezes vêm de traces inesperados de produção.
Ritmo da demonstração
- Abra
data/seed-dataset.jsone mostreinput,expectedOutputemetadata. - Execute
npm run dataset:seed. - Abra no Langfuse a lista de datasets e a tabela de itens.
Fique atento
- Participantes esperando uma comparação exata de respostas. A resposta ideal é material de referência para os avaliadores, não um alvo de igualdade de strings.
- Itens duplicados quando o script de carga é executado repetidamente no mesmo projeto.