Conceito e mecanismo
Um relatório de automação deve permitir responder o que correu, sobre que versão, em que condições e com que resultado. Contagens de sucesso, falha, bloqueio e exclusão precisam de definições estáveis. Identifica tentativas repetidas separadamente para que um retry não apague o primeiro resultado. Quando uma falha ocorre, liga o identificador do teste à ação, aos dados artificiais e à evidência do SUT. Um trace pode ajudar a inspecionar sequência, estados da página e pedidos de rede. A informação recolhida também tem custo e pode conter dados sensíveis; escolhe o necessário, usa dados de teste e aplica retenção e acesso definidos para o contexto.
Aplicação guiada
Considera uma execução com 200 testes previstos, dos quais 180 passam, cinco falham e quinze não chegam a executar. O relatório deve conservar os 200 como população prevista, mesmo que a ferramenta apresente uma taxa sobre os 185 executados. Antes de comparar com ontem, confirma se seleção, ambiente e definição da métrica são equivalentes. Se cem falhas partilham o mesmo erro de autenticação antes da ação principal, investiga a dependência comum em vez de abrir cem defeitos de produto independentes. Não concluas, contudo, que não existem defeitos no produto: a falha de preparação pode ter impedido a sua observação. Um resumo para gestão deve indicar impacto, incerteza e próxima ação, com ligação ao detalhe técnico.
Falhas correlacionadas podem ter uma dependência comum sem provar a causa.
Armadilhas comuns
Tentativas como testes distintos; população alterada; cem sintomas como cem causas.
Tópicos relacionados: Objetivo e âmbito da automação · Testabilidade e avaliação de ferramentas · Arquitetura, camadas e dados
Mantém métricas comparáveis e evidência navegável.
Referência: Playwright Test reporters · CTAL-TAE v2.0 (2024)