Conceito e mecanismo
Monitorização útil responde se o produto de dados necessário foi entregue a tempo e com qualidade. O estado agregado de um pipeline é apenas uma parte da evidência. Num padrão com atividade principal e apenas um ramo Upon Failure bem-sucedido, o pipeline pode terminar com sucesso apesar da falha tratada. Esse estado indica o resultado da orquestração configurada, não prova que a carga principal entregou dados. Uma execução que nunca começou também pode não produzir um evento Failed. Define alertas para ausência de execução esperada, idade dos dados, rejeições e reconciliação, além dos erros técnicos. Cada alerta deve ter dono, ação e condição de recuperação observável.
Aplicação guiada
Para investigar desempenho, decompõe a cópia em leitura, transferência, escrita e espera. Se dezoito de vinte minutos estão na origem com throttling, aumentar a capacidade do destino não é a primeira hipótese sustentada. Correlaciona o run ID com as atividades e os serviços externos, mantendo o contexto do intervalo de dados. Num dedicated SQL pool, estatísticas antigas após uma carga podem distorcer estimativas; atualiza as relevantes e compara plano e duração. Na aceitação funcional, liga o relatório à linhagem disponível e documenta a transformação de notebooks customizados que a integração não captura. Entrega a RUN um procedimento que distingue sucesso técnico, atraso, dado parcial e dado reconciliado, com comunicação adequada ao negócio.
O pipeline está verde e o último ficheiro é de ontem. Mantém a aceitação pendente, investiga a carga e confirma o período do conteúdo antes de publicar.
Armadilhas comuns
Estado verde como completude; ausência de erro como execução; duração total como diagnóstico suficiente.
Tópicos relacionados: Armazenamento, distribuição e exploração · Cargas incrementais e recuperação · Streams, tempo e efeitos externos
Aceita o produto pelos critérios acordados e conserva evidência do percurso completo.
Referência: Data Factory run monitoring · DP-203 objectives 2024-10-24; retired 2025-03-31