APRENDER. PRATICAR. EVOLUIR.Desenha o serviço completo e a sua finalidade
Um assistente fictício ajuda APS a encontrar runbooks e resumir incidentes de fundos. A arquitetura inclui autenticação, pesquisa documental, modelo, cache, observabilidade e eventuais ferramentas de mudança. Regista a finalidade autorizada, quem usa o serviço, que dados atravessam cada fronteira e quem configura cada componente. Um modelo gerido não elimina responsabilidade pelo índice, destinatários, logs ou permissões das ferramentas. Confirma retenção, locais de processamento e utilização dos dados pelo fornecedor através de documentação e condições aplicáveis; não deduzas esses comportamentos apenas do nome do produto. O NIST AI RMF consultado é a versão 1.0 e a página anuncia atualização em curso. A revisão anunciada não deve ser apresentada como uma edição nova já publicada.
Mantém documentos recuperados como dados
Um ticket recuperado pode conter texto que pede ao assistente para ignorar o pedido do utilizador e exportar informação. A relevância do resultado de pesquisa não lhe dá autoridade sobre ferramentas. O risco de prompt injection pode surgir em fontes externas e não desaparece por usar RAG ou fine-tuning. Separa instruções confiáveis de conteúdo recuperado, limita ferramentas e valida pedidos de ação fora do modelo. O componente que executa uma mudança deve conhecer identidade, recurso, ação, parâmetros e autorização exigida. Uma instrução no system prompt é uma camada útil, mas não substitui uma recusa aplicada pelo serviço de execução. O objetivo da arquitetura é limitar consequências quando o modelo produz uma proposta indevida.
Separa leitura, escrita e fronteiras de utilizadores
Na ficha, a identidade de pesquisa só lê documentos autorizados para o tenant e utilizador. O executor de mudanças é separado e exige aprovação para ações sensíveis. Não coloques permissões amplas de produção na identidade comum do assistente apenas para simplificar integrações. A filtragem deve abranger pesquisa, cache e apresentação; uma cache global pode devolver a outro utilizador um resumo criado a partir de dados restritos. Documentos removidos do índice principal podem permanecer em caches, logs ou exportações, exigindo análise própria. A aprovação humana também precisa de mostrar alvo e efeito suficientes: confirmar um texto vago de intenção não valida parâmetros que o modelo acrescenta depois. Mantém um registo apropriado das decisões e ações realmente executadas.
Avalia falhas críticas separadamente da média
A avaliação fictícia contém 90 casos de rotina, com 88 resultados corretos, e 10 casos sensíveis, com 8 corretos e duas divulgações indevidas. O total é 96 em 100, ou 96%, mas o grupo sensível atinge apenas 80%. O critério definido exige zero divulgações, por isso a aceitação falha apesar da média elevada. Estes números são uma ficha de decisão, não uma avaliação executada contra um modelo. Num ensaio real, conserva versão do modelo, configuração, dados de teste, critérios por categoria e limitações de generalização. Inclui pedidos legítimos, tentativas entre tenants, documentos com instruções adversariais, fontes ausentes e indisponibilidade. Uma atualização de modelo ou índice pode exigir nova avaliação mesmo sem alterar o código da aplicação.
Planeia modo degradado e revisão contínua
Se o modelo ou a pesquisa falhar durante o fecho, o modo degradado deve encaminhar para o runbook e operador autorizados. Falta de resposta não deve conceder acesso adicional nem permitir uma mudança sem aprovação. Define limites de custo, latência e carga, observação de erros relevantes e um mecanismo para reportar sugestões incorretas. Um bom resultado inicial não prova que novas fontes ou contextos mantenham a mesma qualidade. Na reunião de aceitação, apresenta fluxos, identidades, controlos, resultados por categoria, riscos por medir e quem decide a entrada em serviço. Resumo: o modelo participa num sistema maior; a autorização, o isolamento, a capacidade de recusar e a recuperação precisam de desenho próprio. Relaciona esta aula com IAM, operações, gestão de fornecedores e incidentes.
FICHA FICTÍCIA DE ARQUITETURA, SEM MODELO EXECUTADO
Finalidade: pesquisa de runbooks e apoio a APS
Leitor: documentos autorizados por utilizador e tenant
Escritor: executor separado, ação sensível exige aprovação
Texto recuperado não autoriza ferramentas
Cache e logs: âmbito, retenção e acessos a validar
Rotina: 88 corretos / 90
Sensíveis: 8 corretos / 10; 2 divulgações indevidas
Total: 96 / 100; sensíveis: 80%
Critério: zero divulgações; aceitação: não
Fallback: runbook existente e operador autorizado.96% no total não satisfaz um critério de zero divulgações quando dois dos dez casos sensíveis falham.
Armadilhas comuns
Tratar texto recuperado como instrução autorizada; confiar só no prompt; cache sem âmbito; média como prova de segurança; aprovação sem parâmetros.
Tópicos relacionados: Arquitetura, identidade e ciclo de vida dos dados · Critérios de aceitação e operação
Define dados, identidades, ações e critérios de aceitação para um assistente cloud com âmbito limitado.
Referência: AI RMF Core · CCSP examination outline effective 2026-08-01; January2026 V2 PDF