E0
Sem efeito externoInformar
Recuperar, comparar, classificar ou resumir para apoiar leitura humana.
Tecnologia / THEION IntelligenceDOSSIÊ PÚBLICO · ARQUITETURA, NÃO CERTIFICAÇÃO
IA / AGENTES / AUTORIDADE / RECUPERAÇÃO
Autonomia só cresce depois que o sistema aprende a provar seus limites.
Governar IA não é adicionar uma aprovação no fim. É conectar finalidade, contexto, identidade, avaliação, observabilidade e recuperação antes que um agente possa produzir efeito.
TESE OPERACIONAL
Um agente não é confiável porque responde bem. É confiável quando opera dentro de um sistema que sabe recusar, registrar e recuperar.
A resposta final é apenas a superfície. O risco também vive na fonte recuperada, na memória, na ferramenta, na identidade usada, no estado intermediário, no destino e na forma como o efeito é confirmado.
Por isso, a unidade de avaliação é a trajetória completa: o que entrou, como foi interpretado, quem possuía autoridade, qual ação ocorreu e que evidência demonstra o resultado ou a falha.
SEIS CAMADAS CUMULATIVAS
A arquitetura começa antes do prompt e termina depois do efeito.
Nenhuma camada substitui outra. Modelo, interface ou avaliação isolada não concedem autoridade operacional.
- A01Qual decisão precisa melhorar?
Finalidade e consequência
O caso de uso, o público afetado, o efeito possível e aquilo que jamais pode acontecer são definidos antes de escolher modelo ou agente.
Problema delimitado, proprietário, decisão, impacto e condição de parada. - A02De onde vem cada afirmação?
Contexto e dados
Fontes, versões, permissões, retenção e fronteiras entre instrução e conteúdo acompanham a informação usada pelo sistema.
Origem, finalidade, qualidade, escopo de acesso e política de tratamento. - A03Quem pede, recomenda, aprova e executa?
Identidade e autoridade
Usuário, agente, ferramenta e responsável humano possuem identidades e alçadas distintas; capacidade não concede permissão.
Papéis, menor privilégio, segregação, aprovação e expiração de autoridade. - A04O que precisa falhar no teste?
Avaliação proporcional
Evals cobrem trajetória, fontes, recusas, ataques, limites e recuperação — não apenas a qualidade média da resposta final.
Casos positivos, negativos, adversariais, críticos e critérios de promoção. - A05O que realmente aconteceu?
Observabilidade causal
Solicitação, contexto, decisão, ferramenta, efeito, readback e exceção permanecem reconciliáveis sem transformar tentativa em sucesso.
Logs mínimos, recibos, métricas de falha, alertas e vínculo com o efeito material. - A06Como parar, desfazer e aprender?
Recuperação e evolução
Timeout, revogação, idempotência, compensação, rollback e revisão humana são desenhados antes de ampliar autonomia.
Parada segura, plano de recuperação, dono do incidente e nova homologação após mudança.
AUTORIDADE PROPORCIONAL AO EFEITO
A mesma inteligência recebe alçadas diferentes conforme o que pode alterar.
O nível cresce pela consequência, não pela confiança subjetiva no agente.
E1
Revisão humana obrigatóriaPreparar
Organizar uma minuta, plano, cálculo auxiliar ou ação para decisão posterior.
E2
Efeito material controladoExecutar
Alterar sistema, enviar, publicar, contratar, pagar ou produzir outra consequência externa.
AMEAÇA / CONTROLE / EVIDÊNCIA
Segurança de agentes exige olhar além do modelo.
Os cenários abaixo são categorias de projeto e teste. Não afirmam proteção absoluta nem substituem threat modeling específico.
Injeção de instruções
Conteúdo não confiável tenta alterar objetivo, política ou uso de ferramenta.
CONTROLE ESPERADOSeparar instrução de dado, reduzir ferramentas, validar destino e exigir autorização fora do conteúdo processado.
Envenenamento de contexto
Fonte, memória, recuperação ou ferramenta introduz estado incorreto, malicioso ou obsoleto.
CONTROLE ESPERADOProveniência, versão, allowlist, isolamento, reconciliação e contestação do contexto.
Privilégio excessivo
O agente recebe alcance maior que a tarefa, o ambiente ou a identidade legitimamente permitem.
CONTROLE ESPERADOMenor privilégio, credenciais efêmeras, segregação, limites de chamada e aprovação por efeito.
Confiança sem evidência
Uma saída plausível, nota média ou demonstração é tratada como verdade ou prontidão operacional.
CONTROLE ESPERADOEvals por trajetória, fontes, calibração, testes críticos e promoção vinculada a critérios explícitos.
Efeito irreversível
Repetição, timeout ou falha parcial produz envio, alteração, custo ou compromisso duplicado.
CONTROLE ESPERADOIdempotência, confirmação, readback, compensação, rollback e reconciliação externa.
Deriva operacional
Modelo, prompt, ferramenta, fonte, ambiente ou comportamento muda depois da homologação.
CONTROLE ESPERADOVersão fixada, monitoramento, amostragem, reavaliação e retorno ao estágio anterior quando a prova regride.
PROMOÇÃO SEM SALTOS
Uma etapa posterior não repara a ausência de prova anterior.
Mudança relevante de modelo, ferramenta, dados, permissão ou ambiente pode exigir retorno a um gate anterior.
- P0
Proposto
Problema, proprietário, público, risco e efeito esperado estão delimitados.
- P1
Construído
Fluxo e artefatos existem em ambiente identificado, sem alegação de prontidão.
- P2
Avaliado
Critérios positivos, negativos, adversariais e de recuperação foram executados.
- P3
Piloto supervisionado
Caso real limitado opera com usuário, autoridade, observação e parada definidos.
- P4
Operação observada
Continuidade, falhas, mudanças e efeitos permanecem verificáveis ao longo do tempo.
FONTES DE REFERÊNCIA
Arquitetura própria, conectada a estruturas públicas de risco, avaliação e segurança.
As fontes orientam o desenho e permanecem sujeitas a atualização. Elas não constituem auditoria, certificação ou endosso da THEION.
- R01NIST
AI Risk Management Framework
Estrutura voluntária para incorporar confiabilidade e gestão de risco ao desenho, desenvolvimento, uso e avaliação de sistemas de IA.
Abrir fonte oficial - R02NIST
Generative AI Profile — NIST AI 600-1
Perfil transversal que organiza riscos e ações de IA generativa nas funções Govern, Map, Measure e Manage.
Abrir fonte oficial - R03NIST AIRC
AI Testing, Evaluation, Verification and Validation
Recursos públicos para avaliação, medição e validação contextual de sistemas de inteligência artificial.
Abrir fonte oficial - R04MITRE
ATLAS — Threats to AI Systems
Base viva de táticas, técnicas, mitigações e estudos relacionados a ataques contra sistemas habilitados por IA.
Abrir fonte oficial - R05OWASP GenAI Security Project
Agentic Security Initiative
Iniciativa dedicada a riscos e controles de agentes autônomos e fluxos de IA com múltiplas etapas.
Abrir fonte oficial
PERGUNTAS ANTES DA AUTONOMIA
Limites que pertencem à arquitetura — não ao rodapé.
01A THEION afirma possuir certificação em governança de IA?
+
Não. Esta página publica princípios, controles e critérios de engenharia. As referências externas não certificam a empresa, o VORTEX, um agente ou qualquer solução.
02Uma avaliação com boa nota permite colocar um agente em produção?
+
Não isoladamente. A decisão depende do caso de uso, trajetória, falhas críticas, ambiente, identidade, autoridade, observabilidade, supervisão e recuperação compatíveis com o efeito.
03Todo sistema com IA precisa dos mesmos controles?
+
Não. O rigor deve ser proporcional ao dano possível, ao tipo de dado, à reversibilidade e ao alcance da ação. Um resumo informativo e uma execução financeira não pertencem à mesma classe de autoridade.
04Supervisão humana significa apenas aprovar uma tela?
+
Não. A pessoa precisa ter contexto, competência, tempo, informação e poder real para contestar, interromper ou corrigir. Uma aprovação ritual não transfere responsabilidade nem controla risco.
05A página representa uma oferta comercial ativa?
+
Não. Ela é um dossiê público de arquitetura. Qualquer aplicação depende de enquadramento, escopo, estágio da frente, ambiente, homologação e autoridade próprios.
06Como começar uma conversa sobre um agente?
+
Comece pelo fluxo e pela decisão: finalidade, usuário, fonte, ação, pior efeito, autoridade, evidência e condição de parada. O modelo e as ferramentas vêm depois desse enquadramento.
CONVERSA DE ARQUITETURA
Comece pelo efeito que precisa permanecer sob controle.
Traga o fluxo, a decisão, a fonte, o pior resultado plausível, quem pode autorizar e que evidência permitiria interromper ou avançar.