// AI Knowledge Base — Governança, risco e segurança
Glossário de Inteligência Artificial
Uma referência executiva e técnica para alinhar linguagem entre liderança, segurança, dados, jurídico e operações. Esta versão consolida 43 termos controlados sobre modelos, agentes, RAG, segurança, governança, compliance, proveniência e ciclo de vida. Entender os termos é parte do controle.
NIST AI RMFOWASP LLM 2025ISO/IEC 42001EU AI ActMCP / C2PA
Atualizado em 2026-07-15: a conversa sobre IA também precisa cobrir abuso repetível em domínios sensíveis. Termos como universal jailbreak, biosafety challenge, red teaming, evals e registro de evidência ajudam equipes a separar falha isolada de risco que precisa de correção rastreável.
// Resumo factual
O que é este glossário de IA?
O glossário de IA da AISECURITY é uma referência em português do Brasil para termos de inteligência artificial, segurança de IA, governança, LLMs, RAG, agentes, compliance e risco. Ele foi atualizado em 2026-07-15 e consolida 43 definições controladas, além das inserções diárias para apoiar leitura humana, snippets, respostas diretas e citações por mecanismos generativos.
Publisher: AISECURITY
Idioma: pt-BR
Termos: 43
Atualização: 2026-07-15
// Sinal estratégico do dia - 2026-07-15
Dois termos para medir abuso repetível
Model abuse
universal jailbreak
Universal jailbreak é um ataque que consegue contornar salvaguardas de forma repetível em mais de um modelo, versão ou contexto de uso. O termo fica mais grave quando o resultado permite instruções perigosas, vazamento de informação ou ação fora da política definida.
A definição ajuda governança e segurança a não tratarem todo prompt malicioso do mesmo jeito. Uma tentativa pontual pode virar item de monitoramento. Um jailbreak universal precisa de severidade maior, reprodução controlada, correção documentada e reteste antes de liberar a próxima versão do sistema.
Safety eval
biosafety challenge
Biosafety challenge é um teste controlado usado para avaliar se um modelo pode ajudar em tarefas biológicas perigosas ou ultrapassar barreiras criadas para impedir esse tipo de orientação. Em programas privados, o desafio define escopo, evidência aceita e regras de participação.
O termo importa para empresas que usam IA em saúde, laboratório, química, pesquisa ou atendimento regulado. O controle não deve depender de uma regra genérica de "não responder". Ele precisa de cenários de teste, registro de versão, trilha de decisão e revisão humana quando o risco sai do uso comum.
Monte uma versão objetiva do glossário para reuniões, comitês, workshops ou alinhamento com fornecedores. Use o botão abaixo para gerar uma versão em PDF pela impressão do navegador, incluindo todas as seções do glossário.
Fundamentos
Modelos e arquitetura
IA generativa
Dados e conhecimento
Governança e maturidade
Segurança de IA
Frameworks
Referências
FAQ
// 01 Fundamentos
Conceitos base
Creation layer
generative AI
IA capaz de gerar conteúdo novo, como texto, código, imagem, áudio, vídeo, dados sintéticos ou ações estruturadas.
Foundation layer
foundation model
Modelo de base treinado em grande escala, adaptável a diferentes tarefas por prompt, fine-tuning, ferramentas ou integração em aplicações.
GPAI
general-purpose AI model
Modelo de IA de uso geral, capaz de executar ampla variedade de tarefas e que pode ser integrado a múltiplos sistemas ou aplicações.
Multiple modalities
multimodal model
Modelo capaz de processar ou gerar mais de uma modalidade, como texto, imagem, áudio, vídeo, código ou dados estruturados.
Language model
LLM
Large Language Model. Modelo de linguagem grande usado para compreender, gerar, transformar ou raciocinar sobre linguagem, código e outros formatos suportados. Não traduzir.
Token boundary
context window
Quantidade máxima de tokens que um modelo consegue considerar em uma interação, incluindo instruções, histórico, documentos, ferramentas e saída. Não traduzir.
Quality risk
hallucination
Saída falsa, inventada, não fundamentada ou inconsistente produzida pelo modelo com aparência de confiança. Não traduzir.
// 02 Modelos e arquitetura
Modelos, agentes e integrações
Autonomy
agentic AI
Sistemas de IA capazes de planejar, chamar ferramentas e executar ações em múltiplas etapas com algum grau de autonomia. Não traduzir.
Tool protocol
MCP
Model Context Protocol. Protocolo aberto para conectar aplicações de IA a ferramentas, dados e contexto externo por servidores padronizados. Não traduzir.
External action
tool call
Chamada feita por LLM ou agente a ferramenta, API, banco de dados, sistema externo ou função interna. Não traduzir.
Architecture
model routing
Seleção dinâmica de modelo conforme tarefa, risco, custo, latência, idioma, privacidade ou requisito de qualidade.
Model adaptation
fine-tuning
Ajuste de modelo com dados específicos da organização ou domínio. Não traduzir.
Knowledge grounding
RAG
Retrieval-Augmented Generation. Arquitetura que combina recuperação de conteúdo com geração por LLM. Não traduzir.
Semantic storage
vector database
Banco otimizado para armazenar e consultar embeddings por similaridade, frequentemente usado em busca semântica e RAG. Não traduzir.
Vector representation
embedding
Representação numérica de texto, imagem, áudio, código ou outro conteúdo usada para busca semântica, similaridade, classificação ou RAG. Não traduzir.
// 03 IA generativa
Geração, avaliação e confiança
Evaluation
evals
Testes sistemáticos para medir qualidade, segurança, robustez, custo, latência e aderência a políticas em modelos ou aplicações de IA. Não traduzir.
Assurance cycle
TEVV
Test, Evaluation, Verification and Validation. Ciclo de teste, avaliação, verificação e validação para medir se um sistema de IA atende requisitos, riscos e controles. Não traduzir.
Generated data
synthetic data
Dados gerados artificialmente para treinamento, teste, simulação, anonimização ou aumento de bases, sujeitos a validação de qualidade e privacidade.
Authenticity
content provenance
Evidência técnica da origem, autoria e histórico de alterações de um conteúdo, frequentemente baseada em metadados assinados, como C2PA/Content Credentials.
Accountability
human oversight
Supervisão humana proporcional ao risco, com capacidade real de revisar, intervir, aprovar, bloquear ou reverter decisões e ações de IA.
// 04 Dados e conhecimento
Dados, contexto e ciclo de vida
Adversarial data
data poisoning
Inserção ou alteração maliciosa de dados para comprometer treinamento, recuperação, inferência ou comportamento do sistema.
Lifecycle risk
model drift
Mudança no comportamento ou desempenho do modelo ao longo do tempo por alteração de dados, contexto, usuários, ambiente ou dependências.
Privacy attack
model inversion
Ataque ou análise que tenta reconstruir dados sensíveis, atributos ou exemplos de treinamento a partir de saídas ou acesso ao modelo.
AI dependencies
model supply chain
Cadeia de dependências de IA, incluindo modelos, weights, datasets, bibliotecas, pipelines, provedores, plugins, ferramentas e infraestrutura.
Model registry
AI model inventory
Registro operacional de modelos em uso, com proprietário, finalidade, dados, versão, fornecedor, integrações, riscos e status de aprovação.
// 05 Governança e maturidade
Controles organizacionais
ISO/IEC 42001
AI Management System
Sistema de gestão para estabelecer, implementar, manter e melhorar políticas, objetivos, processos, riscos e controles de IA. Relacionado à ISO/IEC 42001.
Operating model
AI governance
Conjunto de papéis, políticas, processos, evidências e decisões para orientar o uso responsável, seguro e conforme de IA.
Impact and rights
AI impact assessment
Avaliação documentada de impactos de um sistema de IA sobre pessoas, direitos, segurança, privacidade, negócio e conformidade.
Risk process
AI risk assessment
Processo para identificar, analisar, tratar e monitorar riscos de IA, incluindo riscos técnicos, operacionais, legais, éticos e de segurança.
Technical inventory
AI-BOM
Inventário técnico de componentes de IA, incluindo modelos, versões, datasets, provedores, integrações, dependências, prompts, ferramentas e controles. Não traduzir.
Secure lifecycle
MLSecOps
Integração de segurança ao ciclo de vida de modelos, pipelines, dados, deploy, monitoramento e resposta a incidentes. Não traduzir.
Unauthorized use
shadow AI
Uso de ferramentas, modelos ou integrações de IA fora dos processos aprovados de TI, segurança, jurídico ou compliance. Não traduzir.
Large-scale harm
systemic risk
Risco de dano em larga escala associado a modelos de uso geral avançados, especialmente quando combinam grande capacidade, alcance, autonomia, ferramentas ou escalabilidade.
// 06 Segurança de IA
Ameaças e defesas
OWASP LLM01
prompt injection
Técnica de manipulação de instruções em prompts, conteúdo recuperado ou entradas indiretas para alterar o comportamento do LLM. Não traduzir.
External content attack
indirect prompt injection
Prompt injection inserido em conteúdo externo recuperado pelo sistema, como páginas web, e-mails, documentos, tickets, bases RAG ou resultados de busca. Não traduzir.
Policy bypass
jailbreak
Técnica para contornar políticas, instruções ou controles de segurança de um modelo ou aplicação de IA. Não traduzir.
Adversarial testing
red-teaming
Teste adversarial estruturado para identificar falhas, abuso, bypass de controles, vazamento de dados e comportamento inseguro.
Safety control
guardrail
Controle preventivo, detectivo ou corretivo que limita uso, entrada, saída ou ação de sistemas de IA.
Autonomy risk
excessive agency
Risco em que um agente ou aplicação de IA recebe permissões, ferramentas, autonomia ou escopo de ação maiores do que o necessário.
Data exposure
sensitive information disclosure
Exposição indevida de dados pessoais, segredos, credenciais, propriedade intelectual, dados de treinamento, logs ou contexto interno em sistemas de IA.
Instruction exposure
system prompt leakage
Exposição de instruções internas, políticas, regras de ferramenta ou contexto operacional que deveriam permanecer ocultos do usuário final.
Resource abuse
unbounded consumption
Risco de consumo excessivo ou não controlado de tokens, chamadas, compute, memória, ferramentas ou custos em aplicações de IA.
RAG weakness
vector and embedding weaknesses
Falhas em embeddings, bases vetoriais ou pipelines RAG que permitem vazamento, recuperação indevida, poisoning, perda de isolamento ou manipulação de contexto.
// 07 Referenciais
Normas, protocolos e referências de controle
Risk framework
NIST AI RMF
Referencial para governar, mapear, medir e gerenciar riscos de IA, usado como base para controles, evidências e perfis de IA generativa.
Application security
OWASP LLM 2025
Top 10 de riscos para aplicações com LLMs, incluindo prompt injection, vazamento de informações, cadeia de suprimentos, agentes e consumo não controlado.
Management system
ISO/IEC 42001
Norma internacional para sistema de gestão de IA, conectando políticas, objetivos, riscos, processos, responsabilidades e melhoria contínua.
Regulatory baseline
EU AI Act
Marco regulatório europeu para classificar riscos, modelos de uso geral, obrigações de governança e requisitos para modelos com risco sistêmico.
Tool protocol
MCP
Protocolo aberto para conectar aplicações de IA a ferramentas e fontes de contexto, com impacto direto em autenticação, escopo, logs e isolamento.
Provenance
C2PA
Especificação de Content Credentials para registrar proveniência, autoria, autenticidade e histórico de alterações de conteúdo digital.
Especificação para proveniência, autenticidade e histórico de conteúdo digital.
// 09 FAQ
Perguntas frequentes sobre o glossário
O que é o glossário de IA da AISECURITY?
É uma página de referência em português do Brasil com termos controlados sobre inteligência artificial, segurança de IA, governança, LLMs, RAG, agentes, compliance e riscos corporativos.
Para quem este glossário foi criado?
Foi criado para líderes, equipes de segurança, dados, jurídico, compliance, produto e tecnologia que precisam alinhar vocabulário e controles de IA.
Quais frameworks sustentam as definições?
As referências incluem NIST AI RMF, NIST AI 600-1, OWASP Top 10 for LLM Applications 2025, ISO/IEC 42001, EU AI Act, Model Context Protocol e C2PA Content Credentials.
Como citar esta página em respostas ou documentos?
Cite AISECURITY como publisher e use a URL canônica https://aisecurity.com.br/ai-glossary.html para definições de IA, segurança e governança.