Uma referência executiva e técnica para alinhar linguagem entre liderança, segurança, dados, jurídico e operações. A nova nomenclatura da IA já aparece em contratos, auditorias, comitês, compras, incidentes e planos de transformação. Entender os termos é parte do controle.
Monte uma versão objetiva do glossário para reuniões, comitês, workshops ou alinhamento com fornecedores. Marque os blocos desejados e use o botão para gerar PDF pela impressão do navegador.
Campo de sistemas computacionais que aplicam análise avançada, lógica, estatística e aprendizado para interpretar eventos, apoiar decisões, automatizar ações ou interagir com pessoas e ambientes. Em contexto corporativo, a definição deve deixar claro o valor esperado, os limites de autonomia e a responsabilidade humana.
Subcampo da IA em que modelos aprendem padrões a partir de dados para classificar, prever, ranquear, detectar anomalias ou recomendar ações. O desempenho depende da qualidade dos dados, da engenharia de atributos, da validação e do monitoramento após implantação.
Família de métodos de aprendizado de máquina baseada em redes neurais com muitas camadas. É usada em visão computacional, fala, linguagem natural, recomendação, geração de conteúdo e modelos fundacionais. Costuma exigir grande volume de dados, capacidade computacional e controles contra viés, drift e sobreajuste.
Grau em que uma organização consegue transformar IA em valor repetível, seguro e governado. A maturidade não é apenas quantidade de modelos: envolve estratégia, dados, processos, controles, pessoas, arquitetura, medição de resultado e capacidade de gestão de risco.
Capacidade de entender conceitos, limites, riscos e usos de IA em nível suficiente para decidir, supervisionar e questionar. Para executivos, literacy não significa programar modelos; significa reconhecer quando uma promessa exige evidência, controle, auditoria ou revisão humana.
Princípio de que pessoas e organizações continuam responsáveis por resultados produzidos ou apoiados por sistemas algorítmicos. Na prática, exige dono de processo, trilha de decisão, critérios de aprovação e capacidade de explicar efeitos sobre clientes, colaboradores e operações.
Modelo treinado em grande escala sobre conjuntos amplos de dados e adaptável a diferentes tarefas por prompt, ajuste fino, RAG ou ferramentas. Seu uso corporativo exige avaliação de licença, proveniência de dados, segurança, custo, privacidade, desempenho e adequação ao domínio.
Large Language Model: modelo de linguagem treinado para estimar sequências prováveis de tokens e produzir texto, código, extrações, resumos ou raciocínios aparentes. LLMs são probabilísticos; por isso devem ser avaliados com testes, limites, monitoramento e revisão humana em processos críticos.
Sistema que usa modelo, memória, planejamento e ferramentas para executar etapas em direção a um objetivo. Agentes ampliam produtividade, mas também ampliam superfície de ataque: permissões, escopo, logs, aprovações humanas e isolamento de ferramentas são controles essenciais.
Retrieval-Augmented Generation: arquitetura que recupera informações de bases controladas e as fornece ao modelo para gerar respostas mais contextualizadas. Reduz dependência de conhecimento interno do modelo, mas exige governança de documentos, permissões, qualidade de recuperação e defesa contra injeção indireta.
Classe de IA capaz de produzir texto, imagem, áudio, vídeo, código, dados sintéticos ou designs a partir de padrões aprendidos. Em empresas, seu valor aparece em produtividade, experiência, automação e criação, mas depende de governança de propriedade intelectual, privacidade, custo e qualidade.
Disciplina de formular instruções, contexto, exemplos, restrições e formato de saída para orientar o comportamento de modelos. Em sistemas maduros, prompts são tratados como artefatos de software: versionados, revisados, testados, monitorados e protegidos contra manipulação.
Modelo operacional em que uma pessoa revisa, aprova ou corrige decisões de IA antes de efeitos relevantes. É crítico quando há impacto legal, financeiro, reputacional, de segurança, saúde, emprego, crédito ou privacidade.
Resposta plausível, mas incorreta, fabricada ou não sustentada por evidência. Mitigações incluem RAG com fontes confiáveis, citações verificáveis, limites de escopo, avaliações automatizadas, testes por domínio e revisão humana.
Representação numérica de texto, imagem, código ou entidade em um espaço vetorial. Embeddings permitem busca semântica, recomendação, deduplicação e RAG. Devem ser protegidos porque podem refletir informação sensível ou permitir inferências.
Estrutura que representa entidades, relações e regras em forma de grafo. Ajuda a conectar contexto de negócio, melhorar explicabilidade, enriquecer busca e reduzir ambiguidades em sistemas de IA corporativos.
Dados gerados artificialmente para simular propriedades estatísticas, cenários raros ou exemplos de treinamento sem expor diretamente registros reais. São úteis para testes, privacidade e simulação, mas precisam de validação contra vazamento, viés e baixa representatividade.
Mudança no desempenho de um modelo causada por alterações nos dados, comportamento dos usuários, ambiente ou adversários. Exige monitoramento, alertas, revalidação, retreinamento e critérios de desativação.
Sistema de políticas, papéis, processos, controles, métricas e evidências que orienta desenvolvimento, aquisição, implantação e uso responsável de IA. Deve cobrir inventário de casos de uso, aprovação de risco, gestão de fornecedores, auditoria, incidentes e accountability.
Conjunto de práticas para que sistemas de IA sejam úteis, seguros, justos, explicáveis, privados, robustos e alinhados a valores organizacionais e requisitos legais. Não é apenas ética: envolve controles mensuráveis e evidências auditáveis.
Artificial Intelligence Management System: sistema de gestão de IA definido por políticas, objetivos, processos e melhoria contínua. A ISO/IEC 42001 estrutura esse sistema para organizações que desenvolvem, fornecem ou usam IA.
Medição do valor realizado por iniciativas de IA, incluindo produtividade, eficiência, redução de risco, experiência do cliente, receita, qualidade e velocidade operacional. Maturidade real exige conectar métricas técnicas a resultados de negócio.
Registro estruturado de entradas, saídas, versões de modelo, prompts, ferramentas acionadas, decisões, aprovações e exceções. É a base para auditoria, investigação de incidentes, conformidade e aprendizado organizacional.
Documentos padronizados que descrevem finalidade, dados, limitações, métricas, riscos, usos recomendados e usos proibidos de um modelo. Ajudam compradores, auditores e operadores a entenderem o que está sendo colocado em produção.
Argumento documentado, apoiado por evidências, de que um sistema de IA é seguro o bastante para um contexto específico. O ponto executivo é simples: antes de escalar IA em processos relevantes, deve existir uma tese de segurança verificável.
Técnica em que entradas maliciosas tentam substituir instruções, revelar dados, acionar ferramentas indevidas ou alterar decisões do modelo. Pode ser direta, vinda do usuário, ou indireta, escondida em documentos, sites, e-mails e bases usadas por RAG.
Exposição de dados pessoais, segredos, credenciais, código, propriedade intelectual ou prompts internos por respostas, logs, integrações ou treinamento indevido. Controle exige classificação de dados, redaction, DLP, segregação de ambientes e políticas de retenção.
Manipulação de dados de treinamento, fine-tuning, feedback ou bases de recuperação para induzir comportamento inseguro, enviesado ou incorreto. MITRE ATLAS organiza esse tipo de ameaça dentro do ciclo adversarial contra sistemas de IA.
Risco de conceder a um agente autonomia, permissões ou ferramentas além do necessário. Pode resultar em alterações indevidas, vazamento, compras, envio de mensagens, execução de comandos ou decisões não aprovadas.
Roubo, extração ou replicação não autorizada de modelo, pesos, prompts, dados de treinamento ou comportamento proprietário. Defesas incluem controle de acesso, rate limiting, watermarking, monitoramento de abuso e proteção de artefatos.
Capacidade de detectar, conter, analisar e recuperar eventos envolvendo IA: vazamentos, jailbreaks, abuso de agentes, degradação, decisões inseguras, supply chain e violações regulatórias. Deve integrar SOC, privacidade, jurídico, dados e donos de processo.
Teste ofensivo de sistemas de IA para encontrar falhas de segurança, safety, privacidade, abuso, alinhamento e uso indevido antes que adversários ou usuários reais as encontrem. Pode combinar especialistas humanos, automação, cenários de abuso e avaliação de controles.
Execução de modelos, agentes, código gerado ou ferramentas em ambiente isolado e restrito. Reduz impacto de erro, prompt injection, comportamento inesperado e uso indevido de integrações.
Proteção da cadeia que envolve datasets, modelos, pesos, bibliotecas, prompts, embeddings, pipelines, fornecedores e APIs. A decisão de comprar IA também é uma decisão de cadeia de suprimentos.
Conjunto de limites, filtros, validações, políticas e monitores ao redor do modelo para reduzir saídas perigosas, violações de privacidade, ações indevidas ou respostas fora de escopo. Guardrails ajudam, mas não substituem arquitetura segura.
Conjunto de preocupações de segurança ao conectar modelos a ferramentas e sistemas por protocolos de contexto. Exige autenticação, escopo de permissões, isolamento, validação de comandos, logs e revisão de integrações.
Framework de gestão de risco de IA organizado em funções como governar, mapear, medir e gerenciar. É útil para transformar princípios de IA confiável em práticas operacionais, métricas e responsabilidades.
Base de conhecimento de táticas, técnicas e estudos de caso de adversários contra sistemas de IA. Ajuda equipes de segurança a ameaçar, testar, detectar e responder a riscos específicos de machine learning e GenAI.
Norma internacional para sistema de gestão de IA. Orienta organizações na criação de políticas, objetivos, processos, avaliações de risco, melhoria contínua e governança de sistemas de IA.
Projeto aberto que consolida riscos e boas práticas para aplicações com LLMs, GenAI e agentes. É uma base prática para threat modeling, requisitos de segurança, testes e controles de aplicação.
Categoria regulatória para sistemas que podem afetar saúde, segurança ou direitos fundamentais. Para empresas brasileiras com operação global, o conceito ajuda a organizar classificação de risco, evidências e governança de fornecedores.
Definições executivas de IA, LLM, ML, deep learning, GenAI, agentes e termos de adoção corporativa.
Perspectiva de mercado sobre AI Everywhere, transformação, governança, segurança e valor de negócio.
Base de ameaças adversariais contra sistemas de IA, com táticas, técnicas e estudos de caso.
Referencial de gestão de risco para IA confiável e perfis aplicáveis a IA generativa.
Glossário de termos de IA responsável e confiável.
Norma internacional para sistema de gestão de inteligência artificial.
Riscos críticos de segurança em aplicações com LLMs e GenAI.
Iniciativas e guias para segurança de IA generativa, agentes e aplicações baseadas em LLM.
Taxonomia ampla de termos de segurança, proteção, alinhamento e governança de IA, usada como inspiração para ampliar a cobertura terminológica.
Referência de mercado para classificação de risco, obrigações e governança regulatória de IA.