ALTO
Agentic AI
Agentes com ferramentas, memoria e autonomia ampliam a superficie de ataque alem do prompt.
Controle: escopo minimo de ferramentas, aprovacao humana e logs de tool calls.
// radar atual
Temas com maior atencao
ALTO
MCP Security
Servidores MCP conectam IA a dados e acoes reais. Autorizacao fraca, tokens e ferramentas maliciosas viram risco operacional.
Controle: allowlist, audiencia de token, PKCE, isolamento e revisao de servidores.
CRESCENTE
Prompt Injection Indireta
O ataque pode estar em documentos, e-mails, tickets, paginas web ou conteudo recuperado por RAG.
Controle: separar dados de instrucoes e validar acoes antes de executar.
CRESCENTE
RAG Poisoning
Bases de conhecimento podem ser contaminadas para manipular respostas, expor dados ou orientar decisoes erradas.
Controle: curadoria de fontes, segmentacao por permissao e trilha de ingestao.
MONITORAR
Deepfake Fraud
Voz, video e texto sintetico tornam phishing, vishing e BEC mais convincentes em fluxos financeiros e executivos.
Controle: verificacao fora de banda, limites de aprovacao e proveniencia de conteudo.
// threat briefs
Leituras acionaveis
MCP Security: o novo perimetro dos agentes de IA
Trate MCP como superficie de integracao critica: identidade, autorizacao, logs, escopo e revisao de ferramentas.
Prompt injection indireta: quando o ataque vem do documento
O modelo pode obedecer conteudo externo como se fosse instrucao. A defesa comeca na separacao entre contexto, comando e acao.
Excesso de agencia: ferramentas demais para um agente
Quanto maior a autonomia, maior a necessidade de permissao granular, limites de custo e aprovacao humana.
RAG poisoning: conhecimento como vetor de ataque
Ingestao sem controle transforma repositorios, wikis e tickets em canais para manipular respostas.
AI-BOM: inventario minimo para governanca de IA
Modelos, datasets, prompts, embeddings, ferramentas, provedores e versoes precisam de dono e status de aprovacao.
Deepfake fraud: phishing, vishing e BEC com IA
Fraudes sinteticas exigem verificacao de identidade, treinamento e controles de aprovacao fora do canal atacado.
AI incident response: como responder a abusos de IA
Incidentes de IA envolvem prompt, contexto, dados, ferramentas, fornecedor, logs e decisao humana. O playbook deve refletir isso.
// framework watch
Referencias que sustentam o Radar
OWASP LLM Top 10
Riscos de aplicacoes com LLM, incluindo prompt injection, vazamento de informacao, supply chain, agentes e consumo nao controlado.
OWASP Agentic AI
Guia para ameacas em sistemas multiagentes, ferramentas, autonomia e interacoes entre agentes.
NIST AI RMF GenAI
Perfil para governar, mapear, medir e gerenciar riscos de IA generativa.
NIST Adversarial ML
Taxonomia de ataques e mitigacoes para aprendizado de maquina e sistemas de IA.
ISO/IEC 42001
Sistema de gestao de IA para politicas, papeis, processos, risco e melhoria continua.
EU AI Act
Obrigacoes para modelos de uso geral, riscos sistemicos, governanca e transparencia.
// AIMI connection
Do radar para a maturidade
O Radar mostra onde o risco esta se movendo. O AIMI ajuda a avaliar se a organizacao tem controles para Shadow AI, agentes, dados, privacidade, governanca, monitoramento e resposta a incidentes.
- Inventario de modelos, ferramentas e fluxos de IA.
- Controles para agentes, MCP, RAG e dados sensiveis.
- Governanca alinhada a NIST, ISO 42001, LGPD e risco corporativo.
- Preparacao para incidentes envolvendo IA.
// perguntas frequentes
FAQ do Radar
Para quem o AI Security Radar foi criado?
Para liderancas de seguranca, tecnologia, risco, privacidade, juridico, produto e dados que precisam acompanhar riscos de IA sem depender de hype.
O Radar substitui o Intel Feed?
Nao. O Intel Feed mostra sinais publicos em tempo real; o Radar organiza esses sinais em temas, controles e decisoes de maturidade.
Como o Radar se conecta ao glossario?
O glossario define a linguagem. O Radar aplica essa linguagem a riscos atuais e controles praticos.
Como citar esta pagina?
Cite AISECURITY como publisher e use a URL canonica https://aisecurity.com.br/ai-security-radar.html.