A segurança de IA trouxe um vocabulário próprio, e boa parte das conversas trava em siglas. Reunimos aqui 36 termos que aparecem em toda reunião sobre o tema, explicados de um jeito que dá para levar para a diretoria.
Fundamentos
- IA generativa
- Inteligência artificial que cria conteúdo novo, como texto, imagem, código ou áudio, a partir de um pedido.
- LLM (modelo de linguagem)
- O "cérebro" por trás de assistentes como ChatGPT, Claude, Gemini e Copilot. Foi treinado em grandes volumes de texto para entender e gerar linguagem.
- Prompt
- A instrução ou pergunta enviada ao modelo. Tudo o que entra nele, inclusive arquivos e textos colados, faz parte do prompt.
- Token
- A unidade de texto que o modelo processa, mais ou menos um pedaço de palavra. É usada para medir limites e cobrar o uso.
- Janela de contexto
- Quanto texto o modelo consegue considerar de uma vez numa conversa: o pedido, o histórico e os documentos anexados.
- Alucinação
- Quando o modelo inventa uma informação com total confiança. Parece correta, mas não é.
- RAG
- Técnica que busca documentos da empresa e entrega ao modelo junto com a pergunta, para que a resposta use informação interna e atualizada.
- Fine-tuning
- Treinamento adicional de um modelo com dados específicos, para especializá-lo numa tarefa ou num jeito de responder.
Agentes e integrações
- Agente de IA
- Uma IA que recebe um objetivo, decide os passos e usa ferramentas para cumpri-lo, como enviar e-mails, consultar sistemas ou executar código.
- Copiloto
- Assistente de IA embutido em ferramentas de trabalho, como e-mail, documentos e editor de código, que sugere e executa tarefas junto com o usuário.
- MCP (Model Context Protocol)
- Padrão aberto que conecta modelos e agentes a ferramentas e fontes de dados. Funciona como uma porta universal entre a IA e os sistemas.
- Servidor MCP
- O programa que expõe as ferramentas de um sistema para os agentes, por exemplo ler e-mails ou consultar um banco de dados.
- Chamada de ferramenta
- O momento em que o modelo deixa de só responder e aciona uma ação real: enviar, criar, apagar ou consultar algo.
- Autonomia
- O quanto um agente decide e age sozinho, de "sugere e espera aprovação" até "decide e executa por conta própria".
- Skill
- Um pacote de instruções e recursos que ensina um agente a fazer uma tarefa específica. Também pode trazer riscos, como comandos escondidos.
- Multiagente
- Arranjo em que vários agentes colaboram, cada um com uma função, passando tarefas e informações entre si.
Riscos e ataques
- Shadow AI
- Qualquer uso de IA que acontece fora do que a empresa aprovou, enxerga ou controla.
- Prompt injection
- Instruções escondidas num texto que fazem o modelo agir contra as regras. Pode vir do usuário ou de conteúdo externo, como e-mails e sites.
- Jailbreak
- Técnicas para convencer um modelo a ignorar suas próprias proteções e responder o que não deveria.
- Vazamento de dados
- Quando informação sensível sai do ambiente controlado, por exemplo colada num chat externo ou enviada por um agente.
- Envenenamento de dados
- Manipular os dados usados para treinar ou consultar um modelo, para distorcer as respostas dele.
- Excesso de permissão
- Quando um agente ou copiloto tem mais acesso do que precisa. Qualquer erro ou ataque passa a ter um alcance maior.
- Exposição de credenciais
- Chaves de API, tokens e senhas que acabam em prompts, em código gerado ou na configuração de agentes, ao alcance de quem não deveria.
- Cadeia de suprimentos de IA
- Os modelos, bibliotecas, servidores MCP e skills de terceiros que a IA da empresa usa. Um componente comprometido afeta tudo o que depende dele.
Controles e governança
- Governança de IA
- O conjunto de regras, papéis e controles que define quem pode usar qual IA, com quais dados e para quê.
- Inventário de IA
- A lista viva de toda a IA em uso na empresa: ferramentas, copilotos, agentes, extensões e servidores MCP.
- Guardrail
- Uma barreira que limita o que o modelo pode receber ou responder, como bloquear temas, dados ou ações.
- Agente guardião
- Um agente cuja função é supervisionar outros agentes, avaliando cada ação antes que ela aconteça. O Gartner trata como uma categoria própria, os guardian agents.
- Gateway de IA
- Um ponto único por onde passam as chamadas aos modelos e às ferramentas, para registrar, controlar custo e aplicar regras.
- Mascaramento de dados
- Substituir dados sensíveis, como documentos, cartões e credenciais, antes que cheguem ao modelo, mantendo o uso da ferramenta.
- Menor privilégio
- O princípio de dar a cada agente, copiloto ou pessoa só o acesso necessário para a tarefa, e nada além disso.
- Humano no circuito
- Exigir a aprovação de uma pessoa antes de ações sensíveis, como pagamentos, exclusões ou envios para fora da empresa.
- Red teaming de IA
- Ataques simulados contra modelos e agentes para encontrar falhas antes que alguém de fora encontre.
- OWASP Top 10 para LLM
- A lista de referência dos principais riscos de segurança em aplicações com modelos de linguagem. Prompt injection aparece em primeiro.
- NIST AI RMF
- O framework do instituto de padrões dos Estados Unidos para gerenciar riscos de IA ao longo de todo o ciclo de vida.
- EU AI Act
- A lei da União Europeia que regula a inteligência artificial por nível de risco. Influencia regras em outras regiões, inclusive na América Latina.