Questão 25 — SK0-005 CompTIA Server+ Simulado Online Grátis
Um usuário interno insere o número do cartão de crédito de um cliente em um modelo interno de aprendizado de máquina generativo (ML): #Prompt do usuário: a cliente Jane Doe tem um novo cartão de crédito que deseja adicionar à sua conta. O número é 5555-5555-5555-5555 Qual das opções a seguir é a maneira mais eficaz de evitar ataques de injeção imediata contra um modelo de linguagem grande (LLM)?
- A. Guardrails
- B. Antivírus
- C. Firewall de aplicativo da Web (WAF)
- D. Controle de acesso baseado em função
Resposta correta:
A
Explicação
Explicação: Conceito Básico: A injeção de prompt ocorre quando o conteúdo malicioso incorporado na entrada do usuário manipula o comportamento de um LLM, fazendo com que ele vaze dados confidenciais, ignore restrições ou execute ações não intencionais. A prevenção de tais ataques requer mecanismos que inspecionem e filtrem o conteúdo no nível imediato. CompTIA SecAI + cobre extensivamente os controles de segurança específicos do LLM. Por que A está correto: Guardrails são controles criados especificamente para inspecionar, filtrar e restringir prompts de entrada e respostas de saída em sistemas LLM. Eles podem detectar padrões de dados confidenciais, como números de cartão de crédito, bloquear cargas úteis de injeção imediata, impor políticas de conteúdo e impedir que o modelo processe ou gere informações restritas. Guardrails são a principal defesa nativa do LLM contra injeção imediata, conforme citado no Guia de estudo CompTIA SecAI +. Por que B está errado: O software antivírus detecta assinaturas de malware conhecidas em arquivos e executáveis. Ele não inspeciona ou compreende o conteúdo semântico dos prompts do LLM e não pode detectar ou bloquear ataques de injeção de prompt. Por que C está errado: Um WAF opera na camada HTTP inspecionando solicitações e respostas da web em relação a conjuntos de regras. Embora possa bloquear alguns padrões, falta-lhe a inteligência contextual para compreender a semântica do prompt do LLM e não pode impedir ataques sofisticados de injeção. Por que D está errado: o controle de acesso baseado em função gerencia quem pode acessar quais recursos. Ele controla a autorização, mas não inspeciona o conteúdo dos prompts para evitar ataques de injeção quando o usuário tiver acesso legítimo.
Quer todas as 123 questões por R$ 198,00?