Questão 44 — SK0-005 CompTIA Server+ Simulado Online Grátis
Um analista de segurança percebe que, independentemente das solicitações enviadas pelo usuário, um modelo de IA sempre retorna respostas não higienizadas. Essas respostas são então passadas para vários plug-ins. O analista está preocupado com as possíveis implicações de segurança. Qual das seguintes categorias do Open Worldwide Application Security Project (OWASP) aborda esta vulnerabilidade?
- A. Desinformação
- B. Injeção imediata
- C. Consumo ilimitado
- D. Manipulação de saída inadequada
Resposta correta:
D
Explicação
Explicação: Conceito Básico: OWASP publicou as 10 principais vulnerabilidades para aplicativos de modelos de linguagem grande, cada uma abordando uma categoria distinta de risco de segurança LLM. Compreender quais categorias do OWASP são mapeadas para cenários específicos de vulnerabilidade do LLM é uma competência fundamental no Guia de Estudo CompTIA SecAI+ para proteção de sistemas de IA. Por que D está correto: O tratamento inadequado de saída (OWASP LLM02) ocorre quando um aplicativo passa saídas geradas pelo LLM para sistemas downstream, como plug-ins, navegadores da Web ou bancos de dados, sem validação, sanitização ou codificação adequadas. Isso pode permitir XSS, injeção de SQL, execução remota de código ou outros ataques de injeção contra plug-ins e sistemas downstream. O cenário corresponde exatamente a este: respostas de IA não higienizadas são automaticamente passadas para vários plug-ins, que podem executar conteúdo malicioso na saída do modelo. Por que A está errado: A desinformação refere-se à IA que gera conteúdo falso ou enganoso em que os usuários podem acreditar. É uma preocupação com a precisão do conteúdo relacionada a alucinações e propagação de informações falsas, e não uma vulnerabilidade que descreve como os resultados do modelo são tratados pelos sistemas downstream. Por que B está errado: A injeção imediata envolve a elaboração de entradas para manipular o comportamento do modelo e substituir instruções. Embora possa ser uma causa contribuinte para saídas inseguras, a vulnerabilidade descrita – passar saídas não higienizadas para plug-ins – é especificamente a falha no tratamento da saída, e não o mecanismo de injeção em si. Por que C está errado: O consumo ilimitado (OWASP LLM10) refere-se a ataques de esgotamento de recursos, incluindo negação de carteira e negação de serviço por meio do consumo excessivo de tokens. Ele aborda vulnerabilidades de gerenciamento de recursos, não as implicações de segurança da passagem dos resultados do modelo para sistemas downstream.
Quer todas as 123 questões por R$ 198,00?