Questão 9
Uma companhia aérea deseja implementar um aplicativo chatbot usando um modelo de linguagem grande (LLM) para que seus clientes possam fazer perguntas e receber respostas sobre detalhes de voos e tenham a opção de fazer upload de arquivos. Qual dos seguintes controles de segurança a companhia aérea deve usar para se proteger contra informações maliciosas e uso não autorizado além do acordo de nível de serviço? (Escolha dois.)
- A Proteções de prompt
- B Controles de acesso baseados em funções
- C Regras de firewall
- D Cotas de token modelo
Resposta correta:
A, D
Explicação
Explicação: Conceito Básico: Chatbots baseados em LLM que aceitam arquivos enviados por usuários enfrentam duas categorias críticas de risco: injeção maliciosa de entrada e abuso de recursos ou custos. O Guia de Estudo CompTIA SecAI+ destaca controles imediatos de segurança e gerenciamento de recursos como principais camadas defensivas para aplicativos LLM voltados ao público. Por que A está correto: as proteções de prompt interceptam e filtram as entradas do usuário e as saídas do modelo, bloqueando prompts maliciosos, tentativas de injeção de prompt e conteúdo de arquivo prejudicial antes de afetar o comportamento do modelo. Como os usuários podem fazer upload de arquivos, as proteções são essenciais para higienizar e validar esse conteúdo antes do processamento. Por que D está correto: As cotas de token modelo limitam diretamente quanto da capacidade de processamento do LLM um usuário pode consumir. Isso evita abusos além do SLA, incluindo ataques de negação de carteira ou esgotamento de recursos por meio de entradas excessivamente grandes ou solicitações repetidas. Por que B está errado: Os controles de acesso baseados em funções gerenciam quem pode acessar quais recursos. Embora úteis para sistemas internos, eles não abordam conteúdo de entrada mal-intencionado nem impõem limites de consumo de recursos LLM para um chatbot voltado ao público. Por que C está errado: As regras de firewall operam na camada de rede e podem bloquear IPs ou portas não autorizados, mas não podem inspecionar ou filtrar o conteúdo semântico de prompts ou controlar o uso de LLM em nível de token.