An organization recently created a custom model that integrates with a language model (LLM). The developer notices that the application programming interface (API) costs have increased. Which of the following is the best control to reduce cost?

D Explanation: Basic Concept: LLM API pricing is primarily based on token consumption -- the number of tokens processed in both input prompts and output responses. Controlling token usage is the most direct lever for managing and reducing LLM API costs. CompTIA SecAI+ Study Guide covers AI cost management and resource controls under securing AI systems. Why D is Correct: Adjusting token limits directly caps the maximum number of tokens used per request for both input and output. By setting appropriate token limits, the organization prevents excessively long prompts or verbose responses from consuming unnecessary tokens, directly translating to lower API costs and providing hard budget control. Why A is Wrong: Prompt templates standardize how queries are structured, which can indirectly improve efficiency. However, they do not enforce a hard cap on token usage and cannot prevent costs from escalating with large volumes or verbose responses. Why B is Wrong: Increasing CPU and memory addresses computational infrastructure performance on the client side. LLM API costs are billed by the API provider based on token usage, not on the client's hardware resources. Why C is Wrong: Reducing model size means using a smaller, less powerful model version. While this may lower cost per token, it is a model selection decision, not an ongoing operational control that can be adjusted to manage cost in real time.

SK0-005 CompTIA Server+ Simulado Online Grátis

Questão 13

Uma organização criou recentemente um modelo personalizado que se integra a um modelo de linguagem (LLM). O desenvolvedor percebe que os custos da interface de programação de aplicativos (API) aumentaram. Qual das alternativas a seguir é o melhor controle para reduzir custos?

A Implementando modelos de prompt
B Aumentar a unidade central de processamento (CPU) e a memória
C Reduzindo o tamanho do modelo
D Ajustando limites de token

Resposta correta: D

Explicação

Explicação: Conceito Básico: O preço da API LLM é baseado principalmente no consumo de tokens – o número de tokens processados em prompts de entrada e respostas de saída. Controlar o uso de tokens é a alavanca mais direta para gerenciar e reduzir custos de API LLM. O Guia de estudo CompTIA SecAI+ cobre o gerenciamento de custos de IA e controles de recursos na segurança de sistemas de IA. Por que D está correto: O ajuste dos limites de token limita diretamente o número máximo de tokens usados por solicitação para entrada e saída. Ao definir limites de tokens apropriados, a organização evita que prompts excessivamente longos ou respostas detalhadas consumam tokens desnecessários, o que se traduz diretamente em custos de API mais baixos e fornece controle rígido do orçamento. Por que A está errado: os modelos de prompt padronizam a forma como as consultas são estruturadas, o que pode melhorar indiretamente a eficiência. No entanto, eles não impõem um limite rígido ao uso de tokens e não podem impedir que os custos aumentem com grandes volumes ou respostas detalhadas. Por que B está errado: O aumento da CPU e da memória aborda o desempenho da infraestrutura computacional no lado do cliente. Os custos da API LLM são cobrados pelo provedor de API com base no uso do token, não nos recursos de hardware do cliente. Por que C está errado: Reduzir o tamanho do modelo significa usar uma versão de modelo menor e menos potente. Embora isto possa reduzir o custo por token, é uma decisão de seleção de modelo, e não um controle operacional contínuo que pode ser ajustado para gerenciar custos em tempo real.

Questão 12

Voltar à amostra

Questão 14

Questão 13

Explicação

Are you sure ?