Questão 47 — Amazon AIF-C01 Simulado | AWS Certified AI Practitioner Questões e Respostas

Que técnica uma empresa pode usar para reduzir o preconceito e a toxicidade em aplicações generativas de IA durante o ciclo de vida de ML pós-processamento?
  • A. Humano no circuito
  • B. Aumento de dados
  • C. Engenharia de recursos
  • D. Treinamento adversário
Resposta correta: A

Explicação

Explicação: A resposta correta é A porque Human-in-the-loop (HITL) é uma estratégia de pós-processamento usada para monitorar, revisar e filtrar resultados de modelos generativos de IA em busca de toxicidade, preconceito ou conteúdo impróprio. Ele permite que revisores humanos aprovem ou rejeitem respostas de modelos antes de serem entregues aos usuários finais, garantindo o alinhamento com as diretrizes éticas e as políticas da empresa. Da documentação da AWS: "Os fluxos de trabalho Human-in-the-loop (HITL) em IA generativa são usados ​​para validar e aprovar resultados de modelos, especialmente em aplicações onde a qualidade do conteúdo, a conformidade ou a redução de danos são críticas. HITL é uma etapa fundamental nas implementações responsáveis ​​de IA para mitigar alucinações, preconceitos e conteúdo inseguro." Explicação de outras opções: B . O aumento de dados é uma técnica de pré-processamento para aumentar a diversidade de dados, normalmente não usada em estágios de pós-processamento. C. A engenharia de recursos é relevante em ML tradicional, especialmente em tarefas de dados estruturados, normalmente não usadas no pós-processamento de IA generativa. D. O treinamento adversário é uma estratégia de treinamento modelo, não uma abordagem de mitigação pós-processamento. Documentos e guias de estudo de IA/ML da AWS referenciados: Whitepaper sobre práticas de IA responsáveis ​​da AWS Guia do desenvolvedor de IA generativa da AWS Human-in-the-loop e pós-processamento Documentação do Amazon A2I Integrando revisão humana em fluxos de trabalho de ML