Questão 37 — Amazon AIF-C01 Simulado | AWS Certified AI Practitioner Questões e Respostas
Uma empresa de crédito está construindo uma solução generativa baseada em IA para oferecer descontos a novos solicitantes com base em critérios comerciais específicos. A empresa deseja construir e usar um modelo de IA de forma responsável para minimizar preconceitos que poderiam afetar negativamente alguns clientes. Quais ações a empresa deve tomar para atender a esses requisitos? (Selecione DOIS.)
- A. Detecte desequilíbrios ou disparidades nos dados.
- B. Certifique-se de que o modelo seja executado com frequência.
- C. Avalie o comportamento do modelo para que a empresa possa dar transparência aos stakeholders.
- D. Use a técnica Recall-Oriented Understudy for Gisting Evaluation (ROUGE) para garantir que o modelo seja 100% preciso.
- E. Certifique-se de que o tempo de inferência do modelo esteja dentro dos limites aceitos.
Resposta correta:
A, C
Explicação
Explicação: Para construir um modelo de IA de forma responsável e minimizar preconceitos, é essencial garantir justiça e transparência em todo o processo de desenvolvimento e implantação do modelo. Isto envolve detectar e mitigar desequilíbrios de dados e avaliar minuciosamente o comportamento do modelo para compreender o seu impacto em diferentes grupos. Opção A (correta): "Detectar desequilíbrios ou disparidades nos dados": correta porque identificar e abordar desequilíbrios ou disparidades nos dados é um passo crítico na redução de distorções. A AWS fornece ferramentas como o Amazon SageMaker Clarify para detectar distorções durante o pré-processamento de dados e treinamento de modelo. Opção C (correta): “Avaliar o comportamento do modelo para que a empresa possa fornecer transparência às partes interessadas”: correta porque avaliar o comportamento do modelo quanto à justiça e precisão é fundamental para garantir que as partes interessadas entendam como o modelo toma decisões. A transparência é um aspecto crucial da IA responsável. A opção B: "Garantir que o modelo seja executado com frequência" está incorreta porque a frequência das execuções do modelo não aborda o viés. A opção D: "Usar a técnica Recall-Oriented Understudy for Gisting Evaluation (ROUGE) para garantir que o modelo seja 100% preciso" está incorreta porque ROUGE é uma métrica para avaliar a qualidade dos modelos de resumo de texto, não para minimizar vieses. A opção E: "Garantir que o tempo de inferência do modelo esteja dentro dos limites aceitos" está incorreta porque se refere ao desempenho, não à redução de viés. Referência do profissional de IA da AWS: Amazon SageMaker Clarify: A AWS oferece ferramentas como o SageMaker Clarify para detectar distorções em conjuntos de dados e modelos e para compreender o comportamento do modelo para garantir justiça e transparência. Práticas de IA responsáveis: a AWS promove IA responsável, defendendo justiça, transparência e inclusão no desenvolvimento e implantação de modelos.