Questão 10

Explicação: Conceito Básico: A IA responsável abrange um conjunto de princípios concebidos para garantir que os sistemas de IA operem de forma ética, justa e responsável. Esses princípios orientam o desenvolvimento e a implantação da IA ​​para minimizar os danos e maximizar a confiabilidade. Os objetivos do exame CompTIA SecAI+ listam transparência e explicabilidade como princípios fundamentais de IA responsável no Domínio 4. Por que B está correto: Transparência e explicabilidade são princípios fundamentais da IA ​​responsável. Transparência significa que os sistemas de IA são abertos quanto à sua natureza, capacidades, limitações e como tomam decisões. Explicabilidade significa que o sistema pode articular as razões por trás das suas decisões em termos compreensíveis para os humanos. Juntos, eles permitem a responsabilização, apoiam a conformidade regulatória, permitem a detecção de preconceitos e constroem a confiança do usuário. O Guia de Estudo CompTIA SecAI+ e estruturas de IA responsáveis, incluindo OCDE e NIST AI RMF, identificam consistentemente isso como um princípio fundamental. Por que A está errado: O uso de dados protegidos para treinamento violaria a privacidade e os direitos de propriedade intelectual. Este não é um princípio de IA responsável – a IA responsável, na verdade, exige garantir que os dados de treinamento respeitem a privacidade, o consentimento e as proteções legais. Por que C está errado: Human-in-the-loop é uma prática operacional importante para decisões de IA de alto risco, mas é um padrão de design e não o princípio fundamental e abrangente da IA ​​responsável. Nem todos os sistemas de IA responsáveis ​​exigem operação humana em cada decisão. Por que D está errado: Maximizar a segurança do modelo é um objetivo de segurança cibernética para sistemas de IA. Embora importante, é uma preocupação de segurança operacional e não um princípio de governação responsável da IA ​​centrado na justiça, na responsabilização e na fiabilidade na tomada de decisões da IA.