Para garantir a qualidade, viés e auditabilidade dos sistemas baseados em algoritmos ou inteligência artificial (IA), é essencial verificar os seguintes aspetos:
• Origem, qualidade e representatividade dos dados utilizados no treino, validação ou teste dos algoritmos, de modo a reduzir enviesamentos e prevenir discriminação;
• Existência de mecanismos de auditoria ou supervisão humana claramente definidos, especificando quem, quando e como intervém nas decisões ou análises geradas pelos sistemas automatizados;
• Avaliação das limitações técnicas e da auditabilidade das tecnologias utilizadas, garantindo a verificação independente dos resultados.