Do curso: Como Usar o Aprendizado de Máquina para Agregar Valor à sua Empresa

Interpretação do modelo

Do curso: Como Usar o Aprendizado de Máquina para Agregar Valor à sua Empresa

Inicie a demonstração grátis de 1 mês

Interpretação do modelo

“

A fase de interpretação ajuda a entender como o modelo funciona. Ela se afasta do conceito de caixa preta, em que não é possível entender o que ocorre dentro do modelo, e permite explicar como os dados são compostos e por que os resultados de saída são alcançados após o treinamento. A interpretação dos modelos visa garantir que as previsões sejam imparciais e não discriminatórias, que as informações sensíveis fiquem protegidas e que o sistema seja robusto, gerando mais confiança nas decisões e evitando riscos jurídicos e éticos. Ou seja, a interpretação dos modelos de aprendizado de máquina permite atribuir significado e apresentar o seu funcionamento aos usuários finais de modo compreensível. Gerentes de negócios e tomadores de decisão devem entender como o modelo funciona para decidir se convém avançar para a produção. Como essa interpretação é feita? Em poucas palavras, usando outros modelos de aprendizado de máquina, podemos ajudar as pessoas a interpretar todo o processo. Existem bibliotecas específicas para isso. A interpretação pode contribuir para a descoberta de métricas desbalanceadas ou vieses. Do ponto de vista estatístico, um viés é um erro que pode ocorrer quando a amostragem favorece algumas respostas em detrimento de outras, geralmente porque uma classe foi menos representada no histórico de dados. Existem alguns casos divulgados na mídia em que certos automatismos aplicados nos processos seletivos discriminaram as mulheres para cargos de alta gerência. Os vieses, embora também possam ser introduzidos por pessoas devido a diferenças culturais ou preconceitos, muitas vezes, vêm da falta de representação no histórico de dados com o qual o modelo foi treinado. Nos exemplos anteriores, se o treinamento fosse realizado com dados que exclui mulheres em cargos de chefia, no processo de interpretação, teria sido necessário entender que a característica de ser homem ou mulher estava condicionando a resposta do sistema. Como? Impedindo a seleção do currículo de uma mulher. Os vieses podem ser de vários tipos: de gênero, racial, social. Identificá-los é o primeiro passo para encontrar soluções, adicionando mais dados reais ou usando técnicas estatísticas para evitar a discriminação e criar um modelo de aprendizado de máquina justo. Resumindo, com a interpretação do modelo buscamos a transparência. Uma vez que ele foi explicado e compreendido e o impacto esperado foi transformado em métricas de negócios, é hora de focar na produção.

Conteúdos