desafio # explicarCovid19 | R-bloggers

Há algum tempo que me interesso pela verificação de bibliotecas de software para Inteligência Artificial eXplainable (XAI). Não apenas em termos de número de algoritmos implementados, mas também de usabilidade real para o usuário final. Descobri que é um desafio reunir feedback útil dos usuários finais, porque não é fácil encontrar um modelo preditivo com o qual um grande grupo de usuários realmente se preocupe. Um exemplo positivo é o desafio da FICO. A tarefa era criar e explicar um modelo preditivo para pontuação de risco.

Talvez seja hora de um desafio mais importante?

O surto da doença COVID19 causada por SARS-CoV-2 é grave. Vários dados relacionados a esse surto são compartilhados publicamente. Dados individuais selecionados para pessoas infectadas (país, idade, sexo, data da infecção, possível recuperação ou morte) podem ser baixados desta planilha ou desses dados do Kaggle ou para países selecionados de outros bancos de dados. Esses dados possibilitam o treinamento de um modelo preditivo de sobrevivência e também a tentativa de diferentes métodos XAI que podem explicar as previsões do modelo.

Usando o DALEX, construí uma solução simples de linha de base. Treinei um modelo simples de aumento de gradiente que estima chances de recuperação com base em gênero, país e idade (com restrições de monotonicidade forçadas). Em seguida, o modelo é explicado com o painel interativo modelStudio. Dê uma olhada e brinque com o modelo você mesmo https://pbiecek.github.io/explainCOVID19/

Geralmente, as ferramentas XAI destacam quaisquer imperfeições no modelo ou nos dados de treinamento. Este é o caso. Construir um modelo mais complexo foi difícil devido à incompletude dos dados no nível individual. Mas mesmo um modelo simples com três variáveis ​​pode ser uma ferramenta interessante para uma nova visão do problema da explicabilidade do modelo.

Se você tiver melhores dados, melhor modelo ou melhores explicações, entre em contato. # explanCovid19

Relacionado