Entenda polêmica sobre app do Google ser impreciso com a pele negra
Anunciado em maio pela empresa, o Derm Assist nem foi lançado, mas já virou centro de uma polêmica na web
atualizado
Compartilhar notícia
O Google apresentou, em maio deste ano, o Derm Assist, aplicativo dermatológico que, por meio de Inteligência Artificial (IA), pode identificar até 288 doenças de pele apenas com algumas fotos feitas pela câmera do seu celular. Apesar da versatilidade, o app vem sendo criticado por não ser totalmente preciso com tons de peles negras. Mas, se a tecnologia nem foi lançada, como podem ter percebido esse problema?
Durante o Google I/O, evento global da empresa que divulga novidades da plataforma, realizado no dia 18 de maio, o Google apresentou uma prévia do app. Inovador e prático, ele tem sido desenvolvido há mais de três anos, e promete facilitar a identificação de patologias cutâneas e ser um grande aliado de médicos e enfermeiros.
Como funciona?
De forma simples, a pessoa tira algumas fotos da pele, unhas ou dos cabelos e envia para a plataforma do aplicativo. Em seguida, responde à algumas perguntas e, baseada na sua idade, sexo e tipo de pele, a IA do app vai comparar as fotos e suas informações pessoais aos dados que possui em seu banco. Levando em consideração uma base de dados com 64.837 fotos de 12.399 pacientes, o aplicativo vai te dar respostas sobre a possível lesão.
O que gerou polêmica, no entanto, foi o algoritmo no qual a IA se baseia. De acordo com o que foi anunciado pelo próprio Google, a tecnologia surgiu de pesquisas realizadas, durante anos, por diversos especialistas e pesquisadores. Os resultados e análises coletadas foram apresentados em um artigo publicado pela revista Nature Medicine, em maio do ano passado. O estudo, de fato, comprovou a eficácia para reconhecer problemas de pele.
Análise de peles negra
No entanto, o artigo da Nature se baseia em um banco de dados formado, em mais de 90% dos casos, por pessoas de pele clara. Baseados na escala de Fitzpatrick (que mede os tons de pele em seis: sendo quatro para variações de tons branco e apenas V e VI para pele morena ou negra, respectivamente) apenas 2,5% das peles analisadas vieram de pacientes com peles do tipo V e VI.
Escala de Fitzpatrick
A escala, criada em 1975, é utilizada até hoje na área dermatológica para identificação de tons de pele. Nos dados apresentados acima, foram levados em consideração a autodeclaração do paciente que participou do estudo. Quando analisados na escala, os números são mais esclarecedores sobre as críticas que o aplicativo tem enfrentado, ainda que não esteja funcionando “para valer”.
Veja a escala:
“Ela descreve a cor da pele baseada no quanto o indivíduo bronzeia ou queima de acordo com sua exposição solar. O indivíduo do tipo 1 sempre queima e nunca bronzeia [branco, loiro, olho azul], já o indivíduo tipo 6 sempre bronzeia e nunca queima [pretos retintos]”, explica o dermatologista e especialista em pele negra André Moreira.
Neste ponto, os dados analisados pelo Derm Assist mostram maior disparidade. Nos dados coletados entre 2010 e 2017, 90,2% dos tons de pele analisadas pelo estudo se enquadram nos tipos de I a IV na escala de Fitzpatrick. E apenas 3,5% são dos tipos V e VI. Mais tarde, em uma nova análise feita entre 2017 e 2018, apenas 2,7% se enquadravam nos tipos V e IV. As demais representavam 94%.
“O problema é muito maior”, explica Moreira. “Não só nesse banco de dados do Google, mas em todas as fontes de informação e ensino de doenças de pele e cabelos, as fotos de pessoas pretas, principalmente as retintas, são escassas”, alerta o dermatologista, que alega uma maior defasagem de negros nos consultórios dermatológicos como pacientes, assim como nas pesquisas.
“Enquanto dermatologista e mentor de futuros dermatologistas, me esforço para mostrar que as doenças de pele têm apresentações diversas na pele preta. Faço do meu consultório um lugar de acolhimento e inclusão, mas reconheço que ainda falta muito para que as disparidades de representatividade racial sejam resolvidas”, analisa o médico.
Google diz que está aprimorando app
Questionado sobre os dados analisados na pesquisa, o Google alegou, ao Metrópoles, que continua aprimorando os dados do aplicativo até que ele seja lançado e que “equidade será – e continuará sendo – o nosso foco principal e isso inclui o trabalho com conjuntos de dados que abrangem diferentes etnias, tipos de pele e grupos etários, além de parceria com médicos e especialistas com experiência em trabalhos com comunidades raciais”.
Ainda sem data de lançamento, a empresa afirmou que não vai parar de trabalhar no conjunto de dados no qual ele se baseia e que continuará revisando e analisando seu desempenho.
Confira a nota da empresa, na íntegra:
“Nosso trabalho é resultado de mais de três anos de desenvolvimento contínuo. Seguindo nossa pesquisa inicial, publicada na Nature Medicine e na JAMA Network Open, continuamos a refinar a tecnologia na qual nossa ferramenta é construída, incluindo o fornecimento de conjuntos de dados adicionais. A equidade será – e continuará sendo – o nosso foco principal e isso inclui o trabalho com conjuntos de dados que abrangem diferentes etnias, tipos de pele e grupos etários, além de parceria com médicos e especialistas com experiência em trabalhos com comunidades raciais. Nossa pesquisa, revisada por pares, mostrou que o nosso modelo de Inteligência Artificial tem um bom desempenho em todas as etnias, aprimora a capacidade dos médicos nos cuidados primários, e ajuda os enfermeiros a interpretar condições dermatológicas, inclusive para pacientes negros e hispânicos ou latinos. Estamos comprometidos com a continuidade da pesquisa e seus desenvolvimentos adicionais, à medida que ajudamos a conectar as pessoas a informações relevantes sobre questões comuns da pele.”
