IA sabe distinguir etnias por raio-x e cientistas não sabem por quê

Por meio de imagens de raio-X e tomografias computadorizadas, uma inteligência artificial (IA) conseguiu diferenciar, com uma precisão impressionante, a etnia de pessoas.

O curioso do caso, descrito por pesquisadores do Massachussets Institute of Technology (MIT) e publicado na revista científica Lancet Digital Health, é que, para seres humanos, não há diferença identificável neste aspecto.

O caso foi visto com preocupação pelos especialistas. A precisão na identificação da IA foi de 90%, considerada bastante alta. Desde então, esta habilidade da IA tem sido estudada pelos pesquisadores.

“Essa é uma façanha que nem mesmo os médicos mais experientes podem fazer, e não está claro como o modelo foi capaz de fazer isso”, afirmou o MIT em comunicado.

Marzyeh Ghassemi, professora assistente de engenharia elétrica e ciências da computação e co-autora do paper, pensou que se tratava de um engano quando observou os resultados pela primeira vez.

Análise detalhada

Os testes de reconhecimento de imagens foram desenvolvidos com um modelo de aprendizado profundo (deep learning, na expressão em inglês).

O sistema foi alimentado com imagens de raios-X de tórax, raios-X de membros, tomografia computadorizada de tórax e mamografias de grupos variados de pessoas, das etnias branca, negra e asiática.

Todas as identificações raciais, além de outras características que ajudariam nesta análise – tais como cor de cabelo ou de pele -, foram removidas.

Co-variantes, como índice de massa corporal (IMC) ou densidade dos seios, que poderiam sugerir uma etnia ao invés de outra, também, foram retiradas para garantir que não houvesse engano nos resultados, já que os cientistas suspeitavam que a IA pudesse estar usando dados estatísticos como esses para enganar o sistema.

Pesquisadores intrigados

Os pesquisadores seguem intrigados sobre como é possível uma identificação tão precisa em condições tão adversas. Em outros estudos, a IA conseguiu até mesmo identificar características pessoas em imagens muito corrompidas ou modificadas.

A evolução da IA não será aplicada, ainda, a hospitais e clínicas até que se compreenda totalmente como ela funciona realmente.

O estudo, “ Reconhecimento de AI da raça do paciente em imagens médicas: um estudo de modelagem ”, foi publicado na Lancet Digital Health em 11 de maio. Celi e Ghassemi escreveram o artigo ao lado de 20 outros autores em quatro países.