As discussões sobre inteligência artificial estão em alta nas mídias sociais, especialmente aquelas voltadas para os negócios, como o LinkedIn. A razão do hype é o ChatGPT, criado pela Open AI.

É interessante ver toda a empolgação ao redor da tecnologia. Muita gente vislumbrando impactos significativos em suas empresas e áreas de atuação (ainda que tentando entender todos os prismas de sua aplicação), enquanto companhias fornecedoras de tech correm para incorporar as novidades.

Muito se fala sobre a substituição dos seres humanos pelas máquinas, porém, pouco se comenta do impacto ético na aplicação da tecnologia. Ético no sentido de que as tecnologias podem tomar decisões com efeitos expressivos na vida das pessoas.

A inteligência artificial  requer o envolvimento humano para torná-la cada vez mais “inteligente”. Neste processo, a consistência no “ensinamento” passa a ser algo crítico para que ela possa ser gradativamente mais assertiva. Acontece que, ao colocarmos seres humanos para “retroalimentar” a aprendizagem da máquina, inserimos nela certos vieses, diante do nosso contexto de vida ou função no trabalho.

Para entendermos  o quão crítico é o contexto da pessoa que está treinando a IA, trago um pouco da psicologia. Em 1990 pesquisadores descobriram que oxímetros — dispositivos usados para monitorar a quantidade de oxigênio transportado no corpo — não funcionavam bem em pessoas pretas, marcando mais saturação do que a realidade.

O que aconteceu para os oxímetros não serem precisos? Contexto! Estes equipamentos foram calibrados de acordo com as necessidades dos indivíduos que desenvolveram o produto. Mesmo isso tendo sido descoberto lá atrás, até hoje nada foi feito para corrigir essa leitura em pessoas pretas. Essa discussão, aliás, voltou à tona durante a pandemia da Covid-19.

Em resumo, o que eu quero dizer é que quem desenvolveu o oxímetro e o calibrou, elencou critérios para isso. Estes critérios estão relacionados a uma diversidade de fatores.  A influência dos critérios no psicológico dos indivíduos, se tornaram verdade absoluta para uma comunidade inteira –  a ponto de não ser mudado em mais de 30 anos.

Agora vamos voltar para o ChatGPT. Tudo que está sendo respondido pela tecnologia está baseada no que há de conhecimento hoje em dia, nos nossos costumes atuais. Ou seja, o ChatGPT tem seu contexto baseado no nosso contexto. E se ele for alimentado com algo incorreto? E se o que for correto hoje deixar de ser no futuro? Como vamos mudar nosso contexto no futuro se a tecnologia vai sempre reforçar o contexto de hoje, da mesma forma que ocorre nos oxímetros?

A questão mais importante que me vem à mente é: qual a implicação ética que o viés do contexto atual, na qual a tecnologia está sendo montada, vai nos impor?

Bom, 32 anos depois, o Centro de Controle e Prevenção de Doenças (CDC) nos Estados Unidos  abriu frentes de estudo para resolver a questão dos oxímetros, sem data para conclusão. Daqui alguns anos será que vamos conseguir entender o impacto do viés da IA em nossas vidas? A saber…

André Ferreira é general manager Latam da LivePerson, empresa global de tecnologia que desenvolve software de IA para comunicação entre marcas e clientes.