Vencedor do Nobel de Física alerta sobre os futuros perigos da IA

O britânico Geoffey Hinton, que, nesta terça-feira (8/10), foi vencedor do prêmio Nobel de Física de 2024, voltou a alertar sobre os potenciais riscos do aprendizado de máquina, especialmente a possibilidade de “consequências ruins” caso essas tecnologias saiam do controle.

Hinton, que trabalhou por mais de uma década no Google, deixou a empresa no ano passado para poder falar abertamente sobre os perigos da Inteligência Artificial (IA) generativa, uma nova fronteira tecnológica que permite a criação de conteúdos, como textos, fotos e imagens, a partir de comandos simples. Hoje, essa tecnologia está presente em chatbots e ferramentas como o ChatGPT e o Copilot.

Geoffey, que é professor da Universidade de Toronto, no Canadá, ganhou o prêmio junto com o americano John Hopfield, da Universidade de Princeton (EUA) por “descobertas fundamentais e invenções que permitiram o aprendizado da máquina por meio de redes neurais artificiais”, afirmou a comissão do prêmio.

Ao ser contatado por telefone pelo comitê do Nobel, ele acrescentou que, mesmo criticando a IA, “faria tudo de novo”. “Estou pasmo. Eu não fazia ideia que isso aconteceria”.

O lado negativo

A preocupação de Hinton com o futuro dessa tecnologia é compartilhada por Ellen Moons, integrante do comitê do Nobel na Academia Real de Ciências da Suécia. Ela destacou a conquista científica dos premiados deste ano, que “usaram conceitos fundamentais da física estatística para projetar redes neurais artificiais que funcionam como memórias associativas e encontram padrões em grandes conjuntos de dados”.

Moons lembrou que essas técnicas “se tornaram parte de nossas vidas cotidianas, por exemplo, no reconhecimento facial e na tradução de idiomas”. No entanto, ela também alertou para os possíveis efeitos negativos.

“Embora o aprendizado de máquina tenha enormes benefícios, seu rápido desenvolvimento também levantou preocupações sobre o nosso futuro. Coletivamente, os humanos têm a responsabilidade de usar essa nova tecnologia de forma segura e ética, para o maior benefício da humanidade”, afirmou a cientista.

Hinton é um dos pioneiros da Inteligência Artificial. Em 2012, ao lado de dois alunos de pós-graduação da Universidade de Toronto, ele criou uma tecnologia que serviu de base intelectual para os sistemas de IA modernos. Em maio de 2023, no entanto, ele juntou-se a um grupo de críticos, alertando que essas empresas estão avançando de forma arriscada em sua corrida para desenvolver produtos de inteligência artificial generativa.