Ferramenta que mede inteligência artificial avalia o ChatGPT. Veja

Austin (EUA) – Será que as inteligências artificiais – representadas pelo ChatGPT – vão se tornar sencientes um dia? A resposta para essa pergunta pode empolgar ou causar calafrios, dependendo de quem responde. Mas, no SxSW 2023, a consultoria Wunderman Thompson apresentou um “sencientômetro” (em inglês, “Sentientometer”), uma ferramenta para determinar o grau de consciência da IA.

E aqui um spoiler: o ChatGPT falhou miseravelmente no teste.

“Antes de dizer ao mundo que sua inteligência artificial está senciente, é melhor consultar um amigo”, brinca Jason Carmel, responsável pela área global de dados da Wunderman Thompson. Sua provocação faz sentido. Afinal, em junho do ano passado o Google demitiu um de seus engenheiros, que veio a público afirmar que os sistemas da big tech eram sencientes. Isso gerou uma avalanche de manchetes com pouco ou nenhum apoio na verdade dos fatos, diz Carmel.

O que é senciência e… dá para medir?

Para o especialista, confundir inteligência com senciência é o primeiro passo para uma compreensão errada. Enquanto a primeira é, essencialmente, organizar e utilizar informações, a segunda demanda um grau mais avançado de percepção – e até de emoções, pois depende da interação com o meio.

E ainda há a variável “consciência” – um ser consciente pode não ser senciente, por exemplo, quando não interage com o meio. Então, criar o “sencientômetro” faz sentido – é preciso mostrar para o público os diferentes níveis de evolução da IA.

“Tentamos andar sobre uma linha tênue: discutir seriamente as implicações e contradições do sentimento numa IA e ao mesmo tempo satirizar o desejo de quantificar algo que é inerentemente subjetivo. Assim, os elementos que temos no ‘sencientômetro’ que definem termos e componentes são muito reais, mas a pontuação ao final da sessão é uma leve diversão” diz Carmel, em conversa com o Metrópoles.

E define o instrumento: “O ‘sencientômetro’ é uma ferramenta pedagógica mais do que um mecanismo de pontuação. O fato de ser totalmente impossível obter uma boa pontuação neste teste faz parte da lição”, continua.

Um ponto crítico da apresentação de Jason Carmel – e de Ilinca Barsan, diretora de ciência de dados da Wunderman –, é a ética na inteligência artificial. Para os dois especialistas, é imprescindível que os programadores incluam ética em toda e qualquer IA imediatamente.

Conceitualmente, ser transparente e entender os impactos de suas ações. Mas, na prática, significa “não fazer coisas ruins e não machucar humanos”, como diz Carmel.

ChatGPT faz o teste de senciência ao vivo e…

A essa altura, você deve estar se perguntando sobre o teste com a ferramenta de inteligência artificial mais popular do momento, o ChatGPT. Sua versão 4.0 foi lançada durante o festival, mas a 3.5 foi testada ao vivo no palco. E o resultado? Um pífio 1% – que, claro, frustrou a plateia, que emitiu um sonoro “oooh”.

E o mais chocante é que, segundo Carmel e Barsan, esse resultado não vai mudar durante muito, muito tempo.

“Se juntássemos todas as IAs e fizéssemos o mesmo teste, o resultado seria baixo da mesma forma”, afirmou Carmel. “Não acredito que vamos ter IAs sencientes num futuro próximo. Se vermos essa afirmação, é apenas porque limitamos radicalmente o que se entende por sentimento para lidarmos com a tecnologia. E senciência não é o objetivo de nenhuma empresa de tecnologia”.

O fator humano e as inteligências artificiais

Para Ilinca Barsan, o “sencientômetro” serve para mostrar para o público geral quão longe ainda estamos de uma ferramenta de fato com algo remotamente próximo da consciência humana.

“Me acalma o fato de pensar que, mesmo que algum dia alguma ferramenta marque as caixinhas mais impossíveis do teste, ainda assim isso não garante uma IA senciente”, apontou Barsan.

E coube a Barsan lembrar um ponto muito importante no encantamento na interação com a IA. Para a cientista de dados, o fator humano vai, cada vez mais, se tornar um diferencial nos produtos. Saber que o texto, o produto, ou o processo, teve o olhar humano ganhará, cada vez mais, um valor maior.

“É a mágica da arte, da literatura. É a experiência humana, é a visão única de cada pessoa sobre o mundo. Ao contrário da IA, que apenas embola tudo junto e nos entrega”, concluiu.

Itens do “sencientômetro”:

Experiência: interação e participação em de eventos internos e externos; sensorial, memória e emoção;
Agência: poder fazer escolhas e conectar-se de forma ativa com outros;
Magia: juntar os pontos pontos, ser capaz de sintetizar de forma pessoal ter capacidade de causar surpresa.