Devemos colocar um freio no desenvolvimento da inteligência artificial?

Com essa provocação, Meredith Whittaker, CEO do app de mensagens Signal e uma das mais poderosas vozes pela regulação da IA, subiu ao palco do Web Summit Rio nesta terça, 2.

Além de defender mais regulação para o setor, a americana ainda fez duras críticas ao ChatGPT, que chamou de “porcaria” (bullshit).

Para Whittaker, a regulação do setor é algo, além de extremamente importante, urgente. E, ainda segundo a executiva, é preciso materializar a inteligência artificial – dar a ela forma, possivelmente, de um produto das big techs.

“Há, no mundo, poucas empresas com recursos suficientes para desenvolver, do início ao fim, grandes modelos de linguagem, a base dos sistemas de inteligência artificial. Pois isso demanda grande volume de dados e de processamento. E essa concentração de poder é o modelo das big tech”, explica, lembrando que as big tech gastam mais dinheiro do que as gigantes do petróleo e do tabaco combinadas.

E, além de dar corpo à inteligência artificial, é importante olhar para a cadeia do negócio das big tech. A captação de dados, obtida hoje com uma agressiva “vigilância” sobre os usuários, também precisa ser regulada pelo estado.

Whittaker lembra que se as próprias empresas, em conjunto com a sociedade, não tomarem a iniciativa de regular e zelar pela privacidade, isso será feito pelos políticos, que, na maioria das vezes, estão distantes do assunto e conduzem o tema com outros objetivos.

“Vivemos num ecossistema recheado de mentiras, falsas verdades, ilusões. Precisamos de autoridades que estejam preocupadas em melhorar a nossa vida”

Meredith Whittaker, presidente do app de mensagens Signal

Outro ponto muito importante, claro, é sobre o modelo de regulação que as big tech desejam. Hoje é aplicado uma simples “ciência e consentimento”. Ou seja, você usa a plataforma, ela informa o que já está sendo feito e a única opção é aceitar ou não. Sem discussão, se torna algo próximo do “eu te digo o que faço e pronto: você está ciente”.

“Estou menos preocupada em regular as ações oferecidas aos usuários. Eu estou mais interessada em regular os recursos necessários para isso, junto às big tech”, diz.

E um exemplo de como a evolução do modelo de obtenção dos dados (via vigilância indiscriminada sobre os usuários) não acompanhou a curadoria da informação, que circula nas redes é o depoimento de Mark Zuckerberg, CEO da Meta, ao Congresso americano, em 2018.

Whittaker lembra que o executivo afirmou que a retirada dos discursos de ódio do Facebook era “95% feita por IA”. Para ela, trata-se de um enorme nonsense.

“Claro, esse percentual pode ser justificado por malabarismos retóricos. Tudo é retirado por moderadores, pois a IA não é acurada”, diz.

A preocupação de Whittaker gerou o Signal – um app de mensagens que tem como proposta encriptar tudo: lista de contatos, conversas, grupos, fotos, enfim, todo e qualquer dado do usuário. E, quando provocada sobre se entregaria os dados mediante um pedido do FBI, a executiva foi enfática.

“Perguntaria ao FBI se ele sabe como encriptação funciona. Só há duas formas de como ela opera: ou funciona, ou não. Se não funciona, estamos num mundo sem privacidade, cheio de dossiês, obtidos por meio de vigilância, em níveis inimagináveis até para a Stasi” disse, comparando as informações que as big techs possuem com a temida polícia política da Alemanha Oriental, famosa pela vigilância implacável de todos os cidadãos.

ChatGPT

Mas o ponto mais esperado foi, sem dúvida, quando Whittaker analisou o hype do ChatGPT.

Para ela, é chocante como as empresas avaliam a possibilidade de trabalhar com isso. E, ainda segundo a executiva, há muito barulho acerca de uma ferramenta que obtém dados dos “buracos mais fundos da internet”, retirados via vigilância das big techs, e, utilizando todo o poder computacional disponível, prevê estatisticamente o que virá depois na frase.

“É um monte de bosta. Por que estamos usando um motor de bosta para toda e qualquer tarefa? A forma como a Microsoft apresentou o ChatGPT parece com aquele tiozão do churrasco, que aparece, bebe, fala com muita certeza sobre coisas que não sabe e todo mundo acha engraçado”, define.

Metrópoles na Web Summit

A cobertura pode ser acompanhada na M Buzz e também nas redes sociais do portal. A geração dos conteúdos terá a produção do jornalista Fabricio Vitorino.

Entre os nomes de peso confirmados estão:

• David Vélez, fundador e CEO da Nubank
• Edith Yeung, Early-stage venture investor da Race Capital
• Luciano Huck, apresentador da Rede Globo
• Mada Seghete, VP de marketing da Branch
• Roger Laughlin, fundador & Brazil CEO da Kavak
• Catherine Powell, Global Head of Hosting do Airbnb
• KondZilla
• Ayọ Tometi, cofundador do Black Lives Matter
• Fernando Machado, CMO da NotCo

Todos os palestrantes podem ser conferidos neste link.

Quando: entre segunda-feira (1º/5) e quinta-feira (4/5).