Editorial de O Estado de S. Paulo (7/10/2021)

Desde que surgiu, o Facebook proclama que sua missão é “tornar o mundo mais aberto e conectado”, o que presume valorização das relações pessoais e de laços sociais. Seus algoritmos, contudo, foram programados basicamente para gerar o máximo de engajamento, o que tende a privilegiar a publicação e o compartilhamento frenético de conteúdos muitas vezes nocivos à saúde e à democracia.

Esse modelo de negócios foi denunciado no dia 5 passado por uma ex-programadora do Facebook, Frances Haugen, em depoimento ao Congresso dos EUA. Segundo ela, entre os conteúdos que geram mais interação no Facebook estão os que “fazem mal às crianças, alimentam a divisão e enfraquecem a nossa democracia”.

A suspeita é antiga. Frances Haugen tornou públicos documentos internos do Facebook que comprovariam que a empresa tinha evidências desses impactos, e não só não fez nada para reduzi-los, como pode tê-los maximizado. A se confirmar a veracidade da denúncia, ficará claro que o Facebook não se importa com o fato de que os conteúdos tóxicos que seu sistema favorece ajudam a tornar o mundo mais fechado e dividido, desde que esse engajamento lhe dê lucro e colabore para consolidar seu monopólio.

O Facebook alega que promove a responsabilidade social removendo conteúdos danosos, mas os documentos mostram que a empresa tomou medidas contra apenas uma pequena fração das publicações contendo discursos de ódio e incitação à violência.

Em 2018, o Facebook anunciou que, a fim de mitigar a radicalização, priorizaria publicações de amigos e família. Seus pesquisadores, no entanto, coletaram evidências do efeito oposto: “A desinformação, a toxicidade e o conteúdo violento prevalecem desordenadamente nos compartilhamentos”. Os documentos mostram ainda que pesquisadores do Instagram – uma das redes do Facebook, assim como o WhatsApp – mensuraram que, para 13,5% das adolescentes, a plataforma agravou ideações suicidas e para 17%, suas desordens alimentares.

Cientistas da Equipe de Integridade – da qual Haugen fazia parte – trabalharam em uma série de potenciais mudanças para reverter a tendência dos algoritmos a premiar ultrajes e mentiras. Mas os memorandos revelam que Mark Zuckerberg, o dono do Facebook, resistiu a várias dessas soluções, porque poderiam diminuir o engajamento dos usuários.

Em um artigo recente na revista The Atlantic, os psicólogos Jonathan Haidt e Tobias Rose-Stockwell fizeram uma recensão da literatura científica evidenciando que as redes contribuem para a ansiedade e depressão entre adolescentes e para a polarização política. Reunindo as melhores recomendações dessas pesquisas, os autores sugerem maneiras de remediar esses males.

Uma seria reduzir a frequência e a intensidade das performances públicas. As mídias criam mais incentivos a arroubos moralistas do que à comunicação autêntica. Reduzir a valorização do engajamento, hoje absoluta, seria um modo de induzir os usuários a julgar as publicações por seu mérito, ao invés de submetê-los a uma contínua disputa por popularidade. Outra possibilidade é reduzir o contágio da desinformação, por exemplo, utilizando a Inteligência Artificial para identificar conteúdos tóxicos e advertir os usuários.

A questão em relação a essas e outras ferramentas é quem as implementaria: os governos, as próprias redes, os usuários? O problema ganhou nova dimensão graças às denúncias de Frances Haugen. Nos EUA, já se discute uma expansão da Lei de Privacidade Infantil Online, tornando ilegal computar informações pessoais de crianças. Outra possibilidade é limitar a prerrogativa das redes sociais de não serem responsabilizadas por conteúdos publicados por seus usuários, mesmo quando moderados por elas.

Sejam quais forem as soluções encontradas, o fato é que alguma forma de regulação se faz necessária. Não se pode, a pretexto de preservar a livre-iniciativa, deixar que uma empresa construa um gigantesco monopólio, estimule a disseminação de mentiras para ampliar seu lucro e concentre poder de maneira assustadora sem que seja submetida a limites democraticamente estabelecidos.