O magnata russo Pável Dúrov, fundador e CEO do Telegram , foi preso em 24 de agosto nos arredores de Paris assim que desceu as escadas de seu jato particular. É acusado, entre outras acusações, de cumplicidade na divulgação de imagens de pedofilia na rede de mensagens instantâneas que dirige, amplamente utilizada para atividades criminosas . Apenas uma semana depois, o juiz ordenou o fechamento do X no Brasil devido ao “incumprimento reiterado de ordens judiciais” por parte da rede social. O seu proprietário, Elon Musk, recusa-se a bloquear perfis que contribuam para a “divulgação massiva de discursos nazis, racistas, fascistas, odiosos e antidemocráticos”.

Estas duas pancadas na mesa são sintomáticas de uma mudança de época. Durante a primeira década deste século, as redes sociais nos fascinaram e conquistaram , a tal ponto que mais da metade da humanidade (cerca de 4,5 bilhões de pessoas) hoje as utiliza diariamente. Durante o segundo, cresceram e tornaram -se gigantes empresariais e omnipresentes, mas também começaram a mostrar o seu lado negro, com o escândalo Cambridge Analytica como o primeiro grande sinal de alerta. Na terceira década, articula-se uma reação aos seus excessos.

Os casos do Telegram e do X fazem parte desta última onda. A prisão do magnata nascido na Rússia, para além do seu contexto geopolítico, envia uma mensagem aos altos executivos das empresas tecnológicas: eles também podem ser considerados pessoalmente responsáveis pelo que acontece nas suas plataformas. O fechamento do X no Brasil, por sua vez, mostra que os governos não hesitam mais no confronto com as plataformas. “É o primeiro exemplo de que os países latino-americanos podem decidir o seu próprio futuro na economia digital, abrir uma nova caixa de ferramentas regulatórias contra a tecnologia e, sem se alinhar com os Estados Unidos ou a China, decidir o seu próprio caminho em direção à soberania tecnológica”, afirma Ekaitz Cancela, pesquisador do Instituto Interdisciplinar da Internet (IN3) da Universidade Aberta da Catalunha.

Paloma Llaneza, advogada especializada em direito digital , acredita que estamos diante de uma clara mudança de tendência: passamos da não regulamentação para um frenesi regulatório, “algo muito comum em todas as revoluções tecnológicas”. Para o advogado, o caso das redes sociais demonstra claramente que o modelo de “deixar crescer primeiro e regular depois” não funciona. “Acho que estamos vivendo uma nova etapa”, concorda Rodrigo Cetina, professor de Direito da Escola de Administração de Barcelona (Universitat Pompeu Fabra) e especialista em redes sociais e no sistema jurídico americano. “A União Europeia está mais ativa do que nunca e a DSA [ Lei dos Serviços Digitais ] começa a ser aplicada. O que aconteceu no Brasil é um sinal poderoso de que alguns países não estão dispostos a tolerar tudo.”

A resposta às grandes plataformas já vem fermentando há algum tempo. A UE implementou uma arquitetura jurídica ambiciosa que começou em 2018 com a entrada em vigor do Regulamento Geral de Proteção de Dados (RGPD), um regulamento que, entre outras coisas, obriga as empresas a declarar quais as informações que vão utilizar sobre os utilizadores da Internet. e com que finalidade. A DSA, criada em simultâneo com a Lei dos Mercados Digitais (DMA) e que tem sido aplicada de forma generalizada desde fevereiro deste ano, estabelece obrigações específicas para as plataformas digitais, como aumentar a sua transparência e combater a difusão de conteúdos ilícitos, que estas deve retirar-se rapidamente para evitar ser sancionado. Em apenas meio ano de existência, a DSA iniciou investigações contra X , por suspeita de propagação de desinformação, e contra Meta, empresa-mãe do Facebook e Instagram , para avaliar os seus possíveis efeitos nocivos entre os jovens. Também forçou o TikTok a retirar um aplicativo que pagava pela visualização de vídeos. O toque final neste quadro regulamentar virá em 2026, quando começar a ser aplicado o Regulamento de Inteligência Artificial (IA) aprovado este ano , que estabelece diferentes requisitos e obrigações para as aplicações de IA em função dos riscos que a sua utilização representa.

Nos EUA, a maior parte da reação à aparente impunidade das plataformas está a ser conduzida através dos tribunais. Uma série de ações movidas por famílias e instituições de ensino acusam as principais redes sociais de terem um desenho que prejudica conscientemente a saúde mental e física dos menores. Ao mesmo tempo, uma lei de privacidade semelhante ao RGPD europeu entrou em vigor na Califórnia no ano passado e outras estão a ser processadas para proibir deep fakes durante períodos eleitorais e para estabelecer salvaguardas para o desenvolvimento futuro de modelos de IA.

Também houve tentativas de reformar a chamada Seção 230, a regulamentação dos EUA que isenta as empresas de tecnologia de responsabilidade por conteúdo de terceiros que circula nas plataformas. Mas não deram frutos. “É muito difícil que haja mudanças se à partida cada parte diagnostica o problema de uma forma muito diferente da outra. Para os republicanos, o problema das redes sociais é que elas censuram; para os democratas, que espalham desinformação e conteúdo de ódio”, diz Cetina.

(Transcrito do jornal El País)