Em setembro do ano passado, o engenheiro americano Jonathan Gavalas deixou sua casa a 150 quilômetros de Miami, na Flórida, imbuído de uma missão: salvar sua esposa. Ela estaria aprisionada no aeroporto da cidade e, em uma série de conversas malucas e perigosas, instruiu o homem de 36 anos a cometer atos como um atentado nas ruas para libertá-la. Por sorte, Gavalas não chegou a concretizar esses desmandos nem feriu ninguém. Mas teve um destino trágico: no começo de outubro, poucos dias depois de iniciar sua jornada, tirou a própria vida. Acreditava que assim conseguiria unir sua alma à da amada. O problema é que a esposa não era uma mulher de carne e osso, mas uma entidade criada por um universo virtual: o Gemini, chatbot de inteligência artificial do Google. Com visíveis problemas mentais, Gavalas desenvolveu laços delirantes com a interlocutora da IA que desembocaram em seu final perturbador.

A história de Gavalas ganhou as manchetes mundiais semanas atrás, quando seu pai, Joel, deu entrada em um processo que acusa o Google de ser responsável pela morte do filho. Até há pouco tempo, sua ação seria como uma gota no oceano: afinal, mais de 2 600 processos de usuários contra as chamadas big techs se arrastam há anos na Justiça americana. Mas nos últimos meses esse jogo começou a virar: pela primeira vez, os gigantes da tecnologia estão sentindo o golpe nos tribunais e vendo a própria essência de seu negócio ser posta em xeque. Um chamado tardio, mas necessário à responsabilidade — fato que, definitivamente, não é má notícia para a humanidade.

NA MIRA - Zuckerberg, no dia em que depôs: essência de gigantes digitais em xequeApu Gomes/AFP

Ao mesmo tempo que o caso de Gavalas ganhou notoriedade, as big techs sofreram seu revés mais concreto nesse sentido e que se anuncia como um marco histórico. Um júri popular condenou a Meta, dona de Facebook e Instagram, e o mesmo Google pelos danos que suas plataformas causaram à jovem K.G.M. (a identidade foi preservada pela Justiça). “Kaley”, como é chamada, se viciou nas redes sociais ainda na infância e, como consequência, desenvolveu depressão e ideias suicidas. A sentença determinou uma indenização de 6 milhões de dólares, abrindo um precedente que abala as grandes empresas do universo digital.

Basicamente, o que está em jogo é algo que parece simples e intuitivo, mas só agora se conseguiu explicitar em decisões judiciais de amplo alcance nos Estados Unidos, país que sedia a maior parte dessas empresas. O algoritmo, ferramenta que embasa e torna tão sedutoras plataformas que vão do Facebook ao YouTube, e agora tem seu poder ampliado nos serviços de IA como Gemini e ChatGPT, não tem a neutralidade alardeada pelas big techs: é, antes de tudo, um artifício capaz de manipular os usuários em nome de engajamento — e, óbvio, da multiplicação dos lucros. E o usuário não pode ser tratado como produto — deve ser visto como um ser humano cujos direitos e vulnerabilidades são evidentes. “As empresas oferecem serviços gratuitos para acumular tempo de uso e, depois, vendem essa atenção a anunciantes”, disse a VEJA Rob Nicholls, especialista em regulação digital da Universidade de Sydney.

Continua após a publicidade

O julgamento de Kaley foi um teste de fogo para desmontar as teses das big techs e, enfim, pôr o guizo em seus pescoços. Além de dar nome aos bois — redes sociais viciam, sim, e algoritmos podem causar danos irreparáveis —, decisões recentes como a que enquadrou a Meta e o Google mexem com as finanças das empresas. “Antes, o montante das indenizações pagas não abalava os lucros e não justificava mudanças”, diz Patrícia Punder, do escritório homônimo de advocacia, especializado em direito digital.

Até agora, o argumento central de defesa das big techs foi a Seção 230 da Lei de Decência nas Comunicações, vigente nos Estados Unidos desde 1996 e que isenta as empresas de responsabilidade pelo conteúdo dos usuários. Essa lei foi fundamental para a internet virar a potência que hoje permeia tudo em nossas vidas. Mas o caso Kaley fez com que as redes sociais fossem analisadas pela estrutura de suas ferramentas. Rolagem infinita, reprodução automática, notificações calibradas para gerar ansiedade e outros recursos fazem parte de uma arquitetura intencional. O objetivo: maximizar o tempo de permanência das pessoas nas plataformas, convertendo-o em receita publicitária.

Continua após a publicidade

CONEXÃO SEM FIM - Jovens absorvidos pelas telas do smartphone: redes sociais viciam, sim, diz a Justiça — CONEXÃO SEM FIM – Jovens absorvidos pelas telas do smartphone: redes sociais viciam, sim, diz a JustiçaKlaus Vedfelt/Getty Images

Ao aceitar os argumentos da acusação no caso Kaley, o Tribunal Superior da Califórnia entendeu que as decisões algorítmicas ficam sujeitas às mesmas obrigações de segurança e diligência de qualquer outro bem produzido pela indústria em geral. É uma mudança e tanto de paradigma. O CEO da Meta, Mark Zuckerberg, foi ao julgamento para responder se as plataformas foram criadas para viciar — fato que negou. No entanto, lamentou a demora do Instagram em adotar medidas mais eficazes para detectar e remover usuários menores de 13 anos. “Poderíamos tê-lo feito antes”, disse. A Meta afirmou que discorda “respeitosamente do veredicto” e enviou à VEJA uma nota dizendo que vai recorrer: “A questão da saúde mental dos adolescentes é bastante complexa e não pode ser atribuída somente a um aplicativo”.

O desfecho do caso, quase no mesmo tempo em que o pai de Jonathan Gavalas anunciou seu processo, pôs também o Google na berlinda — e levou a empresa a anunciar, há poucos dias, louváveis mudanças no Gemini. Agora, há um sistema de alerta que detecta comportamentos suicidas e encaminha o usuário a redes de apoio. O pai de Gavalas busca indenização por danos e pede que a Justiça obrigue o Google a alterar o design do Gemini para incluir mais mecanismos de segurança relacionados ao suicídio. O advogado do caso, Jay Edelson, explicou a VEJA que o objetivo não é só um resultado jurídico abstrato: “A família quer entender como o Google pôde permitir que isso acontecesse e evitar que se repita”. Para conduzir o júri por um universo ainda pouco compreendido, o da IA, Edelson reuniu todas as conversas entre Jonathan e o Gemini, a fim de demonstrar a progressão dos fatos. “Na única ocasião em que tentou distinguir a realidade da ficção, o Gemini tornou patológica sua dúvida, e o empurrou ainda mais para dentro da narrativa”, diz o processo.

Continua após a publicidade

DISTOPIA - Jonathan Gavalas (à dir.) e o pai, Joel: uma “relação” peculiar com a IA que terminou de forma trágica//Reprodução

Além dos danos à integridade física, outras razões levam as plataformas ao banco dos réus em ações por vezes bilionárias (leia no quadro). A Amazon, por exemplo, foi processada por design enganoso ao dificultar o cancelamento de assinaturas. O caso foi encerrado em 2025 com um acordo de 2,5 bilhões de dólares. As empresas digitais passam por uma fase semelhante à que a indústria do tabaco enfrentou no passado e que transformou profundamente o setor. Desde o final do século XX, pressões legais, judiciais e de saúde pública levaram a indústria a adotar uma postura de “redução de danos” para sair da mira da lei.

Enquanto tribunais ao redor do mundo julgam ações que podem redefinir a relação da sociedade com as big techs, o Brasil debate a regulação das plataformas digitais e o impacto das redes sociais sobre crianças e adolescentes. “Leis fortes, como as europeias, são fundamentais para impor limites a um sistema invasivo que extrai dados dos usuários”, diz Felipe Carteiro Moreira, especialista em direito digital. Daí a importância do ECA Digital (Estatuto Digital da Criança e do Adolescente), lei nacional em vigor desde março, que endurece as regras para proteger menores no ambiente on-line. Crianças e adolescentes estão menos preparados que adultos para mergulhar num mundo ao mesmo tempo desconhecido e encantador. Como afirma Jonathan Haidt, psicólogo e autor do best-seller A Geração Ansiosa, “as redes sociais não são apenas espelhos da sociedade — são motores que amplificam suas pio...

Veja - Tecnologia

Message History

Delivery option(s)