Foto: Canva, Chatgpt
O Discord informou às autoridades que existem indícios de que as ações que antecederam a morte de uma adolescente de 13 anos podem ter sido articuladas, total ou parcialmente, em outras plataformas, entre elas TikTok e Telegram. Segundo a empresa, atividades realizadas fora do Discord podem ajudar a explicar por que os mecanismos internos de segurança não identificaram o risco de forma imediata.
O TikTok, por sua vez, negou ter encontrado qualquer sinal de coordenação relacionada ao caso. A empresa afirmou que realizou buscas após ser acionada pelas autoridades, mas não identificou evidências de articulação do episódio ou de direcionamento de usuários por meio da plataforma. A reportagem não conseguiu contato com representantes do Telegram.
O caso levou a Agência Nacional de Proteção de Dados (ANPD) a determinar, na quarta-feira (12), a suspensão das transmissões ao vivo no Discord. A decisão ocorreu após a morte da adolescente, que teria sido induzida por outros jovens à automutilação e ao suicídio, com parte das cenas transmitida pela plataforma. A empresa recebeu prazo de três dias úteis para cumprir a determinação.
Em documento encaminhado ao governo federal, o Discord ressaltou que a referência ao TikTok e ao Telegram tem o objetivo de esclarecer os limites técnicos de sua plataforma e contribuir para a reconstrução da sequência dos acontecimentos, e não de afastar sua responsabilidade sobre o episódio.
A empresa também reconheceu que havia sinais de risco na transmissão, mas que eles não foram suficientes para gerar um alerta interno considerado confiável. Segundo o documento, a transmissão recebeu uma pontuação de risco de 0,12, enquanto o sistema utiliza 0,95 como limite para uma identificação automatizada. O Discord informou que o resultado está sendo reavaliado para verificar possíveis melhorias na capacidade de detecção.
Ainda segundo a empresa, um órgão de segurança enviou uma comunicação sobre o caso às 3h50, porém com poucas informações. Menos de 25 minutos depois, o servidor utilizado para a transmissão foi retirado do ar.
Uma nota técnica da ANPD apontou limitações nos mecanismos utilizados pelo Discord para análise de conteúdo e identificação de violações em tempo real. O órgão avaliou que a plataforma depende de sistemas automatizados e de denúncias feitas pelos próprios usuários.
Para a ANPD, a baixa classificação de risco atribuída à transmissão representa uma falha grave de calibragem do sistema. O documento também destaca que, em situações envolvendo risco de morte, automutilação ou lesões graves de crianças e adolescentes, o risco de um falso negativo é muito maior do que o de encaminhar um caso para avaliação humana adicional.
A morte da adolescente ocorreu em 22 de julho. O episódio ganhou repercussão política após a primeira-dama Janja Lula da Silva defender, na quinta-feira (6), a retirada da plataforma do ar.
Questionado sobre o documento enviado ao governo, o Discord encaminhou uma manifestação relacionada à decisão da ANPD. A empresa afirmou que não tolera grupos ou indivíduos que promovam violência e contestou a caracterização feita pelo órgão regulador sobre seus mecanismos de segurança.
O Discord também declarou haver evidências de que a atividade criminosa que teria levado à morte da adolescente começou a ser coordenada em outras plataformas antes da criação do servidor utilizado no Discord e continuou em outros ambientes depois que os usuários foram banidos.
Já o TikTok afirmou manter cooperação permanente com as autoridades e disse não ter encontrado indícios de articulação do caso dentro da plataforma. A empresa acrescentou que monitora conteúdos que direcionam usuários para grupos extremistas ou para outras plataformas e que remove publicações que violam suas regras, incluindo práticas de assédio coordenado e conteúdos considerados prejudiciais
Informações: ICL Notícias.
Leia mais:
