Por dentro do drama de segurança da Roblox após uma entrevista tensa com o CEO

A mais recente entrevista do diretor executivo da ROBLOX revelou dúvidas há muito existentes sobre a cultura de segurança da plataforma. A Roblox tem estado sob escrutínio há anos, mas os números vieram reforçar essa atenção. A empresa conta agora com cerca de 150 milhões de utilizadores activos diários, muitos deles crianças, e registou um número interno anterior de mais de 13.000 casos de exploração infantil num único ano.

No podcast tecnológico Hard Fork, do The New York Times, o cofundador e diretor executivo da Roblox, David Baszucki, foi diretamente questionado sobre os predadores que visam as crianças no serviço. A sua decisão de descrever esse problema como "uma oportunidade" foi tomada com uma força invulgar, porque não surgiu isoladamente, mas num contexto de processos judiciais, falhas de moderação e lutas políticas que já levaram a confiança dos pais ao limite.

Três estados norte-americanos - Louisiana, Kentucky e Texas - interpuseram acções judiciais alegando que a Roblox não fez o suficiente para proteger os menores. Mais de 20 casos adicionais em tribunais federais alegam que a plataforma permitiu a exploração sexual. Ao mesmo tempo, a Roblox tem vindo a lançar estimativas de idade baseadas em IA e a alargar as restrições de conversação, promovendo depois essas ferramentas como prova de que está a manter-se à frente da indústria em geral.

Os apresentadores do Hard Fork, Casey Newton e Kevin Roose, enquadraram as suas perguntas nesse contexto. Quando Newton perguntou como ele pensava sobre "o problema dos predadores no Roblox", Baszucki respondeu:

"Pensamos nisso não necessariamente apenas como um problema, mas também como uma oportunidade. Como é que permitimos que os jovens construam, comuniquem e convivam juntos? Como é que construímos o futuro da comunicação ao mesmo tempo?" - David Baszucki.

O resto da resposta deixa claro que se trata de uma oportunidade para inovar na moderação e na conceção da comunicação. No entanto, esta frase transformou uma das realidades mais sombrias de qualquer plataforma para crianças num desafio de crescimento. Para os críticos, isso reforçou a suspeita de que a liderança da Roblox vê a segurança como outro problema de engenharia a ser otimizado, em vez de um limite rígido que pode limitar o que uma empresa deve fazer.

Durante toda a entrevista com o CEO da ROBLOX, Baszucki continuou voltando à escala como explicação e escudo. Ele observou que os utilizadores do Roblox registam cerca de 11 mil milhões de horas por mês e apontou o Steal a Brainrot, um jogo de sucesso que atingiu 25 milhões de jogadores simultâneos durante o verão, como prova do que a infraestrutura da plataforma pode suportar. Questionado sobre a facilidade com que os predadores conseguem contornar os filtros, recusou-se a responder diretamente:

"É uma das principais coisas que estamos a fazer é tentar manter as pessoas na nossa plataforma... estamos sempre a tentar manter-nos à frente". - David Baszucki.

Quando Newton seguiu, perguntando sem rodeios se ele acreditava que Roblox tinha um problema com predadores, Baszucki não admitiu a premissa.

"Penso que estamos a fazer um trabalho incrível em termos de inovação relativamente ao número de pessoas na nossa plataforma e às horas de trabalho, ao pensarmos no futuro de como isto vai funcionar." - David Baszucki.

A troca de impressões cristalizou a tensão. De um lado, uma empresa que passou quase duas décadas a criar ferramentas para jogos e comunidades gerados pelos utilizadores, que agora se apoia fortemente na filtragem por IA e na estimativa da idade para gerir o risco. Do outro, um grupo crescente de pais, reguladores, criadores e grupos de defesa que afirmam que a questão básica continua sem resposta: será que isto é suficiente e quem é que decide?

Esta questão tem sido aguçada por casos que vão para além do podcast. O Roblox baniu recentemente o YouTuber Schlep, um criador que construiu uma grande audiência encenando operações de "caça a predadores" em espaços Roblox. Os seus vídeos, que ele afirma terem levado a várias detenções, foram removidos e a sua conta foi encerrada ao abrigo das regras do Roblox contra acções de vigilantes. Os apoiantes juntaram-se por detrás da hashtag #freeschlep e argumentam que o seu trabalho evidenciou falhas nos sistemas da própria empresa. Para eles, ouvir o diretor executivo chamar à crise dos predadores uma "oportunidade", dias depois de ter cortado um dos vigilantes mais visíveis, ainda que controverso, pareceu uma leitura errada do momento.

A pressão legal também está a aumentar. Law By Mike, um popular YouTuber e advogado, anunciou publicamente os seus planos de intentar uma ação judicial contra a Roblox por alegadas lacunas na proteção das crianças. O seu envolvimento é importante porque ele atravessa dois mundos: compreende a mecânica da governação da plataforma e fala para o mesmo público de pais e adolescentes que tratam o Roblox como um bem comum social. Juntamente com as acções judiciais estaduais e federais, o seu impulso alarga a frente em que o Roblox tem de defender o seu historial.

Na entrevista ao Hard Fork, Baszucki tentou mudar o enquadramento da gestão de crises para a arquitetura a longo prazo. Ele descreveu o novo sistema de estimativa de idade facial - um vídeo selfie que é usado para avaliar a idade de um usuário antes de permitir que ele converse - como mais um sinal em uma pilha que também inclui dados comportamentais e idade auto-relatada.

"Já fazemos um monte de coisas: Temos filtros de texto muito, muito bons; não há partilha de imagens; estamos a fazer uma série de monitorizações. Mas acrescentar mais um sinal a tudo isto pode ajudar-nos a tomar decisões mais acertadas." - David Baszucki.

Ele argumentou que a plataforma historicamente trocou algum crescimento por segurança, filtrando fortemente o texto, invocando o velho meme do bate-papo do Roblox entrando em colapso em "hashtag, hashtag, hashtag" quando palavras proibidas foram bloqueadas. Com a IA, disse ele, os filtros podem tornar-se mais precisos e resistentes a tácticas adversas, como os utilizadores que tentam codificar detalhes de contacto através de frases codificadas.

O podcast, produzido como parte do portfólio de podcasts do The New York Times, não permaneceu nessa faixa técnica por muito tempo. Roose apresentou um relatório de 2024 da Hindenburg Research que acusava a Roblox de "comprometer a segurança das crianças para comunicar o crescimento aos investidores" e apontava para a redução dos gastos em confiança e segurança. Baszucki rejeitou a empresa com uma gargalhada. "Divertido. Vamos continuar a fazer isto", disse, referindo que a Hindenburg tinha entretanto fechado e argumentando que a mudança para sistemas de análise de IA é equivalente a passar de carros feitos à mão para uma linha de montagem. O objetivo, sugeriu, não era cortar nos cantos, mas aplicar melhores ferramentas.

Esta ênfase na IA coloca o Roblox numa categoria familiar. As redes sociais passaram grande parte da década de 2010 a prometer que os sistemas automatizados eliminariam os abusos e a desinformação em grande escala, mas acabaram por descobrir limites rígidos para o que a aprendizagem automática pode avaliar de forma fiável. Roose e Newton lembraram a Baszucki essa história. Ele respondeu insistindo que as métricas internas do Roblox mostram que a filtragem e a deteção melhoram à medida que novos modelos são implementados, e que a escala "alucinante" da plataforma torna esse tipo de automação não só eficiente como necessário.

Mesmo dentro dos jogos, a postura de moderação da Roblox está sob pressão. Grupos de defesa como Women In Games, Out Making Games e BAME in Games publicaram recentemente uma carta aberta criticando o projeto de regras de criação da empresa em torno de "questões sensíveis". As diretrizes recentemente propostas pela Roblox para os criadores relativamente a "questões sensíveis" representam um passo atrás tanto para a expressão criativa como para a justiça social", argumenta a carta, alertando para o facto de que tratar temas como a igualdade de género, os direitos reprodutivos e a justiça racial como zonas "sensíveis" opcionais ou de risco pode enterrar histórias importantes para os jovens jogadores. - Women In Games, Out Making Games e BAME in Games.

Essa crítica não se centra em predadores ou controlos de idade, mas fala da mesma preocupação subjacente: quem define os limites do que os jovens utilizadores podem ver e discutir, e a quem servem essas decisões.

A conversa sobre o Hard Fork acabou por se deslocar para o Polymarket, uma plataforma de previsão baseada em criptomoedas que Baszucki elogiou como um poderoso sinal de informação. Quando Roose perguntou, meio a brincar, se alguma vez colocaria um mercado de previsões dentro do próprio Roblox, Baszucki respondeu afirmativamente, reconhecendo depois a complexidade legal. Questionado sobre se transformar os mercados de previsões num jogo para crianças seria uma "ideia horrível", respondeu:

"Bem, na verdade, acho que é uma ideia brilhante se puder ser feita de uma forma educativa e legal... apenas um jogo chamado Dress to Impress Predictor, em que não se trata de tentar obter o dinheiro das crianças ou algo do género. Eu seria um grande adepto da ideia". - David Baszucki.

Para uma empresa que já está a ser examinada pela forma como trata os menores, a ideia de construir um motor de previsão gamificado dentro do Roblox, mesmo sem interesses financeiros diretos, será difícil de separar dos debates mais amplos sobre caixas de saque, mecânica de jogo e compulsão digital.

Em vários pontos, Newton notou que a conversa parecia tensa. Baszucki insistiu que não estava frustrado, apenas surpreendido com o facto de o foco se manter na segurança e não em tópicos mais leves da indústria, e descreveu repetidamente a posição da Roblox como uma "situação de grande responsabilidade" que é também uma "oportunidade incrível". Rejeitou a imagem de um diretor executivo que passa os dias a olhar por cima do ombro, argumentando que a empresa tem sido preventiva em relação à segurança "desde o primeiro dia", chegando mesmo a interromper o crescimento nas primeiras semanas para criar ferramentas básicas de moderação.

Essa confiança foi mantida até o final da entrevista com o CEO da ROBLOX, quando Roose fez uma pergunta pessoal: se o Roblox seria seguro o suficiente quando seu próprio filho pedisse para jogar. Baszucki foi mais longe do que um simples sim.

"O Roblox é uma plataforma fantástica neste momento para o seu filho", disse ele, oferecendo-se para mostrar métricas internas sob sigilo, se necessário, e acrescentando que os pais continuam a ser "o árbitro final da responsabilidade". - David Baszucki.

A resposta captura a posição da empresa em miniatura. A Roblox posiciona-se como estando já à frente da curva, já mais segura do que muitos dos seus pares, já utilizando ferramentas que outros acabarão por adotar. A questão não resolvida é se essa autoavaliação corresponde à experiência das famílias que viram casos de aliciamento ou exploração emergirem da plataforma, ou dos criadores e defensores que dizem que os seus próprios avisos foram ignorados até que os processos judiciais e as manchetes forçaram uma resposta.

Nada disto apaga o que o Roblox construiu. A plataforma tem um papel de manutenção na economia mais alargada dos jogos em linha: é simultaneamente um conjunto de ferramentas criativas e um enorme centro social onde as crianças aprendem como funcionam as comunidades em linha, para o melhor e para o pior. O episódio do Hard Fork mostra como essa posição pode ser frágil quando a confiança oscila. As observações de Baszucki não introduziram factos novos sobre os sistemas de segurança da Roblox, mas revelaram como a liderança da empresa classifica as suas prioridades. A inovação, a escala e a visão de longo prazo da plataforma estão no centro; o reconhecimento claro do dano está mais próximo da borda.

Leia também, Roblox ultrapassa os 100 milhões de utilizadores diários activos, um marco que sublinha a rapidez com que a audiência da plataforma cresceu e porque é que cada decisão sobre segurança, moderação e política tem agora consequências que vão muito além de uma única entrevista do CEO do ROBLOX.