Roblox e Grok ganham destaque enquanto abordagens para proteger crianças online continuam a se desenvolver

Plataformas Digitais Respondem a Preocupações com a Segurança de Adolescentes

Com o aumento do escrutínio sobre como plataformas digitais, de jogos e redes sociais protegem jovens usuários, as empresas estão promovendo mudanças para lidar com preocupações sobre supervisão insuficiente e defender suas soluções propostas.

Pontos Principais

• Plataformas de redes sociais e jogos estão introduzindo medidas para identificar melhor menores de idade e restringir sua exposição a conteúdo adulto ou interações com usuários mais velhos.
• Enquanto as plataformas afirmam estar atentas à privacidade, defensores têm manifestado preocupações sobre os riscos das tecnologias de verificação de idade.

Esta semana, Roblox implementou uma nova exigência para que os usuários verifiquem sua idade para continuar utilizando o chat, juntando-se a outras empresas de tecnologia na atualização de estratégias para proteger menores online.

Meta (META) começou a filtrar no Instagram conteúdos que seriam classificados como PG-13 para usuários adolescentes, e a OpenAI está modificando as interações do ChatGPT com indivíduos menores de idade. Enquanto isso, o Grok agora limita seu recurso de geração de imagens apenas para clientes pagantes após polêmica sobre a criação de imagens de pessoas reais, incluindo menores, com roupas reveladoras.

Essas mudanças ocorrem enquanto provedores de serviços digitais enfrentam críticas por não monitorarem suficientemente adolescentes, e suas soluções — como verificação de identidade, escaneamento biométrico e análise comportamental — levantam alertas entre grupos de privacidade como a Electronic Frontier Foundation.

De acordo com a organização, “Requisitos tão restritivos ameaçam os princípios centrais de uma internet aberta e livre.”

Significado Dessas Mudanças

A forma como essa questão se desenvolve traz consequências financeiras e legais para as empresas, já que precisam contratar fornecedores de verificação de idade e considerar a conformidade regulatória.

Roblox (RBLX) anunciou na quarta-feira que está introduzindo medidas para garantir que os usuários só possam se comunicar com pessoas de idade semelhante. Para enviar mensagens, os usuários devem passar por uma “estimativa facial de idade” ou fornecer um documento de identidade com foto. A empresa relata que mais da metade de seus usuários ativos já participou do processo, embora alguns tenham reclamado de serem classificados incorretamente e bloqueados do envio de mensagens. Nem Roblox nem a Persona, empresa por trás da ferramenta de verificação, responderam aos pedidos de comentário.

As contas para adolescentes do Instagram, lançadas há cerca de um ano, foram bem recebidas pelos pais, segundo a empresa. Recentemente, o Instagram começou a impedir que essas contas visualizem conteúdos classificados como PG-13.

Edward Patterson, porta-voz da Meta, declarou: “Adotamos uma abordagem holística para garantir que adolescentes tenham experiências adequadas à sua idade em nossas plataformas.”

O Instagram afirma ter incorporado “salvaguardas de privacidade e proteção de dados” para usuários mais jovens. Yoti, empresa que fornece serviços de estimativa de idade, exclui selfies analisadas e imagens de documentos de identidade em até 30 dias, segundo o Instagram.

A Persona, responsável pela estimativa de idade para o Roblox e OpenAI, também exclui as imagens dos usuários após a conclusão do processo de verificação, relatam as empresas.

No Grok, agora os usuários só podem gerar imagens se possuírem uma assinatura. Essa política foi implementada recentemente após a equipe de segurança da plataforma enfatizar seu compromisso com a remoção de conteúdo ilegal e cooperação com as autoridades quando necessário.

Elon Musk, proprietário da X, comentou: “Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências daqueles que enviam material ilegal.”

Mudanças adicionais podem estar por vir, visto que governos ao redor do mundo consideram novas regulações sobre como as plataformas online lidam com jovens usuários. Por exemplo, o primeiro-ministro da Nova Zelândia propôs proibir menores de 16 anos de acessar redes sociais, seguindo restrições impostas pela Austrália para adolescentes mais jovens.

Nos Estados Unidos, legisladores também debatem novas regras para a segurança de jovens online. A Electronic Frontier Foundation observa que mais da metade dos estados americanos já promulgou leis exigindo algum tipo de verificação de idade em plataformas digitais.