Adolescentes estão expostos a conteúdos impróprios em plataformas interativas de transmissão ao vivo, como jogos, entretenimento, esportes e música. Esta é a principal conclusão de um estudo publicado na revista Social Network Analysis and Mining, que investigou, por meio de simulação com robôs (bots), a experiência de usuários de 13, 15 e 18 anos, no Brasil e nos Estados Unidos.

Mecanismos atuais de proteção etária não impedem o contato de menores com conteúdo potencialmente nocivo. Isso ocorre mesmo quando o usuário declara ter menos de 18 anos. O nível da exposição das crianças a conteúdos inapropriados é semelhante ao observado entre usuários adultos.

A pesquisa faz parte de um estudo mais amplo, conduzido sob a orientação da professora do Departamento de Ciência da Computação da UFMG, Jussara Almeida, e do professor da Pontifícia Universidade Católica de Minas Gerais (PUC Minas) Humberto Torres Marques-Neto. Eles integram o Instituto Nacional de Ciência e Tecnologia em Inteligência Artificial Responsável para Linguística Computacional, Tratamento e Disseminação de Informação (INCT TILD-IAR), que tem sede no DCC da UFMG.

Os pesquisadores contam que o projeto nasceu como uma tese de doutorado. No entanto, os resultados recentes têm atraído a participação de outros cientistas brasileiros e italianos, além de 11 bolsistas de graduação e de pós-graduação. O objetivo é aumentar a segurança de crianças em ambientes virtuais. Para isso, eles estão desenvolvendo uma nova forma de classificar os conteúdos ao vivo, além de novas tecnologias baseadas em inteligência artificial responsável que possam fazer avançar ações dinâmicas nesse sentido protetivo.

Simulação

Nenhuma criança real participou da pesquisa. Em linguagem científica, foram criadas seis personas, ou seja, seis robôs que simularam ser usuários de 13, 15 e 18 anos, nos dois países. Esses agentes atuavam de forma passiva: assistiam às transmissões, coletavam os dados de interesse, mas não interagiam com outros usuários. Isso tanto para proteger possíveis participantes quanto os usuários das plataformas.

Para simular uma criança norte-americana, acessando a plataforma Twitch a partir dos Estados Unidos, os pesquisadores usaram tecnologia VPN (Virtual Private Network). Essa rede virtual criptografa o tráfego de internet e mascara a localização real do usuário. Assim, os sistemas da plataforma eram levados a entender que aquele perfil estava realmente conectado a partir do país declarado. Isso permitiu comparar a experiência entre países com maior controle experimental.

Por cerca de 30 dias, os robôs acessaram a plataforma seis vezes por dia, em horários variados. Ao final, os pesquisadores analisaram 4.260 transmissões, 2.040 canais e aproximadamente 443 mil mensagens de chats. O método permitiu observar o funcionamento real dos algoritmos de recomendação e a dinâmica espontânea das interações.

Temas nocivos identificados

O estudo aplicou modelos automáticos de análise de sentimento e toxicidade. Abaixo, os principais tipos de conteúdo impróprio detectados:

A análise automática indicou que cerca de 5% das mensagens continham conteúdo tóxico. Os cientistas alertam para o fato de que, à primeira vista, o percentual pode parecer baixo, contudo, em transmissões com milhares de comentários por hora, isso representa contato recorrente com linguagem agressiva.

Entre os conteúdos identificados estavam insultos, palavrões, discurso de ódio, homofobia, racismo, ataques direcionados a participantes e comentários sexualmente explícitos. A exposição foi semelhante para perfis infantis e adultos. Portanto, a idade declarada não alterou significativamente o ambiente ao qual o usuário foi submetido.

O dado central não é apenas a presença de jogos classificados para maiores. O estudo mostra que, mesmo quando o jogo exibido é adequado à faixa etária, o chat pode concentrar interações nocivas. “O problema, portanto, vai além da classificação indicativa tradicional. Ainda não é possível mensurar os efeitos do impacto desse conteúdo tóxico no desenvolvimento das crianças”, alerta Jussara Almeida.

Algoritmos globais, regras diferentes

O tamanho do desafio cresce à medida em que se compreende melhor a realidade dessa exposição. A solução passa pelo desenvolvimento de fatores técnicos, mas também envolve aspectos econômicos e regulatórios. “Os protocolos de classificação desses conteúdos variam entre países. Um sistema global precisa adaptar conteúdo às legislações locais, que nem sempre convergem”, alerta Humberto Torres, da PUC Minas.

Além disso, jogos com maior grau de violência frequentemente apresentam melhor desempenho comercial, o que influencia estratégias de recomendação. Algoritmos priorizam engajamento e retenção. E o comportamento de crianças, naturalmente curiosas, é um fator preponderante nesse contexto. Elas podem ser facilmente conduzidas por sugestões automáticas a conteúdos progressivamente mais intensos. “A classificação etária funciona dentro de sua lógica. No entanto, ela não controla a dinâmica social em tempo real, nem resolve a tensão entre modelo de negócio e proteção infantil, alerta a professora Jussara, do DCC.

Diante dos resultados observados, a equipe está trabalhando no desenvolvimento de mecanismos que possam ser mais eficientes para detectar padrões tóxicos com maior precisão. Em consequência disso, talvez seja possível criar filtros sensíveis à idade e ampliar a transparência das recomendações. A ideia central continua sendo reduzir a exposição de crianças e pré-adolescentes a conteúdos nocivos gerados por outros usuários, sobretudo em transmissões internacionais.

O estudo conclui que os mecanismos atuais da plataforma analisada, a Twitch, conhecida internacionalmente, não impediram a exposição de menores a conteúdo potencialmente inadequado. A idade declarada pelos perfis não resultou em diferenciação efetiva na experiência observada durante as transmissões ao vivo e nas interações em chat.