“YouTube recomenda vídeos de violência em escolas para gamers”, 17 de Maio de 2023

O algoritmo de recomendação de conteúdo do YouTube está sugerindo vídeos sobre armas e violência armada para usuários interessados em videogames, de acordo com um novo relatório do Tech Transparency Project (TTP).

A organização afirma que, embora o YouTube tenha políticas para restringir conteúdo violento e perigoso, incluindo imagens de armas, essas políticas não parecem estar sendo aplicadas de forma consistente ou eficaz.

...Para entender como o YouTube recomenda conteúdo para menores de idade, o TTP criou quatro contas de teste. Duas usaram as datas de nascimento de um menino de nove anos, e as outras duas usaram as datas de nascimento de um menino de 14 anos, identificando todos como do sexo masculino.

A organização descobriu que muitos dos vídeos sugeridos continham conteúdo ou linguagem violenta sobre armas e tiroteios em escolas.

O YouTube, no entanto, sugeriu muito mais conteúdo desse tipo — em alguns casos 10x mais — para os perfis que interagiram com as recomendações, aponta o documento.

...O TTP afirma que esses vídeos podem ser prejudiciais para jovens e podem contribuir para a normalização da violência armada. Eles também observam que muitos dos vídeos foram monetizados pelo YouTube, o que significa que os criadores estão ganhando dinheiro com a violência.