Algoritmos moldam crianças e desafiam pais na educação com tecnologia

Os algoritmos que definem o que aparece nas telas de TikTok, YouTube e Instagram, por exemplo, têm influenciado diretamente o comportamento de crianças e adolescentes — e, segundo denúncias recentes do influenciador Felca, também podem ser usados para facilitar crimes de exploração sexual infantil. O youtuber alertou que o sistema de recomendação das plataformas, ao priorizar vídeos com base em engajamento, ajuda a conectar criminosos a conteúdos sexualizados de menores, criando um ambiente propício para redes de pedofilia atuarem.

A avaliação é compartilhada pela empresa de cibersegurança ESET, responsável pela iniciativa Digipais, que orienta famílias sobre o uso seguro da tecnologia. Segundo a companhia, esses sistemas, que personalizam vídeos, anúncios e sugestões de conteúdo com base no histórico de uso, podem tanto estimular o aprendizado quanto reforçar vícios digitais, padrões de consumo e até visões radicais.

Algoritmos são conjuntos de regras usados para processar dados e tomar decisões. No universo digital, isso significa decidir quais vídeos, produtos ou anúncios cada pessoa verá primeiro. Plataformas como TikTok, YouTube e Instagram, por exemplo, usam essa ferramenta para reter atenção do usuário, sugerindo conteúdo baseado em preferências e histórico de navegação.

“Tratam-se de mecanismos muito eficientes na maior parte do tempo, que entregam conteúdos quase personalizados com os interesses das pessoas que utilizam as redes sociais. Mas é importante lembrar que, assim como em outras áreas da vida, os benefícios costumam vir acompanhados de riscos”, alerta Daniel Barbosa, pesquisador de segurança da ESET no Brasil.

Quando o algoritmo se torna porta de entrada para crimes

O caso denunciado por Felca reforça uma das preocupações mais graves no debate sobre tecnologia e infância: a possibilidade de que algoritmos não apenas exponham menores a conteúdos inadequados, mas também facilitem a ação de criminosos. Segundo o influenciador, redes de pedofilia exploram brechas no sistema de recomendação das plataformas, que prioriza vídeos com maior retenção de público. Assim, se um vídeo sexualizado de criança recebe interações — mesmo que denunciado —, há risco de que conteúdos semelhantes sejam recomendados a outros usuários com comportamentos parecidos.

Felca também alerta para o uso de códigos como “trade” (“troca”, em inglês) em comentários, que servem para que criminosos negociem imagens ilegais dentro das próprias publicações das vítimas. Esse tipo de comunicação, somado à ausência de mecanismos eficazes de proteção por idade, transforma ambientes digitais em canais de contato e distribuição de material criminoso.

Para Barbosa, o risco é potencializado pela natureza automatizada do algoritmo: “Ele não avalia contexto ou ética, apenas engajamento. Por isso, o acompanhamento ativo dos pais e o uso de ferramentas de segurança são essenciais para interromper esse ciclo”.

O que os adultos podem fazer diante desse cenário

A primeira recomendação da ESET é desmistificar os algoritmos: mostrar às crianças como funcionam esses sistemas e explicar que eles usam preferências anteriores para recomendar vídeos, produtos e perfis. Essa compreensão fortalece o pensamento crítico e evita que aceitem passivamente tudo o que veem — inclusive conteúdos potencialmente perigosos ou inadequados.

A empresa explica que também é fundamental ensinar a interromper ciclos nocivos no algoritmo, usando recursos como “ver menos disso”, “não tenho interesse” e denunciando vídeos ou perfis suspeitos. Seguir criadores diversos e buscar ativamente conteúdos de qualidade ajuda a construir um ambiente digital mais plural e seguro.

No contexto de crimes como os denunciados por Felca, especialistas recomendam que pais e responsáveis aprendam e ensinem as crianças a reconhecer sinais de exploração, como comentários com termos-código (“trade”) ou interações vindas de perfis desconhecidos, e a nunca interagir com esse tipo de conteúdo. Nessas situações, é imprescindível acionar as autoridades e as próprias plataformas para remoção e investigação.

Por fim, a ESET aconselha manter o diálogo aberto. Conversar com as crianças sobre o que elas veem online, explicar por que certos conteúdos são recomendados e incentivá-las a refletir sobre essas escolhas contribui para que se sintam seguras para relatar situações estranhas ou desconfortáveis.

“Educação, conversa e limites bem estabelecidos transformam os algoritmos de potenciais ameaças em ferramentas valiosas. O objetivo não é excluir a tecnologia da vida das crianças, mas guiá-las para um uso consciente e seguro ao longo do tempo”, reforça Barbosa.