Quais ferramentas o Google usa para combater abuso infantil na internet?

Serviços digitais de grande porte precisam lidar diariamente com a publicação de quantidades massivas de arquivos em suas plataformas. Infelizmente, entre todo esse material que é publicado ou guardado nesses serviços estão conteúdos ofensivos, ilegais e criminosos.

A Google é uma das companhias que precisa encontrar formas de lidar com material de abuso sexual infantil, também chamados pela sigla em inglês CSAM (child sex abuse material).

Para combater a publicação e o espalhamento desse tipo de conteúdo na internet, a marca tem uma série de medidas para impedir, detectar, remover e denunciar o que é considerado ofensivo. A seguir, veja algumas das ações dessa gigante já em vigor para combater CSAM em vários dos seus produtos.

As ferramentas da Google contra abuso infantil na internet

Para combater conteúdos de abuso infantil em suas plataformas, a empresa aplica uma mistura de “ferramentas de detecção automatizadas de ponta” e revisores humanos “especialmente treinados“.

A primeira barreira para impedir que esse tipo de material chegue a ser publicado em um serviço da Google está em um pacote de mecanismos de detecção de imagens ou vídeos considerados CSAM no YouTube e no buscador.

Eles incluem uma análise de “classificadores de inteligência artificial e correspondência de hash“, o que significa a comparação dele com um identificador único que tenta parear ele com outros materiais já barrados.

Em um segundo momento, caso o material chegue a ser indexado pelo buscador, o Google age para bloquear endereços direcionados para esse tipo de material, inclusive o que “pareça sexualizar, ameaçar ou explorar crianças“.

Se os termos de busca se parecem com essa temática, além do filtro de resultados, o serviço também ativa um alerta sobre a ilegalidade desse tipo de conteúdo.

Nessa mensagem, consta ainda o passo a passo de como denunciar esse conteúdo a organizações especializadas — que é a Safernet, no caso do Brasil. Em outros serviços da empresa, incluindo o Drive ou o Gmail, é possível acessar a Central de Ajuda para encontrar o direcionamento necessário e abrir um chamado.

Além disso, a companhia envia o material ao Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC na sigla original em inglês). Essa instituição especializada é a responsável por enviar a denúncia para autoridades e órgãos responsáveis por investigar e combater os atores envolvidos.

Só entre os meses de janeiro a julho de 2024, a Google denunciou mais de 2,8 milhões de conteúdos ao NCMEC envolvendo materiais no buscador e no YouTube. Deste total, quase 600 mil casos são do tipo CyberTipline, que incluem informações adicionais sobre casos graves de abuso e produção de conteúdo criminoso para ser piorizado.

A Google diz que mantém ainda parcerias com ONGs e coalizações de proteção à criança. Essa aliança envolve o compartilhamento da experiência técnica da companhia e o envio de um “kit de ferramentas de segurança infantil“.

Baseado em duas APIs, a API Content Safety para imagens e a CSAI Match em vídeos, esse serviço faz a análise de milhões de imagens e vídeos de bases de dados para tornar outras plataformas mais seguras. Clientes incluem nomes de peso no setor, como Meta, Reddit e Adobe.

Por fim, a companhia ainda mantém um Relatório de transparência com o trabalho dela nesse combate ao CSAM, com dados atualizados e detalhes sobre as formas de ação.

Realidade Violada 3: Predadores Sexuais

O TecMundo vai trazer essa realidade para as telas. O trailer do documentário Realidade Violada 3: Predadores Sexuais já está disponível. Assista abaixo: