Facebook promete criptografia de ponta-a-ponta no WhatsApp e diz nunca poder ler suas mensagens. Mas como um passe de mágica, pode “analisar” suas “atividades” para te banir.
Mas ele nunca precisou ler as mensagens para identificar comportamentos estranhos ou inapropriados.
E como se detecta “comportamentos estranhos” e “inapropriados” a não ser vendo o conteúdo que o sujeito envia ou encaminha? 
Vendo comportamento de envio de mensagem, como envio em massa de mensagem ou redirecionamento em excesso.
Conta recém-criada enviando 100 mensagens de uma vez é estranho e inapropriado, por exemplo.
Por sinal eu respondi algo parecido pra você em outro tópico, mas com um documento do próprio Whatsapp:
Outra coisa, você pode denunciar uma conta quando ela envia uma mensagem pra você pela primeira vez (não lembro de é só para contas que não estão nos seus contatos, mas enfim). E esse é outra forma que o Whatsapp tem para basear sua decisão de banimento.
Vendo comportamento de envio de mensagem, como envio em massa de mensagem ou redirecionamento em excesso.
Soa bem bonito na teoria, e faria sentido se pessoas fossem banidas SÓ por este motivo. Mas os termos de serviço deles também incluem o seguinte:
You will not use (or assist others in using) our Services in ways that: (a) violate, misappropriate, or infringe the rights of WhatsApp, our users, or others, including privacy, publicity, intellectual property, or other proprietary rights; (b) are illegal, obscene, defamatory, threatening, intimidating, harassing, hateful, racially or ethnically offensive, or instigate or encourage conduct that would be illegal or otherwise inappropriate, such as promoting violent crimes, endangering or exploiting children or others, or coordinating harm; (c) involve publishing falsehoods, misrepresentations, or misleading statements; (d) impersonate someone; (e) involve sending illegal or impermissible communications such as bulk messaging, auto-messaging, auto-dialing, and the like; or (f) involve any non-personal use of our Services unless otherwise authorized by us.
Como seria possível eles detectarem qualquer um desses outros infringimentos? 
Outra coisa, você pode denunciar uma conta quando ela envia uma mensagem pra você pela primeira vez (não lembro de é só para contas que não estão nos seus contatos, mas enfim). E esse é outra forma que o Whatsapp tem para basear sua decisão de banimento.
Tá, você denuncia uma conta e o WhatsApp terá que verificá-la. Como eles vão saber se a conta em questão infringe os termos de uso sem ler as mensagens que a pessoa enviou?
Se ta difícil para os “influenciadores” no Instagram, imagina para o afegão médio no Whatsapp.
Eles usam 3 etapas: No momento da criação da conta, padrões de uso na escrita/envio e denúncias. Tudo isso processado usando AI e modelos de Machine Learning.
Tem a fonte ou é só um chute?
Não sei se posso compartilhar link de matéria de site concorrente. Mas de qualquer forma, só pesquisar no Google, que você encontra uma matéria de 2019 com o título “ Entenda como o WhatsApp combate spam sem ler mensagens criptografadas”.
Este tópico foi automaticamente fechado após 92 dias. Novas respostas não são mais permitidas.