Qual metodologia de testes usar para cenários complexos?

Vou pegar um exemplo prático, não sei se é o melhor, mas expressa a dúvida que estou tendo agora. Suponhamos que eu desenvolvi um algorítmo de checksum, como um CRC. Como vou garantir que esse algorítmo funciona sem erros? Sem muitas possibilidades de teste possível, como testaria todas elas? Nesse caso, teria que pegar todas as combinações de bytes possíveis para gerar os checksum correspondentes e ver se batem o resultado com o previsto? Eu se que é óbvio que não, mas como posso saber se um código com várias (leia-se: milhares) possibilidades de teste funciona corretamente? Qual metodologia usar?