Existem várias técnicas, mas a que eu uso é a de eliminação. Por exemplo: esse número já não pode ser dividido por nenhum número divisível por 5 ou por 3 ou qualquer par. Aí vou subindo e começando a dividir por primos, mas já dá para eliminar alguns de cara (os que acabam em 7, por exemplo) e etc.
O mais fácil, no entanto, é criar um algoritmo.