для начала точно определите, с чего генерируется хеш-сумма, получите примеры этих данных. в идеале - в отладчике.
как только вы получите примеры хешируемых данных, определите изменяемую часть. допустим, изменяется только 6 символов, сама captcha - в этом случае перебор данных возможен и не займет много времени. но если, к примеру, в этих данных содержится случайный идентификатор символов на 16, перебор чрезвычайно усложняется и подбор становится невозможным в разумное время
