Предположим, что разработана специализированная хэш-функция, отображающая множество последовательностей байт (длиной 64) в хэш-значения (длиной 4 байта).
Логично, что инъекция невозможна и коллизий не избежать, но как проверить главное свойство хэшей - равномерность распределения выходных результатов?
Перебирать все возможные входные значения 2^512 нереально.
Для правильного вопроса надо знать половину ответа
Если достаточно нестрогого доказательства, то методом Монте-Карло. Генерируете случайные блоки, считаете хэш, смотрите его распределение.
Если нужно строгое доказательство - либо полный перебор, либо аналитически.
Проведите над массивами значений, полученных после хеширования случайных наборов входных данных, тесты на случайность (DieHard, FIPS 140-1 и аналогичные)