Самый компактный способ хранения двоичных данных это BINARY или VARBINARY
Другой вариант хранить в виде hex-строки, если использовать функцию bin2hex() и тогда можно использовать CHAR или VARCHAR.
Например md5-хэш можно хранить в BINARY(16) тогда одна запись будет занимать в хранилище 16 байт, или в более привычном hex представлении (строка 32 символа) в CHAR(32) и тогда одна запись будет занимать уже вдвое больше памяти в хранилище - 32 байта.