Ну всё правильно. Ты пытаешься печатать непечатаемые символы.
Для этого придумали шестнадцатеричные коды.
Переводи байты в HEX и наслаждайся
import binascii
filename = 'test.dat'
with open(filename, 'rb') as f:
content = f.read()
print(binascii.hexlify(content))