Судя по даташиту, те два примера, что вы приводите — это сопоставление значений по умолчанию из документа и данные считанные из реальной железки. Но поскольку это калибровочные данные, то они могут легко отличаться от дефолтных значений в том случае, если железка к вам пришла не прямо с конвейера (да и то...). А чему соответсвуют приведенные вам значения при использовании стандартного формата (float)? Проверьте, находятся ли они в рамках заданного диапазона значений. Ну и еще можно байты посвопить на тему младший/старший вперед.
