Вадим Щепотьев, если просто hex строку преобразовать в массив байт, то нужно в цикле откусывать от строки по два символа и вызывать parseInt.
Как-то так:
function(str){
var result = [];
var i = 0;
for (; i < str.length; i+=2) {
result.push(parseInt(str.substr(i,2),16));
}
return result;
}