Как заставить MySql считать текстовое значение столбца HEX числом?

Question

[Тимофей Яценко]

Суть задачи: необходимо побитово сравнить два HEX значения, одно приходит из php, второе лежит в базе в текстовом виде. Проблема в том, что не удаётся вытащить второе значение ввиде HEX числа, только как строку. Первое число "вклеивается" в запрос на строне php примерно так "SELECT hash ^ 0x".$hash." FROM...." и с этим проблем нет.

Как заставить MySql считать текстовое значение столбца HEX числом?

Например, если составить запрос руками и вписать туда 2 hex
SELECT 0xd9d8266fd990160f ^ 0xd9d8266fd990160e

То вернет, как положенно 1. (^ это побитовый оператор XOR)

Но если сравнить со значением из колонки, т.е.
SELECT 0xd9d8266fd990160f ^ column from table
То возвращает ерунду, т.к. считает значение колонки не HEX, а string.

Answer 1

[Сергей Сенкевич]

Если столбец hash хранит строку 'd9d8266fd990160f', то попробуйте такой вариант запроса:

SELECT CONV(hash, 16, 10) ^ 0xd9d8266fd990160e FROM table

Comments

[Сергей Сенкевич]

Проверил у себя на сервере - работает. Но есть ограничение: сумма hash и второго HEX значения не должна превышать значения 0xFFFFFFFFFFFFFFFF.

[nilagor]

Странно, но у меня не работает. Вот запрос: SELECT CONV(hash, 16, 10) ^ 0xd9d8266fd990160f FROM `cat_images` WHERE hash = 'd9d8266fd990160f'
Строковое значение в столбце hash посимвольно совпадает с hex числом в select, то есть результатом XOR должен быть 0, но я получаю 11972777347531139568

[Сергей Сенкевич]

@nilagor я об этом написал в первом комментарии - есть ограничение. В принципе, оба ваших числа 64-х битные и проблем быть не должно. Но на деле, где-то в дебрях MySQL происходит переполнение и она начинает выдавать неверный результат. А если сумма двух операндов меньше 0xFFFFFFFFFFFFFFFF, то все считается правильно. Почему так, пока не знаю...

[nilagor]

@ssenkevich да точно, виноват. Виндовый калькулятор в режиме программиста обманул меня, молча упав с переполнением) сложил руками - результат действительно больше ограничения. Спасибо!

[nilagor]

@ssenkevich на другом ресурсе подсказали полностью рабочее решение - обернуть CONV в CAST( AS UNSIGNED). В таком случае ограничение MySQL увеличивается и в данном конкретном случае этого хватает.

[Сергей Сенкевич]

@nilagor вот я так и знал!)) Только выдалась свободная минутка и открыл консоль, чтобы попробовать CAST - и тут ваш комментарий).

Answer 2

[Dron Krzh]

dev.mysql.com/doc/refman/5.0/en/string-functions.h...

Comments

[Тимофей Яценко]

Пробовали, не работает, цитата из документации

For a string argument str, HEX() returns a hexadecimal string representation of str where...

Т.е. HEX просто берет любую строку, и возвращает ее HEX представление, как СТРОКУ. А для наших строк, которые и так являются HEX, происходит вообще каша.

[Dron Krzh]

А, не правильно понял, что бы делать такую выборку, нужно что бы тип данных был HEX.

[Тимофей Яценко]

Мы тоже так подумали, но не нашли этот тип данных в mysql. Пробовали int, bigint, binnary, blob.

[Dron Krzh]

dev.mysql.com/doc/refman/5.7/en/hexadecimal-litera...

[Тимофей Яценко]

Ага, эта статья изучена до дыр. Перепробованы всевозможные варианты подстановок в запрос.
Т.е. варианты аля
SELECT X'columnName';
Не работают. Mysql упорно пытается распарсить выражение X'columnName', как имя колонки и падает

[Dron Krzh]

А если делать:

SELECT 0xd9d8266fd990160f ^ CONCAT('0x', column) from table

[Тимофей Яценко]

CONCAT строку возвращает