Можно позаимствовать подход у распознавателей жестов (например,
All-in-one Gestures).
По мере рисования жеста (подписи), программа определяет направление движения мыши (стилуса), «округляя» его до одного из четырёх основных направлений: left, right, up, down. Повторение одного и того же направления игнорируется (то есть «LLLLL» считается одной «L») — это нивелирует разницу в масштабах жестов.
В результате, даже такой сложный жест как подпись можно представить в виде сравнительно короткой последовательности а-ля ULDRUDRULDR (символ @ в моём исполнении), где каждый символ занимает всего два бита. Таким образом, десятка байт с лихвой хватит на хранение даже сложной подписи.
Распознавание направления легко делается на лету: когда стилус сместился на N пикселей от начальной точки, сравниваем Δx c Δy, и их знаки; если полученное направление отличается от предыдущего — добавляем его в цепочку распознанных и goto 1. Мелкие дрожания руки можно отфильтровать, задав N > 1.
Только прежде, чем реализовывать в железе, проверьте точность распознавания на компьютере, хоть в том же браузере. На всякий случай :)