Если высота кнопки известна, то может как то так? http://jsfiddle.net/gvk4f/21/
Можно обернуть текст внутри кнопки в <span> и ему назначить нужное выравнивание: http://jsfiddle.net/gvk4f/2/</span>
Либо использовать вариант, предложенный @LazyProger и @Tarcus, либо использовать другой элемент.