Первое: чем вас не устраивает
<button>, зачем использовать тег
<a>?
Второе: в TBS3 селектор btn-group-vertical в каскаде с btn и т.д. а не с
<button>, но тег
<a> это строчный элемент, для того чтобы всё работало, нужно перевести его в блочный:
<a style="display:block;">
или через css:
.t {display:block;}
PS:
<a class="t ymodal" url="окно">
<button class="btn btn-info"> Открыть окно</button>
</a>
- полная чушь! Первый раз вижу чтобы кнопку помещали внутрь ссылки :) вот так будет правильно:
<a class="t ymodal btn btn-info" url="окно">Открыть окно</a>
и не забываем в css перевести в строчный:
.t {display:block;} 