Если я правильно понял вопрос, то самое верное, это скачать Less исходники бутстрапа и посмотреть математику как они рассчитывают.
все переменные тут variables.less
сам грид тут grid.less
Вообще после того как опубликовал этот вопрос решил прям сильно замарочиться и сделать сайт по всем канонам дизайна в фотошопе. Сейчас после того как написали про иллюстратор - посмотрел сколько элементов у меня векторных там и сколько растра... пожалуй да.. вектора больше и наверно правильнее будет иллюстратор. Но почему тогда стандарт шаблонов везде фотошоп?