Каким образом в Bootstrap задается ширина колонки, которая например будет между указанных `col-sm-4` и `col-sm-5`?
Никаким.
Я в таких случаях добавляю в bootstrap.css собственный класс, например "col-sm-4-whalf", и высчитываю, чему должна быть равна его ширина. У sm-4 ширина 33,333333%, у sm-5 - 41,666667%. Складываем, получаем 75%, делим на два. Итого ширина нашей колонки "4-с-половиной" - 37,5%.
Но вообще нужно при проектировании сайта определятся с инструментами, чтобы таких проблем не было.