А ларчик просто открывался.
Формат ячеек нужно применять только после применения стилей для таблицы. Т.е. сначала SetSharedStyle(), и только потом ApplyFormatCell().
Скорее всего это просто PNG изображение с прозрачностью. Такой вариант наиболее совместим со всеми браузерами. А внутри onClick="$('body').scrollTo('#target');" который скролит до нужного элемента.
Если у него абсолютное позиционирование относительно body, можно указать right: 0
Второй вариант, вложить его в прозрачный div, растянутый на весь viewport с position: relative, тогда дочерний элемент не полезет наружу.
JavaScript. Вероятнее всего, на сайте со скриншота именно JS. Кстати, Popover в Bootstrap умеет подыскивать себе удобное местоположение, не уходя за границы экрана
