clip-path правильный вариант, только нужно его использовать два раза. У основной кнопки фон цвета рамки, к ней применяется clip-path первый раз. Внутри кнопки ещё один элемент с фоном цвета основного фона кнопки, этот внутренний элемент должен быть на 1px (или больше если рамка шире) меньше с каждой стороны. К этому элементу применяется второй clip-path с теми же размерами.
Внутренний элемент можно сделать например через
position: absolute;
top: 1px;
left: 1px;
right: 1px;
bottom: 1px;