Вот один из вариантов решения.
PS: По ссылке просто пример возможной реализации, конечная реализация зависит от макета и окружения блока к которому надо применить данный эффект. На истину не претендую.
PPS:
exmmo,
madmages автор не совсем верно описал задание, однако оно понятно из приложенной картинки, не граница блока, а оформление углов блока.