Вот неплохой пост по теме:
blog.stevenlevithan.com/archives/regex-recursion
Но помните, что иногда фигурные скобки могут встречаться и в литералах.
Думаю, что единственным стопроцентно правильным решением является применение парсера, а не регексов. Но в простых случаях вполне может прокатить способ из статьи.