Кажется понял что тут, смотри, если замениш эти стоки на мои у тебя всё округлиться
RadiusX="50" RadiusY="50" />
RadiusX="50" RadiusY="50" >
Только есть одно НО.. анимация поверх рамок и поэтому не всё так гладко, как не пытался твой код переписать, ни в какую, может просто подзабыл как ( давно забросил с#)