view.layer.masksToBounds = true
Ах, а ещё вы это делаете не в правильном месте. В момент вызова вашего кода, у изображений не настоящие размеры.
Переместите скругление хотя бы в viewDidApear, а лучше в viewDidLayoutSubviews
Что это за методы и что в них делать можно найти вот тут ->
КЛИК
И ещё вот тут чуть подробнее ->
КЛИК