twixoff

Несомненно fancybox)
Иногда magnific popup, но не проверял на кроссбраузерность.
Также частенько пользуюсь modal от bootstrap, когда нужен быстрый и просто прототип.

Для начала сделайте простое - саму карусель без эффектов. А потом уже к сложному переходите.