UIBackgroundModes к делу не относится.
cocoawithlove.com/2011/04/background-audio-through-ios-movie.html
Если в общем, то для решения проблемы есть два варианта:
1. Простой. Написать свой плеер с блекджеком, котоырй бы умел работать в бекграунде. Например, через AVFoundation.
2. Сложный и геморный. Продолжать пользовать ваш текущий класс, однако, при переходе в бекграунд исполнять финт ушами и переключаться с проигрывания видео на проигрывание аудио (вам предварительно надо будет его выдрать из видео).
И в обоих случаях, вам придется повоевать с AudioSession и ее режимами смешивания.
