Я делал, но для angular. Суть в том, что при серверном процессинге в параметр ajax при конфигурации таблицы нужно подать функцию. Эта функция будет на вход получать одним из параметров все данные о таблице, включая сортировку, фильтр, страницу и прочее. Дальше вы просто посылаете нужные из этого данные аяксом на сервак и по ответу биндите страницу, синхронизируя ее со скоупом если надо..
Можно вместо функции сразу REST url давать, но тогда разбор параметров должен быть на сервере, а он слегка избыточен, т.к. DataTables посылает все столбцы и прочую служебную инфу.