В PHP есть параметр
post_max_size, который контролирует размер данных, принимаемых через POST.
Попробуйте
ini_set("post_max_size", "100M");
в самом начале скрипта, который обрабатывает этот AJAX-запрос.
Но скорее всего нужно менять конфигурацию в php.ini, или прописывать .htaccess для конкретной директории, потому что
ini_set() будет срабатывать после факта передачи файла, когда уже поздняк метаться.